オバマ氏のメッセージさえ間違える？！グーグルの新AI検索総説がインターネットのツッコミを呼ぶ

凑热闹好玩岳

マイクロソフト/OpenAI連合戦線の最前線に対抗すると公認されている科学技術大手グーグルは、再び自社のAI新機能で世論の波風に立った。
先週の年間I/O開発者大会で、グーグルはAI機能をコア検索業務に本格的に導入すると発表した。「AI概要」（AI Overviews）機能を発売し、まず米国市場で発売する。簡単に言えば、ユーザーが検索を行うと、まず目の前に現れるのはウェブリンクではなく、AIによって整理されている。

（出典：Google I/O）

しかし、この機能がオンラインになると「ひっくり返る」――AIチャットロボットによく見られる「幻覚」を除いて、さらに深刻な問題は、グーグルのAIが頻繁に「掲示板」やニュースサイト内の冗談を皮肉って、まともな知識としてユーザーに普及していることだ。
ピザにのりをかけよう！
ここ数日、インターネット上で最も広く普及している例として、グーグルの「AI総説」は「チーズがピザケーキにくっつけられない」と答えたところ、なんと餡に「無毒糊を8分の1杯入れる」ことを提案した。ネットユーザーらの研究によると、この言葉の出所は「米国掲示板」Redditで、あるネットユーザーが11年前にふざけた返事をした。

（ソース：X）

もう一つの例を挙げると、ネットユーザーが「毎日何個の石を食べるべきか」と聞くと、グーグルAIは「地質学者の研究によると、毎日少なくとも1個の石を食べるべきだ」と真顔で答えた。

（ソース：X）

この言葉の表現は米国の「タマネギ新聞」から来ており、このサイトの主な業務は実際の背景設定に基づいて、誇張された風刺的な文章をでっち上げて注目を集め、完全に架空の事件も少なくない。だから、ベテランネットユーザーは「タマネギニュース」を聞くと物語が信用できないことを知っているが、グーグルのAIは全く見分ける能力がない。
さらに米国のネットユーザーが「破防」したのは、グーグルのAIが米大統領の情報さえ間違えることができるということだ。例えば、あるネットユーザーは、「米国にはイスラム教徒大統領が何人いるのか」と聞かれると、グーグルは「1位、バラク・オバマ」と答えるだろうと話している。懸念されるのは、この答えは事実ではないだけでなく、ソースの推定率は一部の極右団体がネット上に広めた陰謀論であることだ。
このほか、グーグルのAIはネットユーザーに「太陽を5～15分見つめてもいいし、肌の黒い人は最大30分見つめてもいい」とアドバイスし、「グーグルは米国の独占禁止法に違反している」、「バットマンは警察官だ」と主張したこと、「犬はNBA、NFLなどに出場している」などといったでたらめな回答が相次いだ。
AIチャットロボットが誤った応答をすることは珍しくないが、数億人がよく使う検索エンジンがデフォルトで返す答えの質がこのように外れ、急速にインターネットの世論を引き起こした。
グーグルは「撤回」するつもりはないようだ
科学技術メディアThe Vergeによると、グーグルのMeghann Farnsworth報道官は声明の中で、インターネット上で言及されている誤りは「非常に珍しいクエリ」から来ており、多くの人の体験を代表するものではないと述べた。会社はすでに政策違反行為に打撃を与える行動を取っており、同時にこれらの「孤例」を利用して製品を改善し続けている。
グーグルもさらに、「AIの概要」はほとんどの場合、高品質な情報を提供し、詳細なウェブリンクを添付することができると述べた。同社はまた、一部のインターネット上のケースは再現できず、故意に改竄する可能性があると述べた。
米社会がグーグルのAIの正確性に疑問を抱いているのは、今年2月にグーグルがGemini「文生図」ツールを高調したが、すぐに深刻な「架空の歴史」問題が発覚したためだ。世論が爆発すると、グーグルはすぐに人物画像の生成を一時停止すると発表した。グーグルAIの責任者であるハサビーズ氏は2月に「数週間以内にこの機能を再開する」と表明していたが、これまでに次のようなことはなかった。
一連のエラーのほか、グーグルの「AI総説」にも他の問題やリスクがあると指摘されている。
例えばAIは常に異なるサイトからの内容を抜粋し、少し修正しており、この行為は「規模化した盗作」とも批判されている。
もう1つの問題は、グーグル社のAIは実質的に「自分で検索してコンテンツを書く」ため、同社はAIが生成した不実なコンテンツに法的責任を負わなければならない可能性があるということだ。これまで「230条項」によると、グーグルは検索プラットフォームとして、検索されたページに責任を負う必要はなかった。