グーグル元CEO：将来AIが自己向上を実現できるようになるには人間は注意すべき

153355951

グーグルの元CEOは、人間がAI（人工知能）の電源を切る準備をするべきだと警告した。
グーグルの元CEOで執行役員のエリック・シュミット（Eric Schmidt）氏は現地時間12月15日、外信とのインタビューで、AIの出現は人類の成功を祝う価値があるにもかかわらず、AIシステムが「自己向上（self-improve）」を実現できるようになった時、人類は「その電源を切ることを真剣に考えるべきだ」と述べた。
シュミット氏によると、AIシステムの発展速度がこのように速いことは、「人類の生存上の問題」をもたらす可能性があるという。「ソーシャルメディアを見てみると、それはすでに私たちの国と世界にどれほど激しい変化をもたらしているか。情報伝達、研究開発革新、薬物開発、武器としての使用、あるいはサイバー攻撃のための使用など、より知的で強力な技術を想像すると、すべての速度は非常に速い」。
シュミット氏は、彼が就職した50年以上の間、AIと同じように速い革新的な成長率を示す技術を見たことがなく、将来の1 ~ 2年以内に独立して研究できるAIシステム、いわゆる「AI科学者」が現れるかもしれないと指摘した。一定の段階になると、AIは「ただ、私たちは誰もがこの力を持って何をもたらすか分からない」と、誰もが随行する専門家を配置することになる。
シュミット氏はAIの潜在的な危険性を重視することを公言してきた。今回のインタビューで、シュミット氏は政府がAIを監督管理する重要性を改めて強調し、現在のような激しいAI競争の中で、「ある会社は速度のためにすべての安全ステップをスキップし、真のダメージを与えるAIモデルを放出する」ことを排除しないと述べた。
シュミット氏はまた、政府と技術者は最悪の状況を事前に予想し、AIシステムを監視できる予備システムを準備しなければならないと述べた。そうすれば、人間がAIを管理できない場合、AIは互いに規制することができる。
資料によると、シュミット氏は2001年から2011年までグーグルのCEOを務め、取締役会で2019年まで務めた。現在、シュミット氏はブルームバーグの億万長者番付で365億ドルで46位にランクインしており、グーグルの親会社アルファベットの株主であり、アルファベット株約1億4700万株を保有している。
注目すべきは、グーグルの現CEOであるサンダル・ピチャイ（Sundar Pichai）氏が、AIが十分な規制を受けているというシュミット氏とは全く異なる見解を発表したばかりだということだ。
12月初め、ニューヨークで開催されたDealBookサミットで、ピチャイ氏はAIの潜在的な影響について「楽観的であることは間違いない」と述べ、既存の規制は多くのAI応用をカバーしていると考えた。「例えば、すべての規制審査を経ずに疾病治療法を導入することはできない。この過程でAIを使用しているだけで、すべてが変わるわけではない。だから、私たちは本当に追加の規制を増やす必要があるかどうかを慎重に考えなければならない」
1週間前、ライバルのOpenAIの12日間連続の更新計画に対して、グーグルはGemini 1.5 Proより2倍速い次世代ビッグモデルGemini 2.0を正式に発表し、プログラミングアシスタント、データサイエンスエージェント、ゲームパートナーなど、マルチモーダル入出力とより多くのスマートボディ機能を備えている。