業界内で「人工知能のゴッドファーザー」と呼ばれるコンピュータ科学者のジェフリー・ヒントンは、人間がうっかりしていれば、人工知能が「すべてを乗っ取るかもしれない」と述べています。
現在75歳のヒントン氏は最近、メディアのインタビューに応じ、急速に発展する人工知能技術は「5年以内に」人間よりも賢い能力を獲得する可能性があると述べました。もしそうなれば、人工知能が人間では制御できないほど進化する可能性があると彼は付け加えました。
シントン氏は、人工知能システムが制御を逃れる方法の一つとして「自分のコンピュータコード」を自分で書くことを指摘していますが、これは真剣に心配すべきことです。
ヒントン氏の研究は、現代の人工知能システムの発展にとって重要だと考えられています。1986年、彼は人工知能技術の基礎となるニューラルネットワークの開発における画期的なマイルストーンである「誤差の逆伝播による特徴の学習」という論文を共著しました。2018年には研究の成果に対してチューリング賞を受賞しました
今年4月、グーグルで10年間働いた後に副社長兼エンジニアリング研究員の職を辞めたヒントン氏は、aiがもたらすリスクについて自由に語ることができます。退職後、ヒントンは人工知能技術の開発における自分の役割を残念に思っています。
彼は特に、人工知能システムを構築した彼のような最高の科学者を含む人間は、まだこの技術がどのように働き、発展しているのかを十分に理解していないと主張しました。
多くの人工知能研究者も理解不足を率直に認めています。今年4月、グーグルの最高経営責任者であるサンダル・ピチャイは、これをaiの「ブラックボックス」問題と呼びました。
ヒントンが述べたように、科学者は人工知能システムのためにアルゴリズムを設計し、インターネットのような「データセット」から情報を抽出します。「この学習アルゴリズムがデータと相互作用すると、何かを得意とする複雑な神経ネットワークが生まれます。でも正直なところどうやってそんなことができるのかよく分かっていません」
ピチャイや他の人工知能の専門家たちは、ヒントンのように機械の暴走を心配してはいないようです。もう一人のチューリング賞受賞者であるYann LeCunは、人工知能が人間に取って代わる可能性があるという警告は「ばかげている」と述べています。人間は危険になりすぎるあらゆる技術を阻止できるからです。
しかしヒントン氏は、最悪のシナリオは不確実で、ヘルスケアなどの業界はすでにaiの恩恵を受けています。
また、人工知能が作った誤った情報や偽の写真、動画がネット上で拡散しています。彼はaiを理解するための研究を進め、政府はこの技術を規制する法律を作るべきだと訴え、人工知能の軍用ロボットを世界的に禁止すべきだと訴えました。
先月、米国の科学技術界の大物たちが議会に集まり、シューマー上院院内総務が主催した人工知能サミットに出席し、将来の人工知能規制について議論しました。メガテック企業はaiへの規制強化を議会に訴えていますが、どのように規制するかについては企業間で意見の隔たりがあります。
ヒントン氏は、aiガードレールがテクノロジー企業によって実施されているにせよ、米連邦政府の強制によって実施されているにせよ、早急な規制が必要だと指摘しています。
彼は、人間は「何かの転換点」にいるのかもしれないし、次に何が起こるかの不確実性も大きいと考えています。そして、テクノロジー界と政府指導者は「これらをさらに発展させるかどうか、そしてそうする場合はどうやって身を守るか」を決めなければならないと付け加えました。