2024年6月20日、米ダートマス工学アカデミーは、OpenAIのミラ・ムラッティ最高技術責任者（Mira Murati）へのインタビュー動画を発表した。ミラ氏はインタビューで、GPT-5は1年半後に発表され、いくつかの分野で博士の知能に達すると明らかにした。それと同時に、Claude 3.5 Sonnet，最も賢い人間博士よりもテスト点数が高かった最初のモデルとなった。
OpenAI CTOミラ・ムラッティ氏はこのほど、ダートマス工学アカデミーで各業界におけるAIの変革の潜在力と仕事への影響について重要な発言をした。
ミラ氏によると、OpenAIは約1年半後に「博士課程生レベル」の人工知能を発表する。対照的に、GPT-3は幼児の知能レベルに相当し、GPT-4は高校生の知能レベルに似ている。しかし、博士クラスのAIは特定のタスクにしか適用されていないと強調した。「これらのシステムは特定のタスクではすでに人間レベルに達しており、もちろん多くの他のタスクでは達成されていない」。
これに伴い、Anthropicは6月20日、これまでで最もスマートなモデルと言われるClaude 3.5 Sonnetの新ビッグモデルを発表した。
X
Claude 3.5 SonnetはAGIのカウントダウンを75%に押しただけでなく、最も賢い人間博士のスコアよりもテストスコアが高かった最初のモデルとなった。
Life Architect
Life Architectデータによると、Claude 3.5 Sonnetは大学院レベル推理（GPQA）、本科レベル知識（MMLU）、符号化能力（HumanEval）でSOTAを更新した。ここで、MMLUでは90.4点、GPQAでは、スコアは67.2であった。これも初めてで、LLMはGPQAの65%のスコアを突破し、最も賢い人間博士のレベルに達した。GPQAでの一般博士のスコアは34%、分野での専門博士のスコアは65%だったが、Claude 3.5 Sonnetは、明らかに彼らを超えていた。
Life Architect
ダートマス学院のインタビューで、司会者は「3年後にGPTが極めてスマートになったと仮定して、それが自分でインターネットに接続して行動することができるのか」という仮説的な質問をした。
これに対しミラ氏は、「確かに、私たちはこれについて多くの思考を行っている。AIの知能体能力を備えたシステムは確かに存在し、それらはインターネットに接続し、相互のコミュニケーションを行い、共同で任務を遂行したり、人類とシームレスに協力したりする。そのため、私たちの未来におけるAIとの協力は、私たちの現在の相互の協力のようになるかもしれない」と答えた。
Metaculus
人工知能の進歩速度には驚くべきものがある。
2022年には、人類レベルの人工知能が今世紀の60年代に台頭する可能性があり、50%になる可能性があると専門家たちは予測している。しかし、Metaculus予測員コミュニティの予測時間はもっと早く、彼らが予測したのは40年代だった。GPT-4の発表に伴い、コミュニティの予測時間が繰り上げられ始め、2032年、さらに早ければ2027年にはAGIが実現する可能性があると予想されています。
Metaculus
6月20日未明、元OpenAI共同創業者でチーフ・サイエンティストのイルヤ・スツケバー（Ilya Sutskever）氏はソーシャルメディア上で新会社SSIの設立を宣言し、セキュリティ・スーパースマートに専念した。
ネットユーザーは「いいやつ！これはAGIを直接越えて、Super Intelligence（スーパーインテリジェンス）に一歩踏み出した」と話している。
X
イルア氏はSSI公式アカウントの中で官宣した「オープニングワード」で、「スーパースマートは手に触れることができるようになった。安全なスーパースマート（SSI）を構築することは、この時代の最も重要な技術的問題だ」と述べた。
また、「私たちは焦点、目標、製品を1つにして、安全なスーパースマートを直接追求します。私たちは小さくて効率的なチームが創造した革命的な突破を通じてそれを実現します」と付け加えた。
X
要するに、イルアチームがやろうとしていることは、ネットユーザーの定番の表情パック式のまとめで見ると、
X
しかし、人工超知能の発展も懸念されている。
最近、あるプリプリント本論文は、人工超知能（ASI）の実現に伴い、人工知能の比類のない能力は人々に神として崇められ、それによって認知バイアスが発生し、その決定を疑問なく受け入れる可能性があると主張している。
arxiv.org
著者のテフィコ・オヤル（Tevfik Uyar）氏は、この現象が技術進歩と道徳倫理の優位性を混同させる可能性があると警告している。「ASIの能力が強いからといって、道徳や倫理的にも優れていると思ってはいけない」。
さらに懸念されるのは、このような動きが「技術官僚の神権統治」を引き起こす可能性があり、この統治下では意思決定権がASIに移管され、人類の主体性と批判的な思考を破壊することになる。著者は、「ASIに決定権を委ねると、人間の主体性と批判的な思考が破壊される可能性がある」と強調した。
转播
