現地時間の火曜日（5月28日）、OpenAIは、取締役会がAI開発の方向性を制御するセキュリティコンサルタント委員会を設立すると発表した。
OpenAI
OpenAIが新たに設立したセキュリティアドバイザリー委員会のメンバーは全員身内だ
OpenAIは火曜日、会社のプロジェクトや運営に関連する「重要な」セキュリティとセキュリティの意思決定を監督する新しいセキュリティコンサルタント委員会を設立すると発表した。注目すべきは、この安全顧問委員会に入ったメンバーはすべて同社の内部人員であり、取締役のBret Taylor（会長）、Adam DAngelo、Nicole Seligman、Sam Altman（最高経営責任者）、外部の人は一人もいません。同委員会は、OpenAIプロジェクトと運営の重要なセキュリティとセキュリティに関する取締役会全体への提案を担当する。
安全・安全委員会の最優先課題は、今後90日以内にOpenAIのプロセスと保障措置を評価し、さらに発展させることです。90日が終わると、安全・安全委員会は取締役会全員と提案を共有します。取締役会全体の審査の後、OpenAIはセキュリティとセキュリティに準拠した方法で、提案の採択に関する更新を公開共有する。
OpenAI取締役会は、OpenAIの技術・政策専門家であるAleksander Madry（準備状況責任者）、Lilian Weng（セキュリティシステム責任者）、John Schulman（科学担当者の位置合わせ）、委員会にはMatt Knight（安全責任者）やJakub Pachocki（チーフ・サイエンティスト）も参加する。
また、OpenAIは、OpenAIにセキュリティ上のコンサルティングを提供し、John Carlinを含む元ネットワークセキュリティ担当者のRob Joyce氏を含む、他のセキュリティ、セキュリティ、技術の専門家にこの作業をサポートするために予約し、コンサルティングします。
過去数ヶ月、OpenAIの技術チームには、AIセキュリティに関するOpenAIの優先順位の低下を懸念するOpenAIの上層部が離職している人が複数います。
OpenAIでチームガバナンスを担当していたDaniel Kokotajlo氏は4月に辞任した。OpenAIがますます強くなっているAIを発表する際の「責任ある行動」に自信を失ったため、個人ブログに書いている。また、OpenAIの共同創業者で元首席科学者のIlya Sutskever氏は、Altmanとその盟友との長期的な闘争の後、5月に退職した。AltmanがAI駆動の製品を発売しようとして安全性能を犠牲にしたことが一部で報じられている。
最近、元DeepMind研究員のJan Leike氏は、OpenAIがChatGPTとその前身であるInstructGPTの開発を担当していた過程で、セキュリティ研究員も辞任した。同氏は一連のXプラットフォームのスレッドで、OpenAIは「AIセキュリティとセキュリティ問題を解決する正しい軌道に乗っていない」と述べた。同時に、AI政策研究員のGretchen Krueger氏は先週OpenAIを離れ、Leike氏の見解にも同意し、問責制と透明性を高め、「自分の技術をより慎重に使う」よう会社に呼びかけた。
メディアは、Sutskever、Kokotajlo、Leike、Kruegerは、昨年末以降、OpenAIのセキュリティを最も重視する従業員5人が辞任するか、元OpenAI取締役会メンバーのヘレン・トナーやTasha McCauleyを含む辞任を余儀なくされている。2人は先日、アルトマンの指導の下で、OpenAIが自身の責任追及を実現できないと信じているとメディアに書いた。
OpenAIは次世代フロンティアモデルトレーニングAGIビジョンをより現実的に開始したと発表した
注目すべきは、OpenAIが現在のGPT-4大モデルを超えるために、最近その次世代フロンティアモデルを訓練し始めたと発表したという重大なニュースもある。これらのシステムは、人工汎用知能（AGI）への道をより高い能力レベルにすると予想されています。私たちは誇りを持って能力と安全性の面で業界をリードするモデルを構築し、発表しましたが、私たちはこの重要な時に激しい議論を歓迎します。
背景として、OpenAIは2023年3月にGPT-4をリリースする。社長のブロックマン氏がノートに描いたスケッチだけで、GPT-4はリアルなサイトを構築することができます。多くの株主がいると信じているのも、その舞台裏を見て「AIは本当に何かを変えることができるかもしれない」と信じ始めたからだ。
それ以来、OpenAIはGPT-4を中心に一連の文字、画像、音声、ビデオ生成アプリケーションを徐々にリリースしている。2週間前、同社は最新版のGPT-4 oを発表したばかりだ。モデルのインタラクション速度を大幅に向上させることにより、リアル対話のような「リアルタイムインタラクション」を実現した。結局、各方面でやや強いGPT-4 oは依然としてGPT-4の能力の範疇から抜け出せていない。
そのため、「GPT-5」への期待は高まっている。しかし、OpenAIの最新の表現によると、次世代の大モデルは来年になって公開される恐れがある。AIモデルは通常、訓練に数ヶ月、さらには数年かかるが、一般向けに発表される前に開発チームは数ヶ月の微調整を行う必要がある。
OpenAIで構築されたAIが人知のレベルに近づくにつれ、同社の汎用人工知能に関する表現もより慎重になってきた。
OpenAIグローバル事務副社長のAnna Makanju氏は、OpenAIの使命は、「現在の人間認知レベル」のタスクを可能にする汎用知能を構築することである。
Sam Altmanは以前、OpenAIの最終目標は、人間よりも先進的な「スーパーインテリジェンス」を構築することです。彼はまた、自分の半分の時間が「超人工知能」をどのように構築するかを構想していると述べたことがある。
转播
