マイクロソフトがAI大モデルを自己研究していることが明らかになった:5000億個のパラメータがグーグルとOpenAIと競合
planewh
发表于 2024-5-7 14:42:56
4605
0
0
テクノロジー大手のマイクロソフトや、パラメータ5000億に達する新しいAI(人工知能)の大モデルを開発しており、グーグルやOpenAIを前面に打ち出している。
現地時間5月6日、外国メディアの報道によると、マイクロソフトはマイクロソフトがこれまで発表してきたオープンソースモデルの一部をはるかに上回る規模のMAI-1という最新のAIビッグモデルを開発しており、性能的にはグーグルのGemini 1.5、AnthropicのClaude 3、OpenAIのGPT-4などの有名なビッグモデルに匹敵するかもしれない。マイクロソフトまたは5月21日から開催されるBuild開発者大会でこの新モデルをデモする。
報道によると、MAI-1の開発は、元グーグルのAIリーダーでAIベンチャー企業のInflectionの最高経営責任者を務めたムスタファ・スレーマン(Mustafa Suleyman)がリードしている。今年3月には、Infectionへの最新の融資を受けたばかりで、マイクロソフトはInfectionからスレイマンを含む2人の共同創業者と一部の従業員を引き抜いた。ある関係者によると、マイクロソフトはこのためにInfectionに6億5000万ドル以上を支払ったという。
MAI-1はInflection傘下のモデルの技術の一部を参考にしている可能性があるが、マイクロソフトの従業員によると、MAI-1は新しい大言語モデルで、約5000億のパラメータを持ち、マイクロソフトがこれまで訓練してきたオープンソースモデルをはるかに上回っているという。1ヶ月前にマイクロソフトはPhi-3という小型AIモデルを発売したばかりで、その中でPhi-3 miniは携帯電話に配備できるように最適化され、38億パラメータを持ち、3.3兆tokenの訓練を経て、マイクロソフトはその性能がGPT-3.5などのモデルと同等だと主張した。
対照的に、MAI-1の規模ははるかに大きく、より多くの計算力の投入と訓練データも必要です。このモデルを訓練するために、Microsoftはすでに、OpenAIのGPT-4によって生成されたテキストやパブリックインターネットデータを含む、雄大なGPUを含むサーバクラスタを大量に構成し、さまざまなソースからトレーニングデータを収集している。これにより、MAI-1はOpenAIのGPT-4と似たレベルになり、後者は1兆を超えるパラメータを持っていると言われています。
PhiシリーズモデルとMAI-1の開発は、マイクロソフトがAI分野で二重戦略を取っていることを体現しており、モバイル機器のために小型ローカルモデルを開発しながら、クラウドによってサポートされるより大規模なモデルを開発している。しかし、マイクロソフト内部でもMAI-1の正確な用途は確認されていない。
さらに重要なことに、MAI-1は、マイクロソフトがAI分野でパートナーのOpenAIに完全に依存することを望んでいない技術を体現している。OpenAIからの技術は、Windowsに統合されたチャットロボットを含むマイクロソフトのさまざまな生成AI機能を駆動している。これまで、マイクロソフトのAIプラットフォームチームの従業員からは、同社のAI戦略はOpenAIとの協力関係に注目しすぎており、マイクロソフトのAIオリジナル研究に対する予算が減少しているとの苦情があった。
マイクロソフトのケビン・スコット最高技術責任者(Kevin Scott)は6日、領英に投稿し、MAI-1に関する報道に間接的に応えた。彼は、OpenAIはマイクロソフトが構築したスーパーコンピュータを使ってAIモデルを訓練しているが、マイクロソフトの研究部門と製品チームもAIモデルを構築していると述べた。
AIにおける突破を実現するために、マイクロソフトも積算力資源を買いだめしている。4月初め、マイクロソフトが今年末までに180万枚のAIチップを買いだめする計画を立てていると報じられた。これは、同社が2024年中に保有するGPUの数を2倍に増やしたいと考えていることを意味する。関係者によると、マイクロソフトは2024年度から2027年度(2027年6月30日まで)まで、GPUとデータセンターに約1000億ドルを費やす見通しだ。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 香港株アップル産業チェーンが急騰!iPhone 16 Proモデルの需要は依然として堅調ですが、将来の販売台数はどうでしょうか。
- マースク・Cybercabのリリースが間近!国内の多くの大手企業がRobotaxi中国モデルを模索している
- S é bastien Bubeck, Vice President of Artificial Intelligence at Microsoft, will resign and join OpenAI
- OpenAI poaches AI expert from Microsoft, may open up a 'small model' track for the company
- Shutdown Azure OpenAI Personal Services? Microsoft response: Enterprise customers in Chinese Mainland can still use it! Domestic large models may usher in opportunities
- Guo Mingchi: Microsoft Q4 GB200 orders surge 3-4 times, surpassing all other cloud service providers combined
- AI Weekly | ByteDance big model training is "poisoned"; Microsoft will terminate China's personal Azure OpenAI service
- Depth | Microsoft and Salesforce compete to upgrade and launch 10 new AI agents covering sales and finance
- The era of AI agents is about to begin! Microsoft plans to launch 10 new agents to create a complete set of AI tools
- Tomorrow's Theme Preview: Microsoft will launch 10 new AI automatic agents to create a complete set of AI tools
-
米国疾病管理・予防センターはこのほど、マクドナルドの「足三両」バーガーが同国西部の大腸菌疫病の発生と関係があり、49人が病気になり、1人が死亡したと明らかにした。マクドナルドは声明を発表し、大腸菌の疫病 ...
- SOHU
- 前天 09:34
- 支持
- 反对
- 回复
- 收藏
-
10月24日、テスラ米株式市場は12%以上上昇し、第3四半期の利益は予想を上回った。マースク氏は来年の自動車販売台数が20%-30%増加すると予測している。 ...
- 就放荡不羁就h
- 昨天 17:35
- 支持
- 反对
- 回复
- 收藏
-
本を下げて効果を高め、人事調整し、現地化を加速することは激しい市場競争の下で多国籍薬企業の中国での発展のキーワードとなっている。今年5月、多国籍薬企業グラクソスミスクライン(GSK)も同様に中国区の人事 ...
- 内托体头
- 昨天 16:52
- 支持
- 反对
- 回复
- 收藏
-
テスラが2024年3季報を発表した北京時間10月24日、第3四半期のテスラの営業収入は前年同期比8%増の251億8200万ドル、純利益は21億6700万ドルで、前年同期比17%増加し、市場予想の純利益17億8000万ドルを上回った。 ...
- SOGO
- 昨天 16:14
- 支持
- 反对
- 回复
- 收藏