アマゾンが巨額を投じた「Olympus」言語モデルには2兆個のパラメータがあると言われている

平凡7 · 发表于 2023-11-8 18:40:25

メディアが2人の関係者の話として報じたところによると、アマゾンはOpenAIとAlphabet傘下のグーグルのトップモデルと競合するように、強力な大型言語モデル（LLM）を訓練するために巨額の資金を投入している。
大型言語モデルは人工知能ツールの基礎技術であり、これらのツールは巨大なデータ集中から人間のような反応を生み出すために学習と訓練を必要とする。
必要な計算能力を考慮すると、より大きな人工知能モデルを訓練するコストが高くなります。アマゾンの幹部は4月の財報電話会議で、同社が大規模な言語モデルと生成式人工知能への投資を増やすことを明らかにした。
今回の関係者によると、このコードネーム「Olympus」と呼ばれるモデルには2兆個のパラメータがあり、これは訓練中の最も強力なモデルの1つになっているという。
現在、OpenAI社のGPT-4モデルは最高のモデルの1つであり、1兆パラメータしかありません。
報道によると、同チームはアマゾンの音声アシスタントAlexaの元責任者Rohit Prasad氏が率いるが、現在は最高経営責任者のアンディ・ジャシー氏に直接所属している。
同時に、アマゾンの汎用人工知能（AGI）の首席科学者として、PrasadはAlexa人工知能の研究者とアマゾン科学チームの研究者を招いて共同で「Olympus」モデルの開発に着手した。
今年の人工知能コンテストでは、アマゾンは第1世代ではない。アマゾンはTitanなどの小さなモデルを訓練しているが、また、AnthropicやAI 21 Labsなどの人工知能モデルベンチャー企業と協力し、これらのモデルをアマゾンネットワークサービス（AWS）に提供している。
しかし、独自のモデルの欠如はアマゾンにとって常に問題である。関係者によると、アマゾンは自社のモデルを持つことで、企業の顧客が最もパフォーマンスの良いモデルにアクセスすることを常に望んでいるため、AWS上で製品をより魅力的にすることができると考えている。
現在、同社は新モデルの具体的なスケジュールを公式に発表していない。

		自动登录	找回密码
密码			立即注册

アマゾンが巨額を投じた「Olympus」言語モデルには2兆個のパラメータがあると言われている

相关帖子

浏览过的版块