米科学技術大手グーグルはこのほど、規模が最も大きく、機能が最も強力だと考えているAIスマートモデルGeminiを発表した。
今回グーグルが発表したGeminiモデルはマルチモーダルを実現し、性能を大幅に向上させることができ、GeminiはTransformer decoderに基づいて構築されたマルチモーダルモデルで、この技術はビデオ、オーディオ、テキストなどの異なるコンテンツ形式の情報を処理することができる。最新のGeminiモデルは、これまでの技術と比較して、より複雑な推理を行い、より細かい情報を理解することができます。情報を読み、フィルタリングし、理解することで、数十万件の文書から要点を抽出することができ、科学から金融までの多くの分野で新たな突破を実現するのに役立ちます。
Geminiモデルはマスサイズに応じてGemini Ultra、Gemini Pro、Gemini Nanoの3つのバージョンに分けられ、コンテキスト32 K理解をサポートしています。
1）Ultraバージョンは最も性能の強いバージョンであり、対応するTPUインフラストラクチャの中で最高効率を示すことができ、複数のテストの中でUltraバージョンの性能はGPT 4 Vを超え、
2）Proバージョンは性価比最適化されたバージョンであり、推理、多モードなどの面でも強い能力があり、Proバージョンは良好な延性を持ち、数週間以内に予備訓練を完了することができ、複数のテストの中でGPT 4 Vに次いで、PaLM 2、Claude 2、LLaMA 2、GPT 3.5などの主流の大モードタイプより強い、
3）Nano：他のモデルを蒸留して得られた4ビットモデルで、1.8 Bと3.25 Bの2つのバージョンがあり、それぞれ低メモリと高メモリ設備に対して、ローカル配置をサポートする
Geminiモデルは、グーグルおよび世界で最初に発表されたマルチモーダルモデルとして、クラウドおよびエッジでのテスト運用をサポートしています。関連テストデータ表面では、Gemini UltraはMMLU（大規模マルチタスク言語理解）において人間専門家のモデルより優れており、横方向比較では複数のタスク性能がGPT-4を上回っている。
民生証券によると、50を超える基準テストでGeminiモデルシリーズを評価することで、モデル規模の増加に伴い、推理、数学/科学、長いテキストの面でGeminiモデルファミリーの品質が向上し続けている。すべての6つの能力の中で、Gemini Ultraは最も優れたモデルです。Gemini ProはGeminiモデルファミリーの中で2番目に大きいモデルとして、性能的にも非常に競争力があり、サービスを提供する際により効率的である。
民生証券は、Gemini訓練過程もインフラ、アルゴリズム、データセットを革新することができる、
インフラ面：GeminiはグーグルTPUV 5 eとTPUV 4によって訓練され、訓練過程でエンジニアリング化の革新を示し、例えば4096個のTPUV 4各チップを専用の光学スイッチに接続し、約10秒以内に4 x 4 x 4チップキューブを任意の3 Dリングトポロジ構造のスーパーノードに動的に再配置することができ、Gemini Ultraには熱メンテナンスなどの機能の的確な配置がある。Ultraバージョンに必要な高額なスライス間相互接続速度に対して、グーグルはOCS光交換など多くの特許技術を運用しており、本文では最終速度はまだ提供されていない。
アルゴリズム面：単一制御アルゴリズム、XLAコンパイラなどの技術を用いて訓練過程を最適化し、SDCなどの問題を予防することで安定訓練を実現する。
データセット面：分詞技術を通じてGemini訓練と推論速度を高め、また一連のフィルタリング方法を通じて訓練に用いるデータの高品質を保証する
今回グーグルの最新バージョンのコンピューティングチップTPU v 5 pが同時に発表され、TPU v 5 pは以前のTPU v 4バージョンの改善であり、TPU v 4に比べてTPU v 5 pの浮動小数点演算性能は2倍向上し、大言語モデルの速度はTPU v 4より2.8倍速いことを訓練した。中信証券は、マルチモーダルGeminiモデルの正式なリリースは、アプリケーションシーンの拡張を可能にする一方で、コンピューティングニーズの継続的なアップグレードをもたらすことができると考えている。民生証券は引き続き後続のAI産業の将来性を見ており、後続のGPT-5などのモデルの発表もより多くの触媒をもたらすと考えている。
中信証券によると、現在の検索シーンでは、Geminiは約40%の遅延を減らすことができるという。産業全体にとって、グーグルの製品化、商業化の推進も業界全体の変化をもたらすと同時に、GPT-5などのモデルの発売に伴い、1）マルチモーダルモデルによる計算力需要の増加及び、2）ますます多くのAIシーンと製品の出現。
Geminiの発表は多モードモデルへのさらなる期待をもたらし、産業にとって、多モード材料は計算力需要の向上を牽引する、中長期的には、多モードモデルのアップグレードは関連製品の使用シーンを豊富にし、ハードウェアのアップグレード、アルゴリズムの最適化によるコスト最適化を重ね、2 C製品の進展が期待できると予想されている。
中信証券によると、今回の生成式AI Inspurが科学技術産業に与える長周期的な影響と変化を引き続きよく見て、計算力、アルゴリズム、データ、応用などの分野のリーディングメーカーに引き続き注目している。