AIチップ大手の英偉達が最も注目されているGTC開発者大会が開催され、世界のAIコンピューティング力の行方が注目されている。
英国のチップアーキテクチャ企業Armがサーバー市場に力を入れ続け、最近、サーバープロセッサーArm Neoverseシリーズの製品ロードマップを更新した後、新しい第3世代Neoverse IPに基づいて構築された2つの新しいArm Neoverseコンピューティングサブシステム（CSS）を発売した。外部からも次世代CPUとGPUを統合したAI「スーパーチップ」の一部の姿が垣間見えるようになり、英偉達がフォローアップするかどうかも注目されるだろう。
NeoverseはArmが2018年に発売した、データセンター市場向けのサーバープロセッサーブランドで、Arm計画の下で、Neoverse傘下のNシリーズ、Vシリーズ、Eシリーズにはそれぞれ位置づけがあり、Vシリーズはパフォーマンス優先を強調し、ハイエンドサーバー市場に使用され、先代のNeoverse V 2は雄大なAIチップ設計に使用されている。
昨年3月、英偉達はCPUとGPUをパッケージ化した初の「グレースホッパー」GH 200スーパーチップを発売した。その中で「Grace」とは、2021年4月に発表されたデータセンターArm CPUシリーズであり、「Hopper」とは、英偉達の最新アーキテクチャGPU量産モデルH 100である。
あるチップ業界の投資家はインタフェース新聞記者に、英偉達のGrace HopperチップはCPUをトップレベルのAIトレーニング製品（GPU）と一緒に「スーパーチップ」を作り出し、AI完全ソリューションを共同で構築したと伝えた。
GH 200はAI訓練と推論に用いることができ、英偉達はCPU 1枚とH 100 GPU 1枚を1枚のチップにパッケージ化することで、CPU、GPU間のデータ伝送効率を大幅に向上させた。同年11月、英偉達は再びGH 200をアップグレードし、GH 200にGPUが搭載している96 GB容量HBM 3メモリを144 GBのHBM 3 eにアップグレードし、再びデータ伝送効率を大幅に向上させた。
GPU製品を利用してAIの波をつかむ過程で、ArmもAIコンピューティングの強い地位の中から利益を得て、データセンター市場がArm技術に基づくプロセッサーをより多く採用する可能性があることを意味している。
Armインフラ事業部のMohamed Award社長はインタフェース新聞記者に、英偉達が以前発表したGrace Hopperスーパーチップはシステムアーキテクチャを再設計し、過去にデータセンターは1つのCPUを使用して複数のGPUの設計を管理していたが、Grace Hopperチップは1つのCPUに1つのGPUしか対応していなかったと説明した。「より多くのCPUはメモリの整合性を意味し、最終的にはGPUの使用率を大幅に向上させることができます」
Arm氏によると、業界のAI計算力への需要が訓練から推論へと徐々に転換するにつれ、CPU推論は生成式AI計算応用の鍵となる。
ただし、すべてのAI処理がCPU上で行われるわけではありません。Armインフラ事業部製品ソリューション副社長のDermot O'Driscoll氏は、Grace Hopperを例に挙げて、インビルタ氏のこのチップに対する重要な革新の1つはメモリ容量と共有メモリモデルであり、このような緊密結合CPU設計にAIアクセラレータの配置を加えることは、現在流行している大パラメータ大言語モデルとその他のAI応用に非常に有益であると述べた。
カスタムチップをより迅速にし、設計の難易度を下げるために、Armは昨年、Arm Neoverse CSSを発売した。Neoverse CSSでは、Armによって完全なコンピューティングサブシステムを構成、最適化、検証し、各種コンピューティングユースケースに対して配置し、パートナーはソフトウェアチューニング、カスタマイズ加速などの仕事に専念し、製品の発売時間を加速し、エンジニアリングコストを削減することもできる。
Dermot O'Driscoll氏によると、Neoverse CSSは、Arm CPUプラットフォーム上で汎用コンピューティングコアを迅速に構築するために開発された製品だという。これにより、お客様が必要とするすべてのインタフェースを提供し、自身を結合するアクセラレータを選択することができます。この方法はCPUが必要なときにCPUを提供することもできるし、AIアクセラレータが必要なときにAIアクセラレータを提供することもでき、両立することができる。
従来、Armアーキテクチャを自社で研究してきたGrace CPUについては、インテル、AMDとの競合色を極力薄めてきた。
黄氏は2021年にインタフェース新聞記者に、ほとんどのデータセンターは既存のx 86 CPUを使用し続け、Graceは主にコンピューティング分野の大型データ集約型細分市場に使用され、既存のCPUメーカーに「ゲームのルールを変える」ような影響を与えないと述べた。
しかし、市場の構造はすでに変わっている。データセンター市場では、Armは徐々に足を踏み入れ、インテル、AMDの2大企業に挑戦している。
市場研究機関Counterpointの報告によると、Armアーキテクチャサーバは2022年に初めてデータセンター市場で10億ドルを超える収入を獲得し、そのうちAWS自己研究チップは同市場の3.16%、Ampereは1.52%を占めた。Microsoftが2023年に自社開発したArmチップ、およびGrace Hopperを出荷することに伴い、サーバ市場におけるArmのシェアは引き続き上昇する見通しです。