19カ月ぶりに、英偉達はAIチップスター製品H 100をアップグレードし、H 200チップを発売した。AIチップは価格が高く、利益が大きく、生成式AIの発展に重要な役割を果たすため、H 200の発表は科学技術市場と金融市場の二重の注目を集めている。
英偉達は現地時間11月13日、国際スーパーコンピュータ大会SC 23で次世代データセンター用GPUチップH 200を発表した。このチップは現在最も先進的なストレージ技術HBM 3 eを採用し、多くの流行している生成式AI大モデルで前例のない性能を示している。
2023年第3四半期において、H 200の前世代製品H 100は科学技術市場で人気のあるハードウェアとなり、英偉達に数百億ドルの収入及び1000%の利益率をもたらした。H 200は2024年第2四半期から世界で販売されるか、次のベストセラーチップとなり、引き続き雄大な業績成長の鍵となるだろう。
11月に入ってから、FRBの利上げ見送りのマクロを背景に、英偉達株価は上昇を続けている。11月13日の終値1株当たり486.2ドルで計算すると、英偉達の現在の時価総額は1兆2000億ドルに達した。
H 200チップの性能が大幅に向上
H 200は新しいGPUチップであり、現在AI作業に使用されているコアハードウェアの1つでもある。今回の技術アップグレードは、現在のAIチップ市場が主にストレージ技術を中心に競争していることを反映している。また、訓練能力だけでなく、推理能力もますます重要になってきている。
H 200が使用しているストレージ技術はHBM 3 eで、この高ブロードバンドストレージ技術は2023年5月に登場した。当時、韓国のストレージ大手SKハイニックスはこの技術を先行発表し、2024年上半期に規模化生産に投入する計画だった。続いて7月26日と10月20日には、他の2大ストレージ大手の美光とサムスンも相次いでHBM 3 e製品を生産できると発表した。それでも、このストレージ技術は大手3社に独占されており、製造側では生産量に制約されています。
ストレージ技術はAIチップのアップグレードの大きな鍵となっている。SC 23会議で、Ian Buck In偉達副総裁は、「生成型AIの大量データと高性能コンピューティングアプリケーションを処理するには、高速で大容量のGPUストレージが必要な構成だ」と直言した。
HBM 3 e搭載後、H 200の記憶容量は141 GBにアップグレードされ、帯域幅は毎秒4.8 TBにアップグレードされたが、前世代のH 100記憶容量は最高80 GB、帯域幅は毎秒3.35 TBだった。
このほか、申万宏源氏は11月14日の業界評価で、H 200はH 100に対してソフトウェアのアップグレードを行い、推理機能とHPC性能を大幅に強化し、エネルギー消費と全体コストを大幅に削減したと述べた。
このような「高精鋭」技術を積んだチップは、現在AI大モデル開発市場で特に人気がある。英偉達はいくつかの市場で流行している有名なAI大モデルを用いて実行デモを行った結果、パラメータ量700億のLlama 2大モデルでは、H 200の推理速度はH 100より90%速い、パラメータ量1750億のGPT-3大モデルでは、H 200の推論速度はH 100より60%速い。
技術的には、H 200はH 100の完全な置換が可能になるだろう。また、H 200は、サーバにおいても、別のスーパーチップGH 200においてもH 100に代わることができる。
英偉達氏はまた、アマゾンクラウドAWS、グーグルクラウド、マイクロソフトAzureクラウド、Oracleクラウドが、2024年からH 200を利用した最初のクラウドサービスプロバイダになると発表した。
次の「利益牛」を作る
生成型AIはAIの大モデルの世界開発を促進しており、性能の優れたAIチップは半導体市場での「売り物」となっている。H 100チップは2023年に最も注目されているAIチップの一つで、その価格は高く、供給は需要より小さく、雄大な「利益牛」とも言える。H 200はH 100の輝きを継承するのか？
米現地時間の11月21日付けで、英偉達は8月から10月までの2024年度第3四半期の財報を発表する。これまでの英偉達の公式予測によると、この四半期の収入は約160億ドルに達し、前年同期比170%の増加幅に達する。また、non-GAAP口径での調整後粗利益率は72.5%に達し、期間内の製品販売価格がさらに上昇することを反映する。
この財報では、H 100の表現が非常に重要である。H 100は2022年3月22日に公開され、英偉達が設計した第9世代データセンターGPUである。2022年9月に量産投入されて以来、同チップは市場で最も人気のあるAIトレーニングチップの1つとなった。
過去4四半期以来、H 100チップは英偉達の収入と利益の「柱」と呼ばれ、その牽引の下で、英偉達は上生成式AIの発展の波に乗り、半導体業界の下り周期を防ぎ、業績は逆成長した。
これに先立ち、米国の金融機関Raymond Jamesは、H 100チップのコストは3320ドルにすぎないが、英偉達の顧客に対するロット価格は2万5000～3万ドルに達し、H 100利益率または1000%に達し、英偉達史上「最も儲かる」チップでもあると報告している。
英偉達と台積電の内部関係者がメディアに明らかにした情報によると、2023年に英偉達は世界で約55万枚のH 100チップを納入する。もし中央値の販売価格が2万7500ドルで計算すると、2023年には英偉達はH 100という単品から151.25億ドルの販売収入を得ることになるだろう。
雄大な財務報告書では、データセンターとゲームは常に2つの柱となっています。一方、AIチップを含むデータセンタープレートは、過去1年間の業績への貢献率がゲームを上回っている。
2024会計年度第1四半期、第2四半期のデータセンター事業の収益は42.84億ドル、103.2億ドルだった。データセンター製品には、H 100、A 100などのGPUと、これらのGPUに基づくDGXシステムソリューションが含まれているほか、Grace CPU、Bluefield DPUなどの異なるタイプのデータセンターチップ製品も含まれています。
誰が英偉達の首を押さえたのか。
H 200の発表は、雄大な市場に「巣くう」決意を示しているが、現在の多くの要因はH 200の発展の頭上にある暗雲である。その中で、先進的なパッケージ端、HBM 3 e供給端の生産能力の制限、あるいはH 200が市場で不足し続けることを招いた。
招商電子など複数の証券会社はH 200の発表後、投資家は世界のHBMと先進的なパッケージ産業チェーンに注目すべきであり、この2つの市場の生産能力が不足しているため、H 200の将来の出荷量の「ボトルネック」になると呼びかけている。
SKハイニックスは8月21日、HBM 3 e DRAMチップのサンプルを英偉達に提供したと発表した。10月、美光は英偉達にHBM 3 e製品を検証させていることを明らかにした。これは、2大巨頭が最先端のAIチップの登場を目指していることを反映している。
しかし、HBM市場では現在SK、美光、三星だけが競合しており、関連ストレージ製品は供給量が制限されていると同時に価格が高止まりしている。TrendForceが8月に発表した報告書によると、2023年のHBM市場におけるSKの世界市場占有率は46%から49%と予想されており、サムスンはこれと並んで、残りの4%から6%の市場は美光に占有されるだろう。インテル以外にも、AMD、アマゾン、マイクロソフトなどの大手も競合市場でHBM 3 eをあまり供給していない。
先進的なパッケージ端では、台積電気CoWoSパッケージ技術が非常に重要であり、これは2.5 Dパッケージ技術であり、H 100が採用したパッケージ技術でもある。7月下旬、台積電の魏哲家総裁は、先端（製造端）の生産能力は十分だが、後端（つまり高級パッケージ）の生産能力は「緊張している」と述べ、2024年末までに新たな生産能力を放出する見通しだと述べた。11月には、偉達、AMD、博通、マイウェルなど多くの顧客のニーズに対応するため、台積電は2024年のCoWoSパッケージの生産能力を3.5万枚に引き上げ、つまり2023年より120%増加するという市場情報がある。
それでもCoWoSデバイスの納期は8ヶ月にも及び、これにより、2024年上半期において台積電の関連パッケージ生産能力が逼迫し続けることになる。
H 200の発表は、チップ産業チェーン上の他の多くの一環も牽引する。11月14日、招商電子は市場評価の中で、英偉達産業チェーン関連のサーバーODMメーカー、ストレージ、PCBICボード、コネクタ及びケーブル、放熱、電源、アナログチップ、インタフェース類チップ、RAIDカード、パワーデバイスなどの一環メーカーに注目すべきだと述べた。また、国産コンピューティング力は短期的に国際レベルに大きな差があるが、国産GPUとCPUメーカー及び自主コンピューティング力産業チェーン関連会社に引き続き注目することを提案する。