下一代AI“超级芯片”呼之欲出
123457899
发表于 2024-3-15 10:52:05
1083
0
0
随着英国芯片架构企业Arm继续发力服务器市场,并在近期更新了其服务器处理器Arm Neoverse系列的产品路线图后,推出两款基于全新第三代Neoverse IP构建的新的Arm Neoverse计算子系统(CSS)。外界也将初窥下一代整合CPU与GPU的AI“超级芯片”部分面貌,英伟达是否跟进也将备受关注。
Neoverse是Arm于2018年推出、针对数据中心市场的服务器处理器品牌,在Arm规划下,Neoverse旗下N系列、V系列和E系列各有定位,如V系列即强调性能优先,用于高端服务器市场,上一代Neoverse V2就被用于英伟达的AI芯片设计中。
去年3月,英伟达推出首款将CPU和GPU封装到一起的“Grace Hopper”GH200超级芯片。其中“Grace”就是英伟达在2021年4月发布的数据中心Arm CPU系列,“Hopper”即英伟达最新架构GPU量产型号H100。
一位芯片行业投资人告诉界面新闻记者,英伟达的Grace Hopper芯片就是将CPU与顶级AI训练产品(GPU)一起,打造出“超级芯片”,共同构建了AI完整解决方案。
GH200可用于AI训练和推理,英伟达通过将一块CPU与一块H100 GPU封装成一整块芯片,大幅提高了CPU、GPU间数据传输效率。在同年11月,英伟达再将GH200升级,将GH200中GPU配备的96GB容量HBM3内存,升级为144GB的HBM3e,再次大幅提高数据传输效率。
在英伟达凭借GPU产品抓住AI浪潮的过程中,Arm也从英伟达在AI计算的强势地位中受益,意味着数据中心市场将可能更多采用基于Arm技术的处理器。
Arm基础设施事业部总经理Mohamed Awad向界面新闻记者解释,英伟达之前推出的Grace Hopper超级芯片重新设计了系统架构,过去数据中心使用一颗CPU管理多个GPU的设计,而Grace Hopper芯片转变为一颗CPU只对应一个GPU。“更多的CPU意味着内存一致性,最终会大大提高GPU的利用率。”
Arm称,随着行业对AI算力的需求逐渐由训练向推理转型,CPU推理将是生成式AI计算应用的关键组成。
但并非所有AI处理都将在CPU上进行。Arm基础设施事业部产品解决方案副总裁Dermot O'Driscoll以Grace Hopper为例称,英伟达对该芯片的一项重要创新在于内存容量和共享内存模式,此类紧耦合CPU设计加上配置AI加速器,对当前流行的大参数大语言模型和其他AI应用非常有益。
为了使得定制芯片变得更迅速且降低设计难度,Arm于去年推出了Arm Neoverse CSS。在Neoverse CSS中,由Arm配置、优化和验证完整的计算子系统,并针对各类计算用例进行配置,合作伙伴则专注于软件调优、定制加速等工作,还能能加速产品上市时间、降低工程成本。
Dermot O'Driscoll指出,Neoverse CSS是专为帮助客户在Arm CPU平台上,快速打造通用计算芯粒而推出的产品。它能提供客户所需的所有接口,以便选择耦合自身的加速器。这种方法既可以在需要CPU时提供CPU,又可以在需要AI加速器时提供AI加速器,做到两全其美。
一直以来,对于自研Arm架构的Grace CPU,英伟达极力淡化与英特尔、AMD的竞争色彩。
黄仁勋曾在2021年向界面新闻记者表示,绝大多数数据中心仍将继续使用现有x86 CPU,Grace则主要用于计算领域大型数据密集型细分市场,不会对现有CPU厂商带来“改变游戏规则”般的影响。
不过,市场格局已经发生了改变。在数据中心市场,Arm正逐渐站稳脚跟,对英特尔、AMD两巨头形成挑战。
根据市场研究机构Counterpoint报告,Arm架构服务器2022年首次在数据中心市场获得超10亿美元收入,其中AWS自研芯片占该市场3.16%份额,Ampere占1.52%。随着微软在2023年部署其自研的Arm芯片,以及Grace Hopper的出货,预计Arm在服务器市场份额还将继续上升。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
-
現地時間の金曜日、米デラウェア州地方裁判所のキャサリン・サンジョン・マコミック判事は、マスク氏と2018年の報酬案を承認したテスラ取締役会が1月の裁定に対して上訴することを許可し、30日以内にデラウェア州最 ...
- 湖塘
- 前天 12:13
- 支持
- 反对
- 回复
- 收藏
-
【極越自動車の前ユーザー開発部責任者がスターバックスに首席成長官に就任】スターバックス中国はこのほど、初めて首席成長官(CGO)のポストを設置し、楊振(Tony Yang)を同社首席成長官(CGO)に任命した。記者 ...
- 不正经的工程师
- 前天 09:59
- 支持
- 反对
- 回复
- 收藏
-
上海新天地の公式情報によると、フランスの高級ジュエリーブランドBoucheron宝詩龍は2025年に上海新天地石庫門街区の入り口(太倉路と馬当路の境界)に入居する。この店舗は現在スターバックス臻選門店となっている ...
- 内托体头
- 昨天 20:24
- 支持
- 反对
- 回复
- 收藏
-
12月16日、市場ではアリ氏が銀泰百貨と交渉しており、銀泰百貨の関連株式を紡績アパレル業界のトップ企業ヤゴールに売却する予定だという噂が流れている。この噂に対し、「国際金融報」の記者は最初に関係者に証明 ...
- 东的天下
- 昨天 17:22
- 支持
- 反对
- 回复
- 收藏