英伟达Blackwell GPU架构将登陆亚马逊云科技 要“把AI扩展到万亿参数”
维也纳516
发表于 2024-3-19 20:20:18
2127
0
0
随着英伟达芯片的升级,《每日经济新闻》记者了解到,此次合作中,亚马逊云科技将为客户提供全新的Amazon EC2云实例(Elastic Compute Cloud,亚马逊弹性计算云),从而帮助客户以更快速度、更大规模、更低成本地对构建和运行数万亿参数的大语言模型(LLMs)进行实时推理,性能相较于配备上一代英伟达GPU的EC2实例有显著改进。
同时,亚马逊云科技将提供基于英伟达Grace Blackwell GPU的EC2云实例,以及双方在亚马逊云科技上合作开发的AI平台——NVIDIA DGX Cloud,客户可以在EC2上运行他们的生成式AI负载,也可以选择在DGX Cloud上运行。
亚马逊云科技与英伟达的合作可以追溯到13年前。
亚马逊云科技CEO亚当·塞利普斯基(Adam Selipsky)表示,当时两者共同在亚马逊云科技上推出了世界上第一个GPU云实例。对此次合作,他认为,当英伟达芯片与Amazon Elastic Fabric Adapter Networking、Amazon EC2 UltraClusters的超大规模集群以及亚马逊云科技独特的Nitro系统的高级虚拟化和安全功能相结合时,客户将能够以更快的速度构建和运行数万亿参数大型语言模型。规模更庞大,且比其他任何地方都更安全。
英伟达创始人兼首席执行官黄仁勋对此表示:“人工智能正在以前所未有的速度推动突破,带来新的应用程序、商业模式和跨行业创新。我们与亚马逊云科技的合作正在加速新的生成式人工智能功能,并为客户前所未有的计算能力,以推动可能性的边界。”
亚马逊云科技自去年下半年起,在生成式AI领域深度合作频繁。去年9月,亚马逊向生成式人工智能聊天机器人的初创公司Anthropic投资40亿美元,并提供亚马逊创建的人工智能开发者工具和产品,比如计算芯片、大语言模型以及云计算能力。Anthropic最新推出的Claude3系列模型在基准测试中已超过GPT4,该模型也在Amazon Bedrock向客户提供。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 环球下周看点:英伟达和一大批中概股财报来袭 特朗普2.0持续扰动市场
- G20峰会举行 英伟达和多只中概股财报来袭
- 或延迟3个月交付 英伟达新一代 Blackwell GPU 被曝存过热问题
- 一周前瞻 | 英伟达迎财报“大考”!或将指引美股走向下一个方向;特朗普2.0持续扰动市场,内阁关键岗位成市场关注重点
- 英伟达三季报本周登场前 传来坏消息
- 英伟达新一代AI芯片被曝过热恐延迟交付 公司回应称“客户还在抢”
- 英伟达新一代AI芯片被曝过热恐延迟交付,公司回应称“客户还在抢”
- 英伟达新一代AI芯片被曝过热恐延迟交付,公司回应
- 因数据泄露 亚马逊旗下Twitch遭土耳其罚款200万里拉
- 英伟达突传利空 芯片被曝存在过热问题!本周还将披露三季度财报
-
今日になっても、世界中のスタンダード500指数投資家は、データセンターのサーバーメーカーである超マイクロコンピュータの説明を待っていない--なぜ一時上昇幅が大きかったAI概念株が、スタンダード500指数に入っ ...
- 就放荡不羁就h
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
【いい日が来る?米科学技術企業は首を長くして待っている:トランプ2.0は監督管理を減らすことが重要になる】トランプ氏が総選挙に勝利したことに伴い、多くの米科学技術会社幹部は喜んでいる。トランプ氏が勝利し ...
- 内托体头
- 昨天 12:51
- 支持
- 反对
- 回复
- 收藏
-
11月18日、グーグルクラウド(Google Cloud)は、尹世明氏が大中華区総裁にグーグルクラウドに加入したと発表した。グーグルクラウドに加入する前は、マイクロアライアンスの最高経営責任者、百度グループの副総裁 ...
- 内托体头
- 昨天 12:06
- 支持
- 反对
- 回复
- 收藏
-
テスラ(TSLA)中国は、上汽と2輪FSD(Full Self-Driving、完全自動運転)のライセンスを検討していることについて、このニュースは事実ではないと答えた。これに先立ち11月17日、市場ではテスラのFSDが中国に進出 ...
- 月望魂
- 昨天 17:14
- 支持
- 反对
- 回复
- 收藏