英伟达Blackwell GPU架构将登陆亚马逊云科技 要“把AI扩展到万亿参数”
维也纳516
发表于 2024-3-19 20:20:18
2138
0
0
随着英伟达芯片的升级,《每日经济新闻》记者了解到,此次合作中,亚马逊云科技将为客户提供全新的Amazon EC2云实例(Elastic Compute Cloud,亚马逊弹性计算云),从而帮助客户以更快速度、更大规模、更低成本地对构建和运行数万亿参数的大语言模型(LLMs)进行实时推理,性能相较于配备上一代英伟达GPU的EC2实例有显著改进。
同时,亚马逊云科技将提供基于英伟达Grace Blackwell GPU的EC2云实例,以及双方在亚马逊云科技上合作开发的AI平台——NVIDIA DGX Cloud,客户可以在EC2上运行他们的生成式AI负载,也可以选择在DGX Cloud上运行。
亚马逊云科技与英伟达的合作可以追溯到13年前。
亚马逊云科技CEO亚当·塞利普斯基(Adam Selipsky)表示,当时两者共同在亚马逊云科技上推出了世界上第一个GPU云实例。对此次合作,他认为,当英伟达芯片与Amazon Elastic Fabric Adapter Networking、Amazon EC2 UltraClusters的超大规模集群以及亚马逊云科技独特的Nitro系统的高级虚拟化和安全功能相结合时,客户将能够以更快的速度构建和运行数万亿参数大型语言模型。规模更庞大,且比其他任何地方都更安全。
英伟达创始人兼首席执行官黄仁勋对此表示:“人工智能正在以前所未有的速度推动突破,带来新的应用程序、商业模式和跨行业创新。我们与亚马逊云科技的合作正在加速新的生成式人工智能功能,并为客户前所未有的计算能力,以推动可能性的边界。”
亚马逊云科技自去年下半年起,在生成式AI领域深度合作频繁。去年9月,亚马逊向生成式人工智能聊天机器人的初创公司Anthropic投资40亿美元,并提供亚马逊创建的人工智能开发者工具和产品,比如计算芯片、大语言模型以及云计算能力。Anthropic最新推出的Claude3系列模型在基准测试中已超过GPT4,该模型也在Amazon Bedrock向客户提供。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 2024年美股盘点: 最大“黑马”年涨幅741%,英伟达四季度遭逆袭,微软垫底“七巨头”,机构警告AI泡沫
- 出海周报丨亚马逊否认要求卖家“二选一”;小米全球月活跃用户数已超6.86亿
- “股神”巴菲特再出手!这家公司获增持 利润率比肩英伟达
- 英伟达下一个增长点?明年上半年计划推出人形机器人Jetson Thor
- 英伟达最新表态!机器人“ChatGPT时刻”即将到来 押注下一个增长动力
- 多国反垄断机构“盯上”英伟达
- 英伟达明年上半年或推机器人“大脑”,今年以来公司股价增幅超176%
- 英伟达计划明年上半年发布新一代人形机器人计算平台,支持多模态AI模型
- 知名投资人:英伟达正在“印钱” AI机遇无穷无尽!
- 美股成交额前20:英伟达年涨幅超过170% 获得Wedbush继续看好