AI芯片供应似有缓和迹象:英伟达H100正被抛出 租用更容易
我心如烟卸
发表于 2024-2-27 19:32:29
210
0
0
目前,据悉用于人工智能(AI)和高性能计算(HPC)应用的英伟达H100 GPU的交付周期已从8-11个月大幅缩短至3-4个月。
据报道,一些公司正在转售他们的H100 GPU或减少订单,因为这些芯片的稀缺性开始下降,并且维护这些尚未使用库存的成本也很高。此类情形与一年前相比出现重大转变,当时获得英伟达的Hopper GPU是一个重大挑战。
目前人工智能处理器供应短缺的缓解还表现在,从AWS、谷歌云和微软Azure等云服务提供商租用英伟达的H100 GPU变得更加容易了。例如,AWS推出了一项新服务,允许客户安排更短时间的GPU租赁,解决了之前芯片可用性的问题,这导致获得人工智能芯片的等待时间在减少。
尽管芯片可得性有所提高,交货时间也大大缩短,人工智能芯片的需求仍然远远超过供应。
特别是那些自己开发并培训大型语言模型的公司仍然面临供应问题,很大程度上是因为他们需要的GPU数量过于庞大。这些公司在获得所需处理器或容量方面仍面临着几个月的延迟。
也正因如此,英伟达H100和其他处理器的价格并没有下降,该公司也继续享有高利润率。
不过,随着诸多英伟达处理器的替代品接连问世,例如AMD和AWS的处理器,该市场可能会迎来更加平衡的局面。还有一点原因是,各公司对人工智能处理器的支出也变得更加谨慎了。
无论如何,就目前而言,市场对人工智能芯片的需求依然强劲,并且随着大型语言模型越来越大,对计算性能的需求也越来越高。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 英伟达、微软、谷歌等科技巨头纷纷布局 2025年将成为AI代理元年?
- 2024年美股盘点: 最大“黑马”年涨幅741%,英伟达四季度遭逆袭,微软垫底“七巨头”,机构警告AI泡沫
- “股神”巴菲特再出手!这家公司获增持 利润率比肩英伟达
- 英伟达下一个增长点?明年上半年计划推出人形机器人Jetson Thor
- 英伟达最新表态!机器人“ChatGPT时刻”即将到来 押注下一个增长动力
- 多国反垄断机构“盯上”英伟达
- 英伟达明年上半年或推机器人“大脑”,今年以来公司股价增幅超176%
- 英伟达计划明年上半年发布新一代人形机器人计算平台,支持多模态AI模型
- 知名投资人:英伟达正在“印钱” AI机遇无穷无尽!
- 美股成交额前20:英伟达年涨幅超过170% 获得Wedbush继续看好