AI芯片供应似有缓和迹象:英伟达H100正被抛出 租用更容易
我心如烟卸
发表于 2024-2-27 19:32:29
241
0
0
目前,据悉用于人工智能(AI)和高性能计算(HPC)应用的英伟达H100 GPU的交付周期已从8-11个月大幅缩短至3-4个月。
据报道,一些公司正在转售他们的H100 GPU或减少订单,因为这些芯片的稀缺性开始下降,并且维护这些尚未使用库存的成本也很高。此类情形与一年前相比出现重大转变,当时获得英伟达的Hopper GPU是一个重大挑战。
目前人工智能处理器供应短缺的缓解还表现在,从AWS、谷歌云和微软Azure等云服务提供商租用英伟达的H100 GPU变得更加容易了。例如,AWS推出了一项新服务,允许客户安排更短时间的GPU租赁,解决了之前芯片可用性的问题,这导致获得人工智能芯片的等待时间在减少。
尽管芯片可得性有所提高,交货时间也大大缩短,人工智能芯片的需求仍然远远超过供应。
特别是那些自己开发并培训大型语言模型的公司仍然面临供应问题,很大程度上是因为他们需要的GPU数量过于庞大。这些公司在获得所需处理器或容量方面仍面临着几个月的延迟。
也正因如此,英伟达H100和其他处理器的价格并没有下降,该公司也继续享有高利润率。
不过,随着诸多英伟达处理器的替代品接连问世,例如AMD和AWS的处理器,该市场可能会迎来更加平衡的局面。还有一点原因是,各公司对人工智能处理器的支出也变得更加谨慎了。
无论如何,就目前而言,市场对人工智能芯片的需求依然强劲,并且随着大型语言模型越来越大,对计算性能的需求也越来越高。
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 美股成交额前20:苹果跌超4%本土生产iPhone成本或飙升90% 特斯拉跌超7% 英伟达跌近6%
- 特朗普:将加快向英伟达发放研发AI超级计算机所有必要许可
- 美股半导体股盘前多数下跌,英伟达跌超6%
- 纳指收跌超3% 英伟达重挫逾6%
- 鲍威尔“鹰派”讲话带崩美股,纳指跌超3%,英伟达再度大跌
- 大摩下调英伟达营收预期:H20限售令影响或超预期!
- 霸王茶姬美股首日上市 盘中一度涨近50%!道指跌超1% 英伟达跌近3%!事关降息 特朗普发声
- 黄仁勋今年二度到访:中国是英伟达非常重要的市场 希望继续与中国合作
- 龚正会见英伟达总裁兼首席执行官黄仁勋
- 美股成交额前20:特斯拉、亚马逊、英伟达涨超3% 奈飞股价创新高