차이롄보 2월 27일발 소식: 갈수록 많은 증거는 인공지능칩의 공급긴장문제가 다소 완화되고있음을 보여주고있다. 일부 엔비디아 H100 80GB 프로세서를 대량으로 구매한 회사들은 현재 이런 프로세서를 재판매하려고 시도하고있다.
현재 인공지능(AI)과 고성능컴퓨팅(HPC) 애플리케이션에 사용되는 것으로 알려진 엔비디아 H100 GPU의 납품 주기는 8∼11개월에서 3∼4개월로 대폭 단축됐다.
보도에 따르면 일부 회사들은 H100 GPU를 재판매하거나 주문을 줄이고 있다. 이들 칩의 희소성이 떨어지기 시작했고 아직 사용되지 않은 재고를 유지하는 비용도 비싸기 때문이다.이러한 상황은 엔비디아의 Hopper GPU를 획득하는 것이 큰 도전이었던 1년 전에 비해 크게 바뀌었다.
현재 인공지능 프로세서 공급 부족의 완화는 AWS, 구글 클라우드, 마이크로소프트 애저 등 클라우드 서비스 제공업체로부터 엔비디아의 H100 GPU를 임대하는 것이 더 쉬워졌다는 데에도 나타나고 있다.예를 들어, AWS는 고객이 더 짧은 시간에 GPU 임대를 예약할 수 있도록 하는 새로운 서비스를 출시하여 이전 칩의 가용성 문제를 해결함으로써 인공지능 칩을 얻기 위한 대기 시간이 줄어들고 있다.
비록 칩의 접근성이 다소 제고되고 인도시간도 크게 단축되였지만 인공지능칩의 수요는 여전히 공급을 훨씬 초과하고있다.
특히 대형 언어 모델을 자체 개발하고 교육하는 회사들은 여전히 공급 문제에 직면해 있는데, 대부분 그들이 필요로 하는 GPU의 수가 너무 많기 때문이다.이들 기업은 필요한 프로세서나 용량을 확보하는 데 몇 개월의 지연을 겪고 있습니다.
바로 이러하기때문에 엔비디아 H100과 기타 프로세서의 가격은 내려가지 않았으며 이 회사도 계속 높은 리윤률을 향유하고있다.
그러나 AMD와 AWS의 프로세서와 같은 많은 엔비디아 프로세서의 대체품이 잇달아 출시됨에 따라 이 시장은 더욱 균형 잡힌 국면을 맞이할 수 있다.또 한 가지 이유는 각 회사가 인공지능 프로세서에 대한 지출도 더욱 신중해졌기 때문이다.
여하튼 현재로서는 인공지능칩에 대한 시장의 수요가 여전히 강하고 대형언어모형이 갈수록 커짐에 따라 계산성능에 대한 수요도 갈수록 높아지고있다.