11월 13일 (현지 시간) 엔비디아는 141GB 그래픽 메모리를 탑재한 최신 AI 칩 H200 Tensor Core GPU를 발표해 생성식 AI와 고성능 컴퓨팅 워크로드를 위해 대량의 데이터를 처리할 수 있다.공식 발표에 따르면 엔비디아 H 시리즈의 이전 세대 H100 칩에 비해 용량은 거의 두 배, 성능은 60~90% 향상됐다.그리고 이전 세대 H100 칩, 즉 세계에서 가장 관심이 높은 인공지능 스타트업 OpenAI가 대언어 모델인 GPT-4의 칩을 훈련하는 데 사용했다.
넓은 의미에서 AI 알고리즘을 실행할 수 있는 프로세서라면 GPU, FPGA, ASIC 등을 포함한 AI 칩이라고 할 수 있다.좁은 의미의 AI 칩은 AI 알고리즘을 대상으로 설계되며, 항상 일정한 통용성을 희생하여 AI 알고리즘 전용 성능의 향상과 교환한다.
'신지원'에 따르면 엔비디아 H200은 HBM3e 확장판 고대역폭 메모리를 적용한 최초의 GPU로 메모리가 141GB에 달해 이전 세대 H100의 80G에 비해 거의 두 배로 늘었다.H200은 H100과 동일한 Hopper 아키텍처를 기반으로 하며, Transformer 아키텍처 기반 LLM 및 기타 딥 러닝 모델을 가속화합니다.
H200의 성능 향상은 주로 Llama2 70B 대언어 모델을 처리하는 속도가 H100의 거의 두 배에 달하는 큰 모델의 추론 성능 표현에서 나타난다.H200은 고성능 컴퓨팅(HPC) 애플리케이션을 처리하는 성능도 이전 세대에 비해 20% 가까이 향상됐다.
메모리 대역폭은 HPC 애플리케이션에 매우 중요하므로 데이터 전송 속도를 높이고 복잡한 처리 병목 현상을 줄일 수 있습니다.아날로그, 과학 연구 및 인공 지능과 같은 메모리 집약적 인 HPC 응용 프로그램의 경우 H200의 메모리 대역폭은 데이터를 효율적으로 액세스하고 조작할 수 있으며 CPU에 비해 최대 110 배의 결과를 얻을 수 있습니다.
또 엔비디아 홈페이지에 따르면 H200도 에너지 이용 효율을 높여 H100에 비해 에너지 소비를 약 50% 줄였다.
현재 엔비디아의 글로벌 파트너 서버 제조업체 생태계는 화경락, 에이수스, 델테크놀로지, 에비던, 기가, 후이허, 잉그라테크놀로지, 레노버, QCT, 슈퍼마이크로, 웨이창쯔퉁, 웨이잉테크놀로지 등을 포함하며 H200을 직접 사용하여 기존 시스템을 업데이트할 수 있다.엔비디아가 자체 투자한 코어웨이브, 람다, 볼터 외에 아마존웹서비스, 구글 클라우드, 마이크로소프트 애저, 오라클 클라우드 등 클라우드 서비스 제공업체들이 내년부터 H200 칩을 처음 배치한다.
H200칩 발표 당일 엔비디아 주식은 0.59%, 장중 한때 1.4% 올랐다.엔비디아 홈페이지는 현재 H200 칩의 판매 가격을 공개하지 않고 있다.CNBC에 따르면 이전 세대 칩인 H100은 올해 초 양산을 시작했으며 GPU당 약 25000달러 (약 182000원) 에 판매되고 있다.
'신지원'에 따르면 엔비디아는 H100 GPU와 그레이스 CPU를 통합한 슈퍼칩 GH200을 차세대 H200 칩의 추가 보유로 전 세계 슈퍼컴퓨팅 센터에 총 약 200 엑사플롭스의 AI 계산력을 제공할 예정이다.독일 유리히 슈퍼컴퓨팅센터, 일본 선진 고성능 컴퓨팅 연합센터, 텍사스 고급 컴퓨팅센터, 미국 국립 슈퍼컴퓨팅 응용센터 등 세계 대형 슈퍼컴퓨팅센터는 모두 엔비디아 GH200을 사용하여 슈퍼컴퓨터를 구축할 것이다.
외신에 따르면 업계 전문가들은 AMD가 곧 출시할 MI300 가속기가 경쟁력 있는 AI 제품이 될 것으로 기대하고 있다.AMD는 12월 6일'인공지능 추진'기조연설을 열고 MI300이라는 이름의 인스팅트 가속기 시리즈를 발표한다.
AI 칩의 개발과 다국적 판매도 국제 정치 소용돌이의 중심에 있다.올해 10월, 미국은 중국에 대한 AI 칩 수출을 강화했다. 미국 정부는 엔비디아가 중국 고객에게 A100 등 칩을 판매하기 전에 허가증을 받아야 한다고 요구했고, 엔비디아와 인텔은 중국 시장에서 제동이 걸렸다.
현재 국내 AI 칩 관련 제조업체는 주로 캄브리아기, 징자웨이, 윈톈리페이, 헝삭주식, 하이광정보, 푸단웨이뎬, 안로과학기술, 란치과학기술, 항우웨이, 궈신과학기술, 자광궈웨이, 궈커웨이 등을 포함하는데 그중 캄브리아기의 ASIC칩은 국내 AI 칩의 선두이고 징자웨이의 GPU 칩은 국내 GPU 선두이다.
이밖에 또 기타 중국과학기술거두와 창업회사들도 이미 AI칩분야에 일정한 배치를 갖고있다.