AI 칩 거물인 엔비디아가 가장 주목받는 GTC 개발자 콘퍼런스를 앞두고 글로벌 AI 계산력 향배가 주목된다.
영국 칩 아키텍처 기업 Arm이 서버 시장에 계속 힘을 쏟으면서 최근 서버 프로세서 Arm Neoverse 시리즈의 제품 로드맵을 업데이트한 뒤 새로운 3세대 Neoverse IP를 기반으로 구축된 새로운 Arm Neoverse 컴퓨팅 서브시스템 (CSS) 2종을 선보였다.CPU와 GPU를 통합한 차세대 AI'슈퍼칩'의 일부 모습도 처음 엿볼 것으로 보여 엔비디아의 후속 여부도 주목된다.
Neoverse는 Arm이 2018년에 출시한 데이터센터 시장을 겨냥한 서버 프로세서 브랜드로, Arm 계획 하에 Neoverse 산하의 N 시리즈, V 시리즈, E 시리즈는 각각 포지셔닝이 있다. 예를 들어 V 시리즈는 성능 우선을 강조하여 프리미엄 서버 시장에 사용되며, 이전 세대 Neoverse V2는 엔비디아의 AI 칩 설계에 사용된다.
엔비디아는 지난해 3월 CPU와 GPU를 함께 패키지한'그레이스 호퍼'GH200 슈퍼칩을 처음 선보였다.그 중'그레이스'는 엔비디아가 2021년 4월에 발표한 데이터센터 Arm CPU 시리즈이고,'호퍼'는 엔비디아의 최신 아키텍처 GPU 양산 모델인 H100이다.
한 칩 업계 투자자는 인터페이스 뉴스 기자에게 엔비디아의 그레이스 호퍼 칩은 CPU를 최고의 AI 훈련 제품 (GPU) 과 함께'슈퍼 칩'을 만들어 AI 전체 솔루션을 함께 구축한 것이라고 말했다.
GH200은 AI 훈련과 추리에 사용될 수 있으며, 엔비디아는 CPU 1개와 H100 GPU 1개를 하나의 전체 칩으로 패키지함으로써 CPU, GPU 간 데이터 전송 효율을 대폭 향상시켰다.같은 해 11월, 엔비디아는 GH200을 업그레이드하여 GH200에 GPU에 장착된 96GB 용량의 HBM3 메모리를 144GB의 HBM3e로 업그레이드하여 데이터 전송 효율을 다시 한 번 대폭 향상시켰다.
엔비디아가 GPU 제품으로 AI의 물결을 잡는 과정에서 Arm도 엔비디아가 AI 컴퓨팅의 강세 지위에서 혜택을 받아 데이터센터 시장에 Arm 기술 기반 프로세서가 더 많이 채택될 수 있다는 것을 의미한다.
Arm 인프라 사업부 Mohamed Awad 사장은 인터페이스 뉴스 기자에게 엔비디아가 이전에 출시한 Grace Hopper 슈퍼 칩은 시스템 아키텍처를 재설계했다. 과거 데이터 센터는 하나의 CPU를 사용하여 여러 GPU의 설계를 관리했지만 Grace Hopper 칩은 하나의 CPU가 하나의 GPU에만 대응하는 것으로 바뀌었다고 설명했다."더 많은 CPU는 메모리 일관성을 의미하며 궁극적으로 GPU의 활용도를 크게 향상시킵니다."
Arm에 따르면 AI 계산력에 대한 업계의 수요가 점차 훈련에서 추리로 전환됨에 따라 CPU 추리는 생성식 AI 계산 응용의 관건적인 구성이 될 것이다.
그러나 모든 AI 처리가 CPU에서 수행되는 것은 아닙니다.Arm 인프라 사업부 제품 솔루션 부사장 Dermot O'Driscoll은 Grace Hopper를 예로 들며, 엔비디아가 이 칩에 대한 중요한 혁신은 메모리 용량과 공유 메모리 모델에 있으며, 이러한 타이트한 CPU 설계에 AI 가속기를 배치하면 현재 유행하는 대참수 대언어 모델과 기타 AI 응용에 매우 유익하다.
Arm은 맞춤형 칩을 더 빠르고 설계 난이도를 낮추기 위해 작년에 Arm Neoverse CSS를 출시했습니다.Neoverse CSS에서는 Arm이 완전한 컴퓨팅 서브시스템을 구성, 최적화 및 검증하고 각종 컴퓨팅 용례에 맞게 구성하며 파트너는 소프트웨어 튜닝, 사용자 정의 가속 등에 집중하여 제품 출시 시간을 가속화하고 엔지니어링 비용을 절감할 수 있습니다.
Dermot O'Driscoll은 Neoverse CSS는 고객이 Arm CPU 플랫폼에서 범용 컴퓨팅 코어 입자를 빠르게 만들 수 있도록 돕기 위해 출시한 제품이라고 지적했다.고객이 원하는 모든 인터페이스를 제공하여 자체 가속기 결합을 선택할 수 있습니다.이 방법은 CPU가 필요할 때 CPU를 제공할 수 있을 뿐만 아니라 AI 가속기가 필요할 때 AI 가속기를 제공하여 둘 다 훌륭하게 할 수 있다.
그동안 엔비디아는 Arm 아키텍처를 자체 개발한 Grace CPU에 대해 인텔, AMD와의 경쟁 색상을 희석시키려 애썼다.
황인훈은 2021년에 계면신문 기자에게 절대다수의 데이터센터는 여전히 기존 x86 CPU를 계속 사용할 것이며, 그레이스는 주로 컴퓨팅 분야의 대형 데이터 집약형 세분화 시장에 사용될 것이며, 기존 CPU 제조업체에'게임 규칙 변경'과 같은 영향을 주지 않을 것이라고 밝힌 바 있다.
그러나 시장 구도는 이미 바뀌었다.데이터센터 시장에서 Arm은 인텔, AMD 두 기업에 도전장을 내밀고 있다.
시장연구기관 카운터포인트에 따르면 Arm 아키텍처 서버는 2022년 처음으로 데이터센터 시장에서 10억 달러 이상의 수입을 올렸다. 이 중 AWS 자체 연구 칩은 이 시장의 3.16%, Ampere는 1.52% 를 차지했다.마이크로소프트가 2023년에 자체 개발한 Arm 칩을 배포하고 Grace Hopper의 출하에 따라 서버 시장에서 Arm의 점유율은 계속 상승할 것으로 예상된다.