3분 속람 황인훈 GTC 강연: 최강 AI 칩, NIM 마이크로서비스 등

真不是我干的的

북경시간으로 화요일 아침, 엔비디아 GTC 2024 회의에서 가장 중요한 일정인 창시자 겸 CEO 황인훈의 기조연설이 금방 끝났다.시장의 예상대로 글로벌 자본시장은 방금 새로운 계산력 칩/서버와 AI 소프트웨어 차원의 응용을 보았다.
과거와 마찬가지로 원고를 발송할 때까지 황인훈이 연설을 시작할 때부터 엔비디아는 이미 40편의 보도원고를 양양하게 발표했는데 이 글은 오늘 아침의 중점진전을 중점적으로 개괄하여 투자자들이 참고할수 있도록 할것이다.
더 큰 GPU – Blackwell 아키텍처 출시 예정
오늘 새로운 플래그십 계산력 GPU가 등장할 것이라는 것을 사전에 전 시장이 알고 있었지만 황인훈은 연설에서 이름을 제대로 밝히지 않았다. 더 크고 더 강한 블랙웰 아키텍처 GPU를 출시했다고 밝혀 한때 언론의 혼란을 일으켰다.그러나 공식 홈페이지의 데이터를 보면, 오늘 황씨가 손에 든 것은 B200 칩일 것이며, 공식 홈페이지에도 Blackwell 아키텍처에 B100 칩이 존재한다고 나열되어 있다.엔비디아는 판매 가격을 공개하지 않고 연내에 파트너에게 출하하겠다고 밝혔다.
엔비디아는 새로운 B200 칩이 2080억 개의 트랜지스터를 보유하고 있으며, TSMC 맞춤형 4NP 공정으로 제조되고 있다고 밝혔다.특히 이번 칩은 두 개의 die를 하나의 통합 GPU로 연결해 die 간 통신 속도가 10TB/s에 이를 수 있다.이변이 없는 한 이 칩은 192GB의 HBM3E 메모리를 사용한다.
GB200 그레이스 블랙웰 슈퍼칩은 B200 칩 2개 (4 die) 와 그레이스 CPU를 조합한 것이다.H100에 비해 대언어 모델의 성능은 30배 향상되었고 에너지 소비량은 25분의 1에 불과했다.
황 씨는 강연에서 1조8000억 참가자 수의 GPT 모델을 훈련하려면 호퍼 GPU 8000장, 15메가와트의 전력을 소비해 90일 연속 달리기를 해야 한다고 예를 들었다.그러나 GB200 Blackwell GPU를 사용하면 2000장만 있으면 돼 역시 90일을 뛰면 4분의 1의 전력만 소모된다.훈련뿐만 아니라 Token을 생성하는 비용도 크게 낮아집니다.
이 새로운 칩 세트와 함께 엔비디아는 5세대 새로운 NVLink 칩과 GB200 NVL72 서버, X800 시리즈 네트워크 스위치, 차세대 인공지능 슈퍼컴퓨터 NVIDIA DGX SuperPOD 등 일련의 제품을 선보였다.
소프트웨어 개발 새로운 방법: NIM 마이크로서비스
하드웨어 업데이트를 마친 황인훈도 남은 시간을 소프트웨어 생태계에 투입한다.엔비디아는 지구 기후 디지털 트윈, 의약 개발 AI 외에도 AI 엔터프라이즈 5.0에서 기업이 AI 모델을 생산 환경에 배치하는 NIM을 단순화하는 등 일련의'마이크로 서비스'를 선보였다.
황인훈은"앞으로 회사는 소프트웨어를 작성하지 않고 AI 모델을 조립해 미션을 제시하고 작업 제품의 예시, 심사 계획과 중간 결과를 제시할 것"이라고 말했다.
엔비디아는 NIM 마이크로서비스가 알고리즘, 시스템, 운영 최적화를 패키지화하고 업계 표준의 API를 추가함으로써 AI 모델 배치 과정을 간소화했다고 설명했다.이를 통해 개발자는 많은 사용자 정의나 전문 지식 없이 기존 애플리케이션 및 인프라에 NIM을 통합할 수 있습니다.
디지털 트윈 지원 Vision Pro
엔비디아도 월요일에 Omniverse 클라우드가 이제 개발자들이 콘텐츠 제작 애플리케이션에서 엔비디아의 GDN(Graphics Delivery Network)으로 산업 장면을 전송할 수 있도록 허용함으로써 첨단 3D 경험을 Apple Vision Pro로 스트리밍할 수 있다고 발표했다.
이 새로운 워크플로우는 애플 비전프로의 고해상도 디스플레이와 엔비디아의 클라우드 렌더링을 결합해 기기와 인터넷 연결만으로 공간 컴퓨팅 경험을 제공할 수 있다.
그리고 아주 많은 자질구레한 관선
반도체 분야에서 엔비디아는 TSMC와 Synopsys가 엔비디아 컴퓨팅 포토레지스트 플랫폼인 CuLitho를 첨단 칩 생산에 투입한다고 발표했다.
통신 분야에서 황인훈은 NVIDIA 6G라는 연구 클라우드를 발표했는데, 이는 차세대 통신 시대의 발전을 추진하기 위한 생성식 인공지능과 옴니버스 기술로 구동되는 플랫폼이다.
교통운수 분야에서는 세계 최대 전기차 회사인 BYD가 엔비디아의 중앙집중식 차량용 컴퓨팅 플랫폼인 DRIVE Thor를 적용해 차세대 전기차를 개발한다.또한 BYD는 엔비디아 인프라를 이용한 자율주행 모델 훈련과 엔비디아 Isaac를 통해 스마트 팩토리 로봇을 설계/시뮬레이션할 예정이다.
로봇도 전체 강연의 마지막 부분이다.황인훈은 로봇 기술 개발을 돕는 여러 소프트웨어를 발표했다.여기에는 Isaac Perceptor 소프트웨어 개발 키트가 포함되며 다중 카메라 시각 거리 측정, 3D 재구성 및 깊이 인식 등이 포함됩니다.Isaac Manipulator - 로봇 팔 감지, 경로 계획 및 운동학적 제어 라이브러리도 있습니다.마지막으로 그는 GR00T라는 프로젝트를 발표했는데 이는 인간형로보트를 대상으로 하는 통용기초모형으로서 회사의 로보트기술과 구신지능면에서의 돌파를 추진하기 위해서이다.
엔비디아 제슨 칩을 사용하는 디즈니 로봇 오렌지와 그린이 함께한 가운데 발표회가 막을 내렸다.