AI는 글로벌 과학기술 돌파의 새로운 성장점이 되었고, AI 발전을 제약하는 관건은 무엇인가?큰 모델 자체의 연구 개발 외에 또 다른 관건은 계산력이다.현재 AI의 훈련과 추리 비용은 대부분 GPU 칩에 있다.전 세계 크고 작은 AI 스타트업들은 훈련 모델이 엔비디아의 H100 등 칩에 의존해야 하는데, H100 칩 한 조각이 3만5천 달러에 달해 공급이 수요를 따라가지 못하고 있다.
2월 21일 (현지 시각) 엔비디아는 4분기와 2024 회계연도 실적을 발표했다.실적 발표에 따르면 엔비디아는 1월 28일까지 분기 동안 221억 달러의 매출을 올려 애널리스트들이 예상한 204억 1000만 달러보다 높았고, 전월 대비 22%, 전년 동기 대비 265% 급증했다.4분기 순이익은 123억 달러로 전년 동기 대비 765% 폭증했다.연간 매출은 사상 최고치인 609억 달러로 126% 증가했다.실적 발표를 앞두고 엔비디아의 주가는 4거래일 연속 하락했고, 예상을 뛰어넘는 실적 발표로 엔비디아의 주가는 미국 주식 장 이후 한때 9% 이상 올랐다.
엔비디아의 급상승은 AI 대형 모델의 동풍을 빌렸다.2022 년 11 월 OpenAI는 엔비디아의 A100 칩에서 훈련 된 ChatGPT를 발표했습니다.이 소식이 알려지자 주식시장 역사상 가장 큰 하루 상승폭 중 하나가 되었다.
뉴요커는 한 기사에서 한 월가 분석가를 인용해 "인공지능 분야에서 전쟁이 벌어지고 있는 가운데 엔비디아는 유일한 무기상이다.
그러나 뜨거운 전장은 군웅을 불러일으켰고, 각 칩 업체, 클라우드 서비스 업체들은 잇달아 AI 계산력의 새로운 코스를 빼앗았다: 2023년 4월, 아마존은 AI 추리 칩 Inferentia 2를 발표했다;5월, 메타는 AI 칩 프로젝트 MITA를 발표했습니다.8월, Google은 TPU v5e를 발표했습니다.11월, 마이크로소프트는 AI 칩 Maia 100을 발표했다.이 밖에 손정의, 샘 알트먼 등 거물들이 AI 칩 분야를 노리고 있다.
엔비디아, AI 칩 분야에서 자신의 독점적 지위를 지킬 수 있다면 유일한 무기상이 될 수 있을까?
엔비디아: 인내심의 독점자
2월 16일, OpenAI가 발표한 문생영상모형 Sora가 전 세계를 폭발시켰고 당일 파장까지 엔비디아의 시가는 1조 7900억딸라에 달했다.2023년 엔비디아의 시가총액은 두 배 이상 올랐고, 올해 한 달 반 만에 엔비디아의 주가는 다시 50% 이상 올랐다.
현재 AI 칩 분야에서 엔비디아는 독점자다.엔비디아의 AI 칩은 얼마나 돈을 벌까?H100칩의 재료원가는 3000딸라이고 공식판매가격은 35000딸라에 달하며 중고플랫폼의 거래가격은 50000딸라에 달해 가격이 원가보다 10배가 넘었고 여전히 시장에서 공급이 수요를 따르지 못하고있다.엘론 머스크는 "H100은 마약보다도 구하기 어렵다"고 말했다.
엔비디아의 H100은 얼마나 경화입니까?집, 토지, 화폐처럼 담보물로 돈을 빌릴 수 있다.원천연구소에 따르면 2023년 8월 미국의 스타트업 코어웨이브는 수중에 있는 H100 칩을 담보로 월가에 23억 달러의 채무 융자를 받았다.뿐만 아니라 당시 CoreWeave의 H100 칩 수는 23억 달러에 미치지 못했지만 엔비디아가 CoreWeave에 H100을 제공하겠다는 약속 납품 계약으로 은행에서 거액의 대출을 받을 수 있었다. 당시 부동산 개발업자들이 토지 취득 계약, 토지 승인문을 통해 은행에서 돈을 빌릴 수 있었던 것과 비슷하다.
전 세계 크고 작은 AI 스타트업들은 훈련 모델이 엔비디아의 H100 칩에 의존해야 한다.컨설팅업체 오미디아에 따르면 엔비디아는 2023년 3분기에 H100 칩을 50만 개 가까이 판매했다. 메타와 마이크로소프트는 엔비디아 H100 GPU의 최대 구매자로 각각 구글, 아마존, 오라클, 텐센트가 구입한 H100 칩 수 (각 50000개) 보다 훨씬 많은 150000개를 구매했다.
독점은 하루아침에 이루어지는 것이 아니라 시간이 필요하다.일찍 령수년에 AI가 영상인식과 음성인식 등 기본임무에서 정체되고 AI의 전망이 아직 불투명할 때 많은 AI훈련이 엔비디아그래픽카드에서 진행되였다.2009년 인공지능의 아버지로 불리는 지오프리 힌튼은 엔비디아의 CUDA 플랫폼을 이용해 신경망을 이용해 인간의 음성을 인식하도록 훈련했다.2012 년 그의 학생 인 Alex Krizhevsky, Ilya Sutskever (나중에 OpenAI의 수석 과학자) 는 예산이 부족한 상황에서 Amazon에서 GeForce 그래픽 카드 2 개를 구입했습니다.2016년 엔비디아는 OpenAI의 한 연구팀에 첫 전용 인공지능 슈퍼컴퓨터 DGX-1을 납품했다.황인훈은 직접 이 컴퓨터를 오픈AI의 사무실로 가져갔고, 당시 오픈AI 회장이었던 일론 머스크는 종이 재단용 칼로 포장을 열었다.
2023년 3월 OpenAI가 GPT-4를 발표하면서 인공지능 업계 전반에 다시 불을 지폈다.칩 연구기관 SemiAnalysis가 입수한 정보에 따르면 OpenAI는 2만5000장 영위다 A100 GPU로 3개월 넘게 훈련한 끝에 GPT-4 대형 모델을 만들었다.
그러나 황인훈 자신의 말처럼"우리는 회사가 항상 위험에 처해 있는 것처럼 가장할 필요가 없다. 우리는 항상 위험에 처해 있다."AI 칩의 경기장은 이미 여러 거물들이 둘러보고 있다: 소프트뱅크 그룹의 손정의용은 변함없이 큰 손으로 AI 칩에 1000억 달러를 광적으로 투자할 준비를 하고 있는데, 그중 70% 의 자금이 중동에서 왔다;마이크로소프트는 인텔과 연합하여 엔비디아에 대한 의존도를 줄이기 위해 칩을 제조하고 있습니다.더욱 신예팀은 AI 칩의 밑바닥 논리를 혁신했다. 구글의 초기 TPU 팀에서 이직한 Groq팀은 새로운 기술 노선으로 칩을 설계했다.
소프트뱅크 손정의의 지폐 능력 코어
2월 15일 블룸버그통신에 따르면 소프트뱅크그룹 창업자 손정의는 1000억딸라에 달하는 칩기업을 설립하고 AI칩을 개발하는것을 고려했다.소식통에 따르면 손정의가 고려하고 있는 한 가지 시나리오는 소프트뱅크가 300억 달러를 제공하고, 다른 700억 달러는 중동 기관에서 나올 수 있다는 것이다.소식이 알려진 지 며칠 만에 소프트뱅크 그룹의 주식은 3% 상승했다.
이 칩 프로젝트의 코드명"Izanagi"(이사나기) 는 일본어로 일본 신화에서 천지개벽의 신만을 의미하며 손정의의 야망을 보여준다.Izanagi 칩 프로젝트가 성공하면 전 세계 반도체 시장의 약 5분의 1을 차지할 것이다.
소식통에 따르면 이 새 회사는 소프트뱅크 산하 칩 설계 회사인 Arm과 상호 보완을 이루기 위한 것이다.소프트뱅크 그룹의 일련의 투자가 몇 년 전에 좌절된 후, 현재 Arm 칩이 설계한 업무는 소프트뱅크 그룹의 중점 중 하나이다.Arm사는 코어를 만들지 않고 현대칩을 위해 지령집을 설계하는데 고객에는 퀄컴, 애플, 삼성이 포함된다.소프트뱅크그룹은 Arm의 지분 약 90% 를 보유하고 있으며 올해 2월 Arm의 주가는 67% 올랐다.
손정의도 도박을 좋아하여 여러 력사절점에서 시대의 큰 조류를 똑똑히 보고 널리 그물을 치고 돈을 걸었다.2000년, 알리바바가 여전히 무명소졸이고 인터넷경제가 아직 이동시대의 비약을 맞이하지 못했을 때 손정의는 마윈과 수십분간 이야기를 나눈후 알리바바에 2000만딸라를 투자했다.인터넷이 유망하다고 생각했기 때문에 손정의는 1995년 야후에 큰 투자를 했다.손정의는 기술이 유망하다고 판단해 1996년 킹스턴 지분 80% 를 15억 달러에 인수했다.물론 손정의의 광사망식 투자도 흑자도 있고 적자도 있다.
시대 추세에 대한 후각이 예민한 손정의는 당연히 현재 AI의 새로운 코스를 놓치지 않을 것이다.블룸버그통신에 따르면 손정의는"AGI는 모든 인공지능 전문가들이 추구하는 목표지만 그들에게 상세한 정의, 숫자, 시간, 계산 능력, AGI가 인간 지능보다 얼마나 똑똑한지 물었을 때 그들 대다수는 답이 없다.나는 AGI가 10년 안에 현실이 될 것이라고 믿는다는 나만의 답이 있다"고 말했다.
특히 중동 자본은 칩 경기장 배후의 큰 플레이어이자 손정의의 가장 주요한 자금원 중 하나다.Izanagi 칩 프로젝트의 70% 가 중동 기관에서 자금을 조달합니다.앞서 손정의가 설립한 비전펀드 (Vision Fund) 의 1000억 달러 자금은 세계 최대 과학기술 투자자금 풀 중 하나로 450억 달러는 사우디 국부펀드, 150억 달러는 아랍에미리트 국부펀드에서 나왔다.
남에게 얽매이고 싶지 않은 마이크로소프트 코어
AI의 새로운 코스에서 마이크로소프트, 구글, 아마존도 클라우드 서비스를 팔아 한 몫을 챙겼다.
마이크로소프트는 엔비디아의 가장 큰 고객 중 하나이지만 마이크로소프트도 다양한 경로를 통해 엔비디아 칩에 대한 의존도를 줄이고 있다.2월 20일 The Information에 따르면 Microsoft는 엔비디아가 제공하는 네트워크 카드의 대체품으로 서버 사이에서 데이터가 빠르게 이동할 수 있도록 네트워크 카드를 개발하고 있다.
보도에 따르면 마이크로소프트는 자체 Maia AI 서버 칩을 개발하고 있으며 올해 데이터센터에 설치될 예정이며, 개발 중인 신형 네트워크 카드도 Maia 칩의 성능을 향상시킬 수 있다.
마이크로소프트도 인텔과 연합하여 코어를 만들고 있다.2월 22일 월스트리트저널 (WSJ) 에 따르면 마이크로소프트 최고경영자 Satya Nadella는 인텔의 한 행사에서 마이크로소프트가 칩을 설계하고 있으며 인텔의 최첨단 공장 중 하나에서 제조될 것이라고 말했다.나델라는 인텔이 어떤 칩을 생산할 것인지는 구체적으로 밝히지 않았지만, 최근 몇 달 동안 마이크로소프트는 작년에 출시한 인공지능 컴퓨팅용 새로운 칩을 포함한 칩 설계 능력을 강화하려고 노력해 왔다.
앞서 마이크로소프트는 AMD 칩을 대량 구매한 바 있다.2023년 12월, AMD는 순수 GPU를 위해 설계된 Instinct MI300X 칩을 출시하여 AI 작업 수행에 획기적인 성능을 제공할 수 있다.외신 Seeking Alpha의 보도에 따르면 씨티그룹의 분석 보고서는 마이크로소프트의 자료 센터 부서가 AMD Instinct MI300X 칩의 최대 구매자이며 GPT-4와 같은 대형 언어 모델 (LLM) 을 위한 작업을 시작했다고 지적했다.
돌출한 새로운 세력 Groq
엔비디아 재보가 발표되기 이틀 전, 엔비디아에서 갑자기 강적이 나타났다.
2월 21일, Groq라는 스타트업이 AI권에서 폭발했다.전통적인 생성식 AI에서는 문답이 답을 생성하는 데 시간이 걸리고 문자가 하나씩 튀어나온다.텐센트 테크놀로지에 따르면 Groq의 클라우드 서비스 체험 플랫폼에서 모델이 힌트를 받으면 거의 즉시 답을 생성할 수 있다. 1초 1화면.
Groq 리더 팀.Groq 공식 홈페이지
과학창업판 일보에 따르면 Groq의 창립팀 중 8명은 10명에 불과한 구글의 초기 TPU 핵심 설계팀 출신이다.팀은 구글 TPU에서 탈바꿈했지만 Groq는 TPU라는 길을 선택하지도 않았고 GPU, CPU 등 노선도 마음에 들지 않았다.Groq는 새로운 시스템 경로인 LPU(Language Processing Unit, 언어 처리 장치)를 선택했습니다.
Groq는"우리가 (하는 것은) 큰 모델이 아니다."Groq는"우리의 LPU 추리 엔진은 AI 큰 모델 등 계산 집약적 응용에 가장 빠른 추리 속도를 제공할 수 있는 새로운 종단간 처리 단위 시스템이다."
현재 Groq의 LPU 카드는 2만 달러 안팎으로 엔비디아의 H100 GPU보다 훨씬 싸다.Groq 팀은 AI 칩 분야의 새로운 세력이 되어 새로운 기술 경로로 커브길에서 추월할 것이다.
AI 칩을 배치한 게이머들은 이것뿐만이 아니다.
바로 지난달, 샘 알트먼은 한국의 거대 칩 기업인 삼성, SK를 방문하여 합작 코어 제조 가능성을 논의했다.그전에 그는 또 인텔과 TSMC를 접촉한적이 있다.샘 알트먼은 심지어 5~7조 달러로 AI 칩을 만들겠다고 제안했다.많은 사람들이 Sam Altman이 미쳤다고 생각하지만, 그는 AI 발전의 진정한 병목인 계산력을 보았다.
현재 엔비디아 AI 칩의 10배 프리미엄은 한편으로는 칩과 소프트웨어 생태의 거대한 연구 개발 원가에서, 한편으로는 독점에서 나온다.
국내 AI 창업자이자 로제닉 AI 창업자인 리보걸에 따르면 인공지능권에는 칩의 수요량, 생산량이 충분하기만 하면 칩 자체가 모래의 가격이라는 말이 있다.
그러므로 만약 AI 코스가 비약적으로 발전함에 따라 엔비디아칩이 독점을 타파하는 그날이 정말 온다면 더욱 많은 나라와 지역의 회사들이 칩의 자유를 맞이하게 될것이지만 우리가 직면해야 할 일은 더욱 새로운 문제가 될것이다.