AI (인공지능) 칩이 부족한 가운데 갈수록 많은 과학기술거두들이 자체로 연구개발을 선택하고있다.
4월 10일 (현지 시간) 소셜네트워크서비스 (SNS) 거물 메타는 자체 개발 칩 MTIA의 최신 버전을 발표했다.MTIA는 메타가 AI 훈련과 추론 작업을 위해 특별히 설계한 맞춤형 칩 시리즈다.작년 5월 관선의 메타 1세대 AI 추리 가속기 MTIA v1과 비교했을 때, 최신 버전 칩은 메타 산하 소셜 소프트웨어의 순위와 추천 시스템을 위해 특별히 설계된 성능에서 현저하게 향상되었다.메타의 목표는 엔비디아와 같은 칩 제조업체에 대한 의존도를 낮추는 것으로 분석됐다.
10일 이날 메타(Nasdaq: META) 주가는 주당 0.57% 오른 519.83달러에 거래를 마쳐 시가총액 1조3천300억 달러를 기록했다.윈드에 따르면 메타 주가는 올해 초 이후 47% 이상 올랐다.
이름을 보면 MTIA는'메타 훈련 및 추론 가속기(Meta Training and Inference Accelerator)'의 약자다.'훈련'이라는 두 글자에도 불구하고 이 칩은 사실상 AI 훈련에 최적화된 것이 아니라 생산 과정에서 AI 모델을 실행하는 임무인 추리에 집중하고 있다.
메타는 블로그 글에서 MTIA는 회사의 "장기 계획의 중요한 구성 부분"이라며 메타의 서비스에 AI를 사용하여 인프라를 구축하기 위한 것이라고 썼다."맞춤형 칩에 대한 우리의 야망을 실현하기 위해서는 컴퓨팅 칩뿐만 아니라 메모리 대역폭, 네트워크 및 용량 및 기타 차세대 하드웨어 시스템에 투자해야 한다는 것을 의미한다."
소개에 따르면 새로운 MTIA 칩은"근본적으로 계산, 메모리 대역폭 및 메모리 용량의 적절한 균형을 제공하는 데 집중한다."1세대 MTIA v1 칩은 TSMC의 7nm 공정을 사용했고, 신형 MTIA 칩은 TSMC의 5nm 공정을 사용하여 더 많은 처리 핵심을 가지고 있다.이 칩은 2.3GHz의 주파수로 256MB의 슬라이스 메모리를 보유하게 되며 MTIA v1의 슬라이스 메모리는 128MB와 800GHz이다.메타의 초기 테스트 결과에 따르면 두 칩의"네 가지 핵심 모델"의 성능을 테스트함으로써 새로운 칩의 성능은 세대 버전의 3 배입니다.
메타는 하드웨어의 경우 차세대 칩을 지원하기 위해 최대 72개의 가속기를 수용할 수 있는 대형 랙 시스템을 개발했다.3개의 엔클로저로 구성되며 각 엔클로저에는 12개의 보드, 각 엔클로저에는 2개의 가속기가 포함됩니다.이 시스템은 칩의 클럭 주파수를 초기 800MHz에서 1.35GHz로 높이고 90와트의 전력으로 작동할 수 있으며 초기 설계는 25와트이다.
소프트웨어 측면에서 Meta는 새로운 칩 시스템이 MTIA v1과 매우 유사하게 작동하는 소프트웨어 스택이 팀의 배포 속도를 가속화한다고 강조했다.또한 새로운 MTIA는 MTIA v1을 위해 개발된 코드와 호환됩니다. Meta는 완전한 소프트웨어 스택을 칩에 통합했기 때문에 개발자는 며칠 안에 이 새로운 칩을 사용하여 Meta의 트래픽을 시작하고 실행할 수 있습니다. Meta는 9개월 동안 16개 지역에 칩을 정착시켜 생산 모델을 실행할 수 있습니다.
메타의 요약에 따르면, 지금까지의 테스트 결과에 따르면, 이 MTIA 칩은 메타 제품 구성 요소로서의 낮은 복잡성 (LC) 과 높은 복잡성 (HC) 순위 및 추천 모델을 처리할 수 있다:"우리는 전체 스택을 통제하기 때문에 상업용 GPU에 비해 더 높은 효율을 실현할 수 있다."
현재 새로운 MTIA 칩은 메타의 데이터 센터에 배치되어 있으며,"회사는 더 밀집된 AI 워크로드에 더 많은 계산력을 투입하고 투자할 수 있다.메타 특정 워크로드에 대한 성능과 효율을 제공하는 최적의 조합 측면에서 이 칩은 상업용 GPU와 높은 상호 보완성을 가지고 있다는 사실이 증명되었다."
지난 2월 이미 외신들은 메타가 내부적으로'알테미스'(Artemis)로 불리는 AI 칩을 올해 가동해 AI 분야 내 회사 확장을 더욱 가속화할 예정이라고 2세대 MTIA 칩에 대한 소식을 전했다.당시 메타 대변인은 이 칩이 메타가 조달한 수십만 개의 GPU와 함께 작동할 것이라며 이 계획이 사실이라고 확인했다.
AI 경쟁이 심화되면서 고성능 AI 칩이 점점 더 인기를 끌고 있다.지난 1월 18일, 메타의 CEO 마크 저커버그는 메타가 자사의 AGI (범용 인공지능) 를 구축할 계획이며, 올해 말까지 엔비디아에서 약 35만 개의 H100 GPU를 획득할 계획이며, 다른 GPU까지 포함하면 회사가 보유한 계산력 합계는 60만 개의 H100이 제공할 수 있는 계산력에 육박할 것이라고 목소리를 높인 바 있다.스타 칩 H100의 최저 판매 가격 25000 달러로 계산하더라도 Meta는 35 만 개의 H100에 약 87 억 5 천만 달러의 지출을 지불 할 것입니다.
물론 메타가 자체 연구 칩으로 눈을 돌린 유일한 거대 기술 기업은 아니다.불과 며칠 전 구글은'악션'이라는 ARM 아키텍처 기반 맞춤형 CPU를 만들고 있으며, 구글 클라우드의 유튜브 광고 등 서비스를 지원하도록 할 계획이며, 2024년 말 출시될 것이라고 발표했다.앞서 마이크로소프트와 아마존도 AI 작업을 처리할 수 있는 맞춤형 칩 개발에 나섰다.
시장연구기관 CFRA의 분석가들은 이런 대형과학기술회사들이 한창 원가상의 압력에 직면하고있으며 자체로 칩을 연구하여 완화시켜야 한다고 표시했다.비록 이 칩들은 회사에"필요"하지만, 그들은 성능에서 엔비디아의 최신 Blackwell 플랫폼 제품을 따라잡을 수 없을 것이다.