언론은 두 소식통을 인용해 아마존이 강력한 대형 언어모델 (LLM) 을 훈련하기 위해 거액을 투입하고 있으며 OpenAI와 알파벳 산하 구글의 최상위 모델과 겨룰 수 있기를 희망하고 있다고 보도했다.
대형 언어 모델은 인류와 유사한 반응을 일으키기 위해 방대한 데이터로부터 집중적으로 학습하고 훈련해야 하는 인공지능 도구의 기초 기술이다.
필요한 컴퓨팅 능력을 고려하여 더 큰 인공 지능 모델을 훈련하는 데 더 많은 비용이 듭니다.이미 4월 실적 콘퍼런스콜에서 아마존 임원은 이 회사가 대형 언어 모델과 생성식 인공지능에 대한 투자를 늘릴 것이라고 밝혔다.
이번 소식통에 따르면'Olympus'라는 이름의 이 모델에는 2조 개의 매개변수가 있다는 점이 훈련 중인 가장 강력한 모델 중 하나가 됐다.
현재로서는 OpenAI 회사의 GPT-4 모델이 가장 좋은 모델 중 하나이며, 또한 1 조 매개변수에 불과합니다.
보도에 따르면 이 팀은 아마존의 음성 비서 알렉사의 전 책임자인 로히트 프라사드 (Rohit Prasad) 가 이끌고 있으며 그는 현재 앤디 재시 최고경영자 (CEO) 에 직접 소속돼 있다.
이와 함께 아마존 범용 인공지능 (AGI) 의 수석 과학자인 프라사드는 알렉사 인공지능 연구진과 아마존 과학팀 연구진을 불러'올림푸스'모델 개발에 함께 착수했다.
올해 이 인공지능 경쟁에서 아마존은 제1제대에 속하지 않는다.아마존은 이미 Titan 등 작은 모델을 훈련시켰지만또한 Anthropic 및 AI21 Labs와 같은 인공 지능형 모델 스타트업과 협력하여 이러한 모델을 아마존 웹 서비스 (AWS) 에 제공합니다.
그러나 자체 모델이 부족한 것은 아마존에게 항상 문제이다.소식통에 따르면 아마존은 기업 고객들이 항상 가장 성능이 좋은 모델에 액세스하기를 원하기 때문에 자체 모델을 소유하면 자사 제품이 AWS에서 더 매력적으로 만들 수 있다고 생각한다.
현재 이 회사는 아직 새로운 모델의 구체적인 시간표를 공식 발표하지 않았다.