수요일 (현지 시간) 지난달 OpenAI에서 물러난 회사 공동 창업자, (전) 수석 과학자, 그리고 지난해 OpenAI 이사회에서 중요한 한 표를 던져 오르트만을 회사에서 쫓아내고 그를 불러들인 딥러닝 분야의 권위자 일야 수츠케버 (Ilya Sutskever) 를 번복하며 팀을 떠난 뒤 새로운 AI 창업 프로젝트를 공식 선언했다.
(출처: X)
간단히 말해서, 수츠크비는"보안 슈퍼 인텔리전스"(Safe Superintelligence, 약칭 SSI) 라는 새로운 회사를 설립했는데, 목표는"한 걸음 한 걸음"안전한 슈퍼 인텔리전스를 만드는 것이다.
안전 제일, 직통 궁극적 목표
수츠크비는 순수한 연구기관에서 안전하고 강력한 인공지능 시스템을 직접 창조할 계획이며, 동시에 단기간에 어떠한 상업화 제품이나 서비스도 출시하지 않을 것이다.그는 언론에"이 회사는 특별하다. 왜냐하면 그 첫 번째 제품은 안전한 슈퍼인텔리전스가 될 것이기 때문이다. (실현) 그날까지 다른 어떤 일도 하지 않고 외압에 완전히 격리되어 있다. 크고 복잡한 제품을 처리하거나 치열한 경쟁에 빠질 필요가 없다"고 소개했다.
안전이 제일이고 상업화를 하지 않으며 외압을 거들떠보지도 않는다. 전반 단락에서 수츠크비는 OpenAI를 한번도 언급하지 않았지만 배후의 뜻은 이미 자명하다.비록 OpenAI의'궁투'사건이 오르트만의 대승, 속승으로 끝났지만, 모든 일의 배후에 가속주의와 안전주의의 노선 다툼은 끝나지 않았다.
비록 이념은 다르지만, 쌍방은 사석에서 여전히 괜찮은 관계를 유지하고 있다.올해 5월 15일 10년 동안 일해온 OpenAI를 떠나겠다고 선언했을 때도 수츠크비는 경영진과 함께 찍은 사진을 발표하면서 오르트만 등의 인솔하에 OpenAI가 안전하고 유익한 AGI (범용 인공지능) 를 구축할 것으로 믿는다고 밝혔다.
(출처: X)
올트먼은 수츠크위의 결별에 대해"깊은 슬픔을 느낀다"며 수츠크위가 없으면 OpenAI가 없는 오늘이라고 말했다.
작년의"궁투"사건이 끝난후 수츠크비는 줄곧 전반 일에 대해 침묵해왔으며 오늘날까지도 여전히 그러하다.올트먼과의 관계를 묻는 말에 수츠크위는 "좋았다"고 간단히 답했고, 지난 몇 달 동안의 경험을 묻는 말에도 "매우 이상하다"고만 말했다.
"핵 안보와 같은 안보"
어떤 의미에서 보면 수츠크비도 현재 AI 시스템의 안전 여부의 경계선을 정확하게 정할 수 없어 일부 다른 생각이 있다고 할 수밖에 없다.
수츠크비는 그의 새 회사가 기술적으로 임시로 적용되는'보호막대'가 아닌'AI 시스템에 내장된 엔지니어링 돌파구'를 사용하여 안전을 실현하려고 시도할 것이라고 시사했다.그는 "우리가 말하는 안보는'신뢰와 안보'와 같은 것이 아니라 핵안보와 같은 안보를 말하는 것"이라고 강조했다.
그는 AI 안전에 대한 생각을 하는 데 여러 해가 걸렸고, 마음속에 이미 몇 가지 실현 방법이 있다고 말했다.그는 "가장 기본적인 측면에서 안전한 슈퍼인텔리전스는 인간에게 대규모 피해를 주지 않는 이런 특성을 가져야 한다"며 "그 이후 우리는 그것이 선한 힘, 중요한 가치관에 기반을 둔 힘이 되기를 바란다고 말할 수 있다"고 소개했다.
명성이 자자한 수츠크비 외에도 SSI에는 전 애플의 머신러닝 책임자이자 유명 테크놀로지 벤처 투자자인 다니엘 그로스 전 애플 창업자 2명이 있으며, 다른 한 명은 수츠크비와 함께 OpenAI에서 대형 모델을 훈련시킨 엔지니어 다니엘 레비이다.
레비는 다음과 같이 표시했다. 나의 비전은 수츠크위와 완전히 일치한다. 작고 정예한 단체로서 모든 사람은 안전슈퍼지능의 단일목표를 실현하는데 전념한다.
SSI가 왜 감히"한 걸음 한 걸음"(도대체 얼마나 많은 투자자가 있는지, 얼마나 투자했는지) 을 외쳤는지는 아직 알 수 없지만, 그로스는 회사가 확실히 많은 문제에 직면할 것이지만, 거스름돈은 그 중 하나가 아닐 것이라고 분명히 말했다.
OpenAI의 초심으로 돌아가겠습니다.
일련의 비전에서 이른바'보안 슈퍼 지능'은 본질적으로 OpenAI 창립 초기의 개념이라는 것을 어렵지 않게 발견할 수 있다.그러나 대형 모델을 훈련하는 데 따른 비용이 급증하면서 OpenAI는 Microsoft와 협력하여 자금과 계산력을 바꾸어 그들의 사업을 이어갈 수밖에 없었다.
이러한 문제는 SSI의 미래 길에서도 나타날 수 있습니다. 회사의 투자자들은 정말 많은 자금을 투입하여 이 회사가"슈퍼 지능"의 최종 목표를 달성할 때까지 아무런 산출도 하지 않는 것을 보고 싶습니까?
그나저나"슈퍼지능"자체도 하나의 리론적인 개념으로서 인류수준을 초월하는 인공지능시스템을 가리키는데 전 세계 대다수 슈퍼과학기술회사가 추구하고있는 성과보다 더욱 선진적이다.그러나 업계에서는 이런 지능을 실현할 수 있을지, 어떻게 이런 시스템을 구축할 수 있을지에 대해 아직 공감대가 형성되지 않았다.
SSI사가 발표한 첫 번째 공고에서 첫 마디는"슈퍼인텔리전스가 지척에 있다"는 것이 마음에 걸린다.
첨부: SSI 공지
보안 슈퍼인텔리전스 (Safe Superintelligence Inc.)
초지능은 이미 지척에 있다.
안전한 슈퍼 지능을 구축하는 것은 우리 시대의 가장 중요한 기술 문제이다.
우리는 이미 세계 최초로 목표물을 직격하는 SSI 실험실을 가동했다. 목표와 제품은 단 하나: 안전한 슈퍼지능이다.
보안 슈퍼 스마트 회사라고 합니다.
SSI는 우리의 사명, 우리의 이름, 그리고 우리의 모든 제품 로드맵입니다. 왜냐하면 이것은 우리의 유일한 관심사이기 때문입니다.우리 팀, 투자자 및 비즈니스 모델은 SSI를 실현하기 위해 협력합니다.
우리는 안전성과 능력을 병행하여 혁명적인 공정과 과학적돌파를 통해 해결해야 할 기술문제로 간주한다.보안을 최우선으로 고려하여 가능한 한 빨리 성능을 향상시킬 계획입니다.
이렇게 하면 우리는 평온한 상태에서 확장할 수 있다.
Dell의 집중은 트랜잭션이나 제품 주기를 관리하는 데 집중하지 않는다는 것을 의미하며, Dell의 비즈니스 모델은 보안과 기술 진보가 단기적인 비즈니스 압력에 영향을 받지 않는다는 것을 의미합니다.
우리는 미국 회사로 팔로알토와 텔아비브에 사무소를 두고 있으며, 이 곳들은 우리의 근간이며, 또한 이 곳에서 최고의 기술 인재를 모집할 수 있다.
우리는 SSI에만 집중하는 간소하고 뛰어난 세계 최고의 엔지니어와 연구자 팀을 구성하고 있습니다.
만약 당신이 그런 사람이라면, 우리는 당신이 일생의 사업을 완성할 수 있는 기회를 제공하고, 우리 시대의 가장 중요한 기술적 도전을 해결하는 데 도움을 줄 것입니다.
이제 때가 됐어요.우리와 함께.
일리야 수츠크비, 다니엘 그로스, 다니엘 레비
2024년 6월 19일