현지 시간으로 화요일 (5월 28일),OpenAI는 이사회가 AI 개발 방향을 통제하는 보안 자문위원회를 구성한다고 공시했다.
OpenAI
OpenAI, 새로운 보안 자문위원회 구성 구성원 모두 자기 사람
OpenAI는 화요일에 회사의 프로젝트 및 운영과 관련된"핵심"보안 및 보안 결정을 감독하는 새로운 보안 자문 위원회를 설립한다고 발표했습니다.특히 보안 자문위원회에 가입한 구성원은 모두 이사인 Bret Taylor (의장),Adam DAngelo, Nicole Seligman 및 Sam Altman (최고경영자), 외부 인력은 한 명도 없습니다.위원회는 전체 이사회에 OpenAI 프로젝트와 운영의 핵심 보안 및 보안 결정에 대한 권고안을 제출하는 역할을 맡게 된다.
안전 및 안전 위원회의 최우선 과제는 앞으로 90 일 이내에 OpenAI의 프로세스와 보장 조치를 평가하고 더욱 발전시키는 것입니다.90일이 끝나면 안전 및 안전 위원회는 전체 이사회와 그들의 건의를 공유할 것이다.전체 이사회의 심사 후,OpenAI는 보안 및 보안에 부합하는 방식으로 채택 제안에 관한 업데이트를 공개적으로 공유할 것이다.
OpenAI 이사회는 다음과 같이 밝혔다.OpenAI의 기술 및 정책 전문가 인 Aleksander Madry(준비 상태 책임자),Lilian Weng(보안 시스템 책임자),John Schulman (정렬 과학 책임자),매트 나이트 (Matt Knight) 와 제이콥 파초키 (Jakub Pachocki) 도 이 위원회에 합류할 예정이다.
또한OpenAI는 OpenAI에 대한 보안 컨설팅과 John Carlin을 제공하는 전 사이버 보안 책임자인 Rob Joyce를 포함한 다른 보안, 보안 및 기술 전문가들에게 이 작업을 지원하고 자문할 것입니다.
지난 몇 달 동안,OpenAI의 기술진에는 AI 보안에 대한 OpenAI의 우선순위 하락에 대해 우려하는 전직 직원 중 여러 명의 보안 관련 임원이 물러났다.
OpenAI에서 팀 거버넌스 업무를 담당했던 Daniel Kokotajlo는 점점 더 강력한 AI를 발표하면서"책임 있는 행동"에 대한 자신감을 잃었기 때문에 4 월에 사임했으며 개인 블로그에 썼다.또한OpenAI의 공동 설립자이자 전 수석 과학자인 Ilya Sutskever는 Altman과 그 동맹국들과의 오랜 투쟁 끝에 5 월에 물러났으며, 일부 원인은 Altman이 AI로 구동되는 제품을 서둘러 출시하면서 보안 성능을 희생했기 때문이라고 보도되었다.
최근 OpenAI가 ChatGPT와 그 전신인 InstructGPT를 개발하는 과정에서 보안 연구원직을 사임한 전 DeepMind 연구원 Jan Leike는 일련의 X 플랫폼 게시물에서 OpenAI가"AI 보안과 보안 문제를 해결하는 올바른 궤도에 있지 않다"고 주장했다.동시에,지난주 OpenAI를 떠난 그레첸 크루거 AI 정책 연구원도 Leike의 견해에 동의하며 회사에 문책제와 투명성을 높이고 "자신의 기술을 더 신중하게 사용할 것"을 촉구했다.
언론 보도, Sutskever,Kokotajlo, Leike 및 Krueger, 작년 말 이후 전 OpenAI 이사회 멤버인 Helen Toner와 Tasha McCauley를 포함하여 보안을 가장 중요하게 생각하는 최소 5 명의 OpenAI가 사임하거나 떠날 수밖에 없었습니다.두 사람은 최근 언론에 기고한 글에서 Altman의 지도하에 OpenAI가 자신에 대한 책임을 추궁할 수 없다고 믿는다고 밝혔다.
OpenAI는 차세대 첨단 모델 훈련 AGI 비전을 더욱 실용적으로 시작했다고 발표했다
특히 OpenAI는 공고에서 최근 현재의 GPT-4 대형 모델을 추월하기 위해 차세대 첨단 모델을 훈련하기 시작했다고 밝혔다.우리는 이러한 시스템이 인공 범용 지능 (AGI) 으로 가는 길에서 더 높은 능력 수준에 도달 할 것으로 예상합니다.우리는 능력과 보안 측면에서 업계 선두를 달리고 있는 모델을 구축하고 발표한 것을 자랑스럽게 생각하지만, 이 중요한 순간에 격렬한 논쟁을 환영합니다.
배경으로,OpenAI는 2023 년 3 월에 GPT-4를 출시합니다.브로크만 회장이 노트에 그린 스케치만으로GPT-4는 실제 웹사이트를 구축할 수 있다.많은 주식 투자자들이 있다고 믿는 것도 이 막후를 보고서야"AI가 정말 무엇을 바꿀 수 있을지도 모른다"고 믿기 시작했다.
그 이후로,OpenAI는 GPT-4를 중심으로 일련의 문자, 사진, 오디오 및 비디오 생성 애플리케이션을 점차 출시하고 있다.불과 2 주 전에 회사는 GPT-4o의 최신 버전을 발표했습니다.모델의 상호 작용 속도를 크게 향상시킴으로써 실제 사람의 대화와 같은"실시간 상호 작용"을 달성했습니다.결국 각 방면에서 다소 강한 GPT-4o는 여전히 GPT-4의 능력 범주에서 벗어나지 못하고 있다.
이 때문에'GPT-5'에 대한 기대가 컸다.그러나 OpenAI의 최신 표현에 따르면 차세대 대형 모델은 내년이 돼야 대중을 만날 수 있을 것으로 보인다.AI 모델은 보통 수개월, 나아가 몇 년 동안 훈련해야 하는데, 대중을 대상으로 발표하기 전에 개발팀은 수개월 동안 미세 조정을 해야 한다.
OpenAI가 구축한 AI가 인간의 지혜 수준에 점점 더 가까워지면서 범용 인공지능에 대한 회사의 표현도 더욱 신중해졌다.
OpenAI 글로벌 담당 부사장 Anna Makanju는 다음과 같이 말했다.OpenAI의 사명은'현재 인간의 인지 수준'임무를 수행할 수 있는 범용 지능을 구축하는 것이다.
일찍이 Sam Altman이 말했듯이,OpenAI의 궁극적인 목표는 인간보다 더 진보된'슈퍼 인텔리전스'를 구축하는 것이다.그는 또'슈퍼 인공지능'을 어떻게 만들 것인가를 구상하는 데 절반의 시간을 할애하고 있다고 밝힌 바 있다.
转播
