'ai의 대부'로 불리는 컴퓨터 과학자 제프리 힌턴은 인공 지능이 조심하지 않으면"모든 것을 장악할 수도 있다"고 말했다.
올해 75세인 싱턴은 최근 매스컴과 가진 인터뷰에서 빠르게 발전하는 인공 지능 기술은 아마"5년 내"에 인간보다 더욱 총명한 능력을 획득할 것이라고 말했다.그는 이런 상황이 발생할 경우 인공지능은 인간이 통제할 수 없을 정도로 진화하게 될 것이라고 덧붙였다.
싱턴은 인공 지능이 통제를 벗어날 수 있는 방법 중 하나는 스스로'자신의 컴퓨터 코드'를 작성하는 것인데, 이는 우리가 심각하게 우려해야 할 일이라고 지적했다.
싱턴의 연구는 현대 인공 지능 시스템의 발전에 필수적인 것으로 여겨진다.1986년, 그는"역방향 전파 오차를 통한 학습 표상"이라는 혁신적인 논문을 공동 저자하였는데, 이는 인공 지능 기술의 기초인 신경망 (neural network)의 발전에 있어 하나의 이정표이다.2018년, 그는 그의 획기적인 연구 성과로 튜링상을 받았다.
지난 4월 구글에서 10년 만에 부사장 겸 엔지니어링 연구원 자리를 내놓은 신턴은 인공지능으로 인한 위험에 대해 자유롭게 말할 수 있게 됐다.직장을 떠난 후, 싱턴은 인공 지능을 개발하는데 있어서의 자신의 역할에 대해 유감스럽게 생각한다고 말했다.
그는 특히 자신과 같은 인공지능 시스템을 구축한 최고 과학자를 포함한 인간은 아직이 기술이 어떻게 작동하고 발전하는지 완전히 이해하지 못하고 있다고 강조했다.
많은 인공 지능 연구자들도 이에 대한 이해가 부족하다는 것을 솔직히 인정한다.올 4월 구글 ceo 순다르 피차이는 인공지능의'블랙박스'문제를 거론했다.
신턴이 설명했듯이, 과학자들은 인공 지능 시스템을 위한 알고리즘을 설계하여 인터넷과 같은"데이터셋"으로부터 정보를 추출한다.그는"이 학습 알고리즘이 데이터와 상호 작용하게 되면, 무언가 일을 잘 하는 복잡한 신경 네트워크를 만들 수 있다"고 말했다.하지만 솔직히 우리는 그들이 어떻게 그렇게 하는지 잘 모릅니다."
피차이나 다른 인공지능 전문가들은 싱턴이 그랬던 것처럼 기계가 통제 불능이 되는 것에 대해 우려하지 않는 것 같다.또 다른 튜링상 수상자인 얀느 레쿤 (yann lecun)은 인간이 지나치게 위험해지는 어떤 기술이라도 막을 수 있기 때문에 인공 지능이 인간을 대체할 수 있다는 경고는"터무니없는 것"이라고 말했다.
그러나 신턴은"최악의 시나리오는 불확실하다"며"헬스케어 같은 분야는 이미 인공지능의 혜택을 톡톡히 보고 있다"고 말했다.
또 인공지능으로 만들어진 잘못된 정보와 가짜 사진, 동영상도 인터넷에 퍼진다.그는 인공 지능을 이해하기 위한 더 많은 연구가 필요하며, 정부는이 기술을 통제하는 규정을 제정하고 인공 지능이 있는 군사 로봇을 전 세계적으로 금지해야 한다고 주장했다.
지난달 미국 과학기술계의 대인들은 인공지능 (ai)의 미래 규제 방식을 논의하기 위해 슈머 (schumer) 상원 원내대표가 주최한 인공지능 서밋에 참석했다.비록 기술 거물들이 미국 국회에 입법을 통해 인공 지능에 대한 감독 관리를 강화할 것을 요구했지만, 어떻게 감독 관리를 진행할 것인지에 대해 기술 기업들은 여전히 의견 차이를 보이고 있다.
신턴은 인공지능울타리가 과학기술회사에 의해 실시되든간에 미국련방정부의 강제요구하에 실시되든간에 모두 조속히 관련 감독관리조치를 출범해야 한다고 지적했다.
그는 인류가'어떤 전환점'을 맞고 있을 수 있으며, 다음에 무엇이 일어날지 엄청나게 불확실하다고 주장했다.그러면서 과학기술계와 정부 지도자들은'이런 것들을 더 발전시킬 것인지, 또 그렇게 할 경우 스스로를 어떻게 보호할 것인지'를 결정해야 한다고 덧붙였다.