제프리 싱턴 (jeffrey shinton) ai 가 자신의 코드를 다시 써서"통제에서 벗어나기 위해"
度素告
发表于 2023-10-12 11:44:51
231
0
0
올해 75세인 싱턴은 최근 매스컴과 가진 인터뷰에서 빠르게 발전하는 인공 지능 기술은 아마"5년 내"에 인간보다 더욱 총명한 능력을 획득할 것이라고 말했다.그는 이런 상황이 발생할 경우 인공지능은 인간이 통제할 수 없을 정도로 진화하게 될 것이라고 덧붙였다.
싱턴은 인공 지능이 통제를 벗어날 수 있는 방법 중 하나는 스스로'자신의 컴퓨터 코드'를 작성하는 것인데, 이는 우리가 심각하게 우려해야 할 일이라고 지적했다.
싱턴의 연구는 현대 인공 지능 시스템의 발전에 필수적인 것으로 여겨진다.1986년, 그는"역방향 전파 오차를 통한 학습 표상"이라는 혁신적인 논문을 공동 저자하였는데, 이는 인공 지능 기술의 기초인 신경망 (neural network)의 발전에 있어 하나의 이정표이다.2018년, 그는 그의 획기적인 연구 성과로 튜링상을 받았다.
지난 4월 구글에서 10년 만에 부사장 겸 엔지니어링 연구원 자리를 내놓은 신턴은 인공지능으로 인한 위험에 대해 자유롭게 말할 수 있게 됐다.직장을 떠난 후, 싱턴은 인공 지능을 개발하는데 있어서의 자신의 역할에 대해 유감스럽게 생각한다고 말했다.
그는 특히 자신과 같은 인공지능 시스템을 구축한 최고 과학자를 포함한 인간은 아직이 기술이 어떻게 작동하고 발전하는지 완전히 이해하지 못하고 있다고 강조했다.
많은 인공 지능 연구자들도 이에 대한 이해가 부족하다는 것을 솔직히 인정한다.올 4월 구글 ceo 순다르 피차이는 인공지능의'블랙박스'문제를 거론했다.
신턴이 설명했듯이, 과학자들은 인공 지능 시스템을 위한 알고리즘을 설계하여 인터넷과 같은"데이터셋"으로부터 정보를 추출한다.그는"이 학습 알고리즘이 데이터와 상호 작용하게 되면, 무언가 일을 잘 하는 복잡한 신경 네트워크를 만들 수 있다"고 말했다.하지만 솔직히 우리는 그들이 어떻게 그렇게 하는지 잘 모릅니다."
피차이나 다른 인공지능 전문가들은 싱턴이 그랬던 것처럼 기계가 통제 불능이 되는 것에 대해 우려하지 않는 것 같다.또 다른 튜링상 수상자인 얀느 레쿤 (yann lecun)은 인간이 지나치게 위험해지는 어떤 기술이라도 막을 수 있기 때문에 인공 지능이 인간을 대체할 수 있다는 경고는"터무니없는 것"이라고 말했다.
그러나 신턴은"최악의 시나리오는 불확실하다"며"헬스케어 같은 분야는 이미 인공지능의 혜택을 톡톡히 보고 있다"고 말했다.
또 인공지능으로 만들어진 잘못된 정보와 가짜 사진, 동영상도 인터넷에 퍼진다.그는 인공 지능을 이해하기 위한 더 많은 연구가 필요하며, 정부는이 기술을 통제하는 규정을 제정하고 인공 지능이 있는 군사 로봇을 전 세계적으로 금지해야 한다고 주장했다.
지난달 미국 과학기술계의 대인들은 인공지능 (ai)의 미래 규제 방식을 논의하기 위해 슈머 (schumer) 상원 원내대표가 주최한 인공지능 서밋에 참석했다.비록 기술 거물들이 미국 국회에 입법을 통해 인공 지능에 대한 감독 관리를 강화할 것을 요구했지만, 어떻게 감독 관리를 진행할 것인지에 대해 기술 기업들은 여전히 의견 차이를 보이고 있다.
신턴은 인공지능울타리가 과학기술회사에 의해 실시되든간에 미국련방정부의 강제요구하에 실시되든간에 모두 조속히 관련 감독관리조치를 출범해야 한다고 지적했다.
그는 인류가'어떤 전환점'을 맞고 있을 수 있으며, 다음에 무엇이 일어날지 엄청나게 불확실하다고 주장했다.그러면서 과학기술계와 정부 지도자들은'이런 것들을 더 발전시킬 것인지, 또 그렇게 할 경우 스스로를 어떻게 보호할 것인지'를 결정해야 한다고 덧붙였다.
CandyLake.com 系信息发布平台,仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
声明:该文观点仅代表作者本人,本文不代表CandyLake.com立场,且不构成建议,请谨慎对待。
猜你喜欢
- 세쿼이아 캐피털, 엔비디아 등 인공지능 스타트업 파이어웍스 AI에 5천200만 달러 투자
- 인공지능 스타트업 파이어워크 AI, 엔비디아 투자 받아
- ASML 회장 부각례: 인공지능의 발전은 반도체 회복의 강력한 추진력이 되고 있다
- 구글, 오라클 전 임원 2명 인공지능 회사 CoreWeave 합류
- 소프트뱅크, 엔비디아에 맞서기 위해 인텔과 인공지능 칩 개발 논의
- 인공지능 서버 대박!Dell Q2 실적 보고서 만족스러운 답안지 제출
- 바이두 인공지능 산업 기지 동관 수향 착지
- 벨레드와 Microsoft는 데이터 센터 및 기타 인공 지능을 지원하는 인프라에 투자하기 위해 협력하고 있습니다.
- 메타는 새 법이 발효되기 전에 EU'인공지능 협약'에 즉각 가입하지 않을 것이라고 말했다
- 유럽 프라이버시 규제 기관, 구글이 인공지능 모델에 데이터 활용 실태 조사
-
9月が終わり、映画・テレビ業界が暗躍している。最近、愛奇芸の創始者でCEOのGONG宇氏は、映画・テレビ業界が長短の変化、AIの変化、中国映画・テレビドラマの海外進出の変化の3つの変化を経験していると発表した。 ...
- 寒郁轩良
- 昨天 14:17
- 支持
- 反对
- 回复
- 收藏
-
8月のトヨタ自動車(ダイハツ自動車と日野自動車を除く、レクサスを含む)の世界生産台数は前年同月比11.2%減の709571台、世界販売台数は前年同月比3.1%減の826863台だった。 日本本土市場では、トヨタ自動車の8月 ...
- SOGO
- 3 天前
- 支持
- 反对
- 回复
- 收藏
-
ネットワーク状況監視サイトDownDetectorによると、オーディオストリーミングプラットフォームSpotifyは日曜日に約3時間にわたる障害を経験した後、正常に回復し、ピーク時には米国の4万人以上のユーザーに影響を与 ...
- hecgdge4
- 昨天 09:33
- 支持
- 反对
- 回复
- 收藏
-
百済神州(688235.SH)はA株の有名な革新薬企業で、2017-2024年上半期、同社の各期の研究開発投資はA株の化学製薬会社(申万二級)の中で最も高く、研究開発費用は合計600億元を超えた。 しかし、百済神州にとって ...
- wylz8473
- 前天 18:36
- 支持
- 反对
- 回复
- 收藏