바이든 서명!백악관의 첫 생성식 AI 규제 규정이 왔다

黄埔军校第二期

10월 30일 (현지 시간) 조 바이든 미국 대통령은 인공지능에 관한 행정명령에 서명하고 백악관의 생성식 인공지능에 관한 첫 감독관리 규정을 내놓아 인공지능에 대한 새로운 안전평가, 공평과 민권지침 및 노동시장에 대한 영향에 대한 연구를 요구했다.
바이든의 행정명령은 대기업들이 인공지능 시스템이 공식 발표되기 전에 미국 정부와 보안 테스트 결과를 공유하도록 했다.또한 미국 국립 표준 및 기술 연구원 (National Institute of Standard sandTechnology) 이 제정 한 인공 지능'레드 팀'표준, 즉 시스템 내 방어 및 잠재적 인 문제에 대한 스트레스 테스트를 우선적으로 고려합니다.미 상무부는 인공지능을 위해 생성되는 콘텐츠에 워터마크를 부착하는 기준을 마련한다.
또한 최신 행정 명령은 대규모 인공 지능 시스템의 훈련 데이터와 관련되어 있으며, 특히 이러한 데이터가 개인 식별자와 관련된 경우 데이터 중개로부터 구입한 데이터를 포함하여 평가 기관이 상업적으로 사용할 수 있는 데이터를 수집하고 사용하는 방법에 대한 필요성을 제기합니다.
바이든 행정부도 인공지능에 더 많은 노동력을 끌어들이기 위한 조치를 취하고 있다.월요일부터 인공지능 전문 지식을 갖춘 노동자들은 AI.gov에서 연방 정부의 관련 직위 공백을 찾을 수 있다.
브루스 리드 (Bruce Reed) 백악관 부비서실장은 성명에서이 명령은"인공지능 보안, 보안 및 신뢰에 대한 세계 어느 정부도 취할 수있는 가장 강력한 행동"을 대표한다고 말했다.그것은 백악관이 이전에 선도적인 인공 지능 회사로부터 얻은 자발적인 약속 위에 세워졌으며, 정부가 이 기술에 대해 취한 첫 번째 구속력 있는 중대한 행동이다.
이에 앞서 미국의 15개 주요과학기술회사는 이미 자원적인 인공지능안전약속을 실시하는데 동의했지만 리드는 이는"아직 부족하다"며 월요일의 행정명령은 이 기술의 발전에 대해 구체적인 감독관리를 진행하기 위한 한걸음이라고 표시했다.
리드는 "바이든 대통령의 수개월간의 노력은 인공지능의 위험을 관리하고 그 혜택을 활용하기 위해 광범위한 분야에서 연방정부의 권한을 발휘하기 위한 것"이라고 말했다.
법 집행 기관은 기존 법률을 인공 지능 남용에 적용할 준비가 되어 있다고 경고했지만, 국회도 새로운 법률을 제정하기 위해이 기술을 더 많이 이해하기 위해 노력하고 있지만 행정 명령은 더 직접적인 영향을 미칠 수 있습니다.모든 행정 명령과 마찬가지로, 그것은 "법적 효력을 가진다."
백악관의 행정 명령은 주로 8 개 부분으로 구성됩니다.
1. 인공지능을 위해 새로운 안전과 보안 표준을 제정한다. 일부 인공지능 회사가 연방 정부와 보안 테스트 결과를 공유하도록 요구하는 동시에 상무부에 인공지능 워터마크를 위한 지침을 제정하도록 지시하고 인공지능 도구가 핵심 소프트웨어의 결함을 식별하는 데 도움을 줄 수 있도록 네트워크 보안 계획을 작성한다.
2. 소비자의 프라이버시를 보호한다. 여기에는 기구가 인공지능에서 사용하는 프라이버시 기술을 평가할 수 있도록 지침을 제정하는 것이 포함된다.
3. 연방 계약자에게 지침을 제공함으로써 인공 지능 알고리즘의 차별을 피하고 사법 시스템에서 인공 지능의 적절한 역할 (양형, 위험 평가 및 범죄 예측에 사용되는 경우를 포함) 에 대한 모범 사례를 만들어 공정성과 시민 권리를 증진합니다.
4. 위생및공중서비스부에 지시하여 계획을 제정하여 인공지능이 가져다준 잠재적위해를 평가한다.
5. 인공지능이 노동시장에 미치는 잠재적 영향에 관한 보고서를 작성하고 연방정부가 인공지능의 영향을 받는 노동시장의 노동자를 어떻게 지원하는지 연구한다.
6. 기후변화 등 분야의 인공지능 연구에 대한 지원을 확대하고 핵심 전문지식을 갖춘 고기능 이민자의 미국 잔류 기준을 제정함으로써 혁신과 경쟁을 촉진한다.
7. 국제 파트너와 협력하여 전 세계적으로 인공지능 표준을 실시한다.
8. 연방 기관의 인공지능 사용 및 구매 지침을 제정하고 정부가 이 분야의 숙련 노동자를 고용하는 속도를 높인다.
올해 8 월 백악관은 구글, 마이크로소프트, 아마존, 메타, OpenAI, Anthropic 및 Inflection을 포함한 7 개의 최고 수준의 인공 지능 회사와 공감대를 형성했으며, 각 회사는 독립적 인 전문가들이 공개 되기 전에 도구를 평가하고 인공 지능과 관련된 사회적 위험을 연구하며 제 3 자가 시스템 취약점을 테스트 할 수 있도록 허용하는 등 인공 지능 개발에 대한 일련의 자발적인 약속에 동의했다.이어 백악관의 이니셔티브에는 8개 회사가 더 참여했다.
글로벌 인공지능 정상회의 개최, G7 곧 AI 개발 준칙 합의
영국 측이 주도하는 제1회 AI 안보 정상회의는 11월 1일부터 2일까지 개최된다. 영국 정부는 이번 정상회의를 개최하는 것은 인공지능으로 인한 위험과 국제 조정 행동을 통해 AI 위험을 어떻게 줄일 것인가를 논의하기 위한 것이라고 밝혔다.
정상회의가 개최되기전에 주요7개국 (G7) 이 최근 발표한 한 문건은 주요7개국 대표들이 곧 행위준칙을 제정하고 각 대기업의 개발과 선진적인 인공지능시스템을 규범화하는데 동의할것이라고 밝혔다.이는 전 세계 각국 정부가 인공지능의 위험과 잠재적인 인공지능 기술 남용을 줄일 방법을 모색하는 가운데 나온 것이다.보고서는 자발적 행동 규범이 전 세계 주요 국가들이 이 새로운 기술을 어떻게 관리하는지에 중요한 이정표를 세울 것이라고 덧붙였다.
보고서는 미국, 영국, 캐나다, 프랑스, 독일, 이탈리아, 일본으로 구성된 주요 7개국(G7)이 지난 5월 열린 장관급 포럼에서'히로시마 인공지능 프로세스'로 널리 알려진 이 핵심 프로세스를 시작했다고 지적했다.
이 문서는 또한 새로운 지침이 안전하고 신뢰할 수 있으며 신뢰할 수있는 인공 지능의 전 세계적인 확산을 촉진하고 최첨단 기초 모델 및 생성 된 인공 지능 시스템을 포함한 최첨단 인공 지능 시스템을 개발하는 조직의 다양한 행동에 대한 자발적인 지침을 제공 할 것이라고 밝혔다.또한 이 가이드라인은 각국과 각 기업이 이 새로운 기술의 기회를 포착하고 이 기술의 잠재적 위험을 해결할 수 있도록 돕기 위한 것이다.보고서에 따르면, 이 규범은 각 대기업이 인공지능 수명 주기 중의 위험을 탐지, 평가 및 낮추고, 인공지능 제품이 시장에 출시된 후 상응하는 남용 사건을 처리하기 위한 조치를 취할 것을 요구한다.
문서에 따르면 대기업들은 또한 인공지능 제품의 기능, 제한, 사용 및 어떠한 남용과 관련된 공개적인 성격의 보고서를 발표하고 사이버 보안 조치에 투자할 것을 촉구받았다.
인공지능을 관리하는 데 있어서 EU는 그동안 더 강경한 입장을 주장해 왔고, 일본은 더 쉬운 관리 방법을 모색해 왔다. 미국이 경제 성장을 강화하기 위해 취한 방법에 더 가깝다.동남아 국가들도 인공지능에 대해 상업화에 더 유리한 방식을 취하고 있다.