미국 동부 시간으로 금요일, 마이크로소프트, 메타, 구글, 아마존 등 20개 선도적인 과학기술기업은 제60회 뮌헨안전회의에서 공동으로 올해 선거에서 인공지능기술로 산생된 그릇된 정보를 타격하는데 진력하겠다고 선포했다.
20개 과학기술기업이 공동으로 협의를 체결하였다.
올해는 전 세계 대선의 해로 인도, 미국 등 여러 나라에서 선거가 치러지는데, 올해 선거는 40여 개국 40여억 명에게 영향을 미칠 것으로 집계됐다.인공 지능 기술, 특히 DeepFake와 같은 기술은 민주 선거의 핵심 이해 관계자를 모방하거나 거짓 투표 정보를 제공하여 선거의 형평성을 위협하는 기만적인 오디오, 비디오 및 이미지를 생산할 수 있습니다.
이 피해를 줄이기 위해 20개 과학기술회사가 공동으로 협의를 체결하였다.이 협약에 참여한 회사 중에는 마이크로소프트, 메타, 구글, 아마존, IBM, Adobe, 칩 설계 회사 Arm 같은 거대 기술 기업도 있고 OpenAI, Anthropic, Stability AI 같은 AI 스타트업도 있으며 Snap, TikTok, X 등 소셜 미디어 회사도 있다.
이 계약에 참여한 회사는 모델 위험을 평가하고"발견을 추구"하며 플랫폼에서 이러한 허위 선거 콘텐츠의 확산을 해결하고 이러한 과정의 투명성을 대중에게 제공하는 등 8 가지 약속에 동의했습니다.
기술 산업 및 기타 산업의 대부분의 자발적 약속과 마찬가지로, 보도 자료는"각 회사가 제공하는 서비스와 관련된 분야"에만 적용됩니다.
"민주주의는 안전하고 신뢰할 수있는 선거에 달려 있습니다."Google의 글로벌 담당 사장 인 켄트 워커 (Kent Walker) 는 이 보도자료에서이 합의는"인공지능이 생성하는 신뢰를 침식하는 선거 오류 정보"에 대처하기 위한 업계의 노력을 반영한다고 밝혔다.
IBM의 최고 프라이버시 및 신뢰 책임자인 크리스티나 몽고메리 (Christina Montgomery) 는 보도자료에서 이 중요한 선거의 해에"인공지능에서 발생하는 기만적인 콘텐츠의 확대 위험으로부터 국민과 사회를 보호하기 위한 구체적인 협력 조치가 필요하다"고 밝혔다.
AI의 선거 방해가 우려를 낳고 있다
머신러닝 회사 클라리티에 따르면 인공지능 생성 콘텐츠의 발흥은 이미 선거와 관련된 심각한 오류 정보에 대한 우려를 불러일으키고 있다. 특히 올해 창출된 딥페이크 콘텐츠 수는 전년 동기 대비 900% 증가했다.
선거에서의 허위정보는 줄곧 주요문제로서 이르면 2016년으로 거슬러올라갈수 있다.이제 인공지능이 급부상하면서 각국 정부는 이 문제에 더욱 관심을 기울이고 있다.
"우리는 인공지능이 경선에서 유권자들을 오도하는 데 사용될 수 있다는 것을 심각하게 걱정할 이유가 있다."캘리포니아주 민주당 상원의원 조시 베커 (Josh Becker) 는 인터뷰에서"일부 회사가 협상 테이블에 오는 것을 보는 것은 고무적이지만 아직 충분한 세부 사항을 보지 못했기 때문에 명확한 기준을 제정하기 위해 입법이 필요할 수도 있다"고 말했다.
그러나 인공지능이 선거에 미치는 영향 문제를 진정으로 효과적으로 해결하려면 과학기술회사들은 아직 갈 길이 멀다.예를 들어, DeepFake를 식별하기 위한 감지 및 워터마크 기술은 아직 충분히 빠르게 발전하지 않았습니다.현재 각 회사는 단지 일련의 기술 표준과 검사 메커니즘에 대해 합의를 보았을 뿐이다.