일본 정부는 민간 AI 기술이 군사적 목적으로 전용될 위험을 포함해 연구개발을 방해하지 않고 안전성을 높이기 위한 조직을 내년에 설립하는 방안을 검토 중이라고 닛케이신문이 최근 보도했다.
이르면 이달 중 열리는 인공지능전략위원회 회의에서 AI 분야에 경험이 있는 민간 부문 전문인력이 포함된 AI 관련 국가전략을 논의하는 자리가 될 것으로 알려졌다.
관심의 초점은 OpenAI의 ChatGPT와 같은 최첨단 제품이 될 것입니다.민간 부문의 방해를 피하기 위해 기업이 운영 효율을 높이는 데 사용하는 표준 AI 기술은 일본 정부의 목표가 되지 않을 것이다.
AI 제품은 시장에 진입하기 전에 일련의 테스트를 거쳐야 할 것이며, 일본 정부가 구매하는 모든 AI 제품은 사용 전에 전문기관의 인증을 거쳐야 한다는 제안도 있다.
이들 신설 조직은 AI를 통해 생물, 화학 또는 기타 무기를 제조하는 정보를 얻을 가능성을 검토하는 등 잠재적인 국가 안보 위험을 연구할 계획이며, 사이버 공격을 포함한 보안 취약점도 점검할 예정이다.
또 AI가 통제되지 않게 될 위험과 잘못된 정보와 편견과 관련된 문제도 조사한다.AI가 통제하는 소셜미디어 계정은 인터넷에서 자동으로 콘텐츠를 생성하고 인간 사용자와 상호작용하며 대중 여론을 조작하거나 감정을 선동할 수 있다.
현재로서는 정보기술의 발전에 따라 AI 기술이 군사 분야에 대량으로 활용되는 것이 현실이 되었고, AI를 사용하여 전장 데이터를 수집하고 분석하는 등 일련의 AI 조작은 작전 시스템에서 이미 광범위하게 응용되었다.민간 AI 기술이 군사적 목적으로 전용되는 것은 거의 불가피한 문제다.
새로운 기구를 설립할 수도 있지만 가장 유력한 결과는 새로운 부서를 기존 조직에 합병하는 것이다.후보기관으로는 총무성 산하 AI 기술을 연구하는 국가정보·통신기술연구소, 경제산업성 산하 정보기술촉진기구가 포함됐다.
이달 초 주요 7개국(G7)은 AI 국제규칙 틀에 최종 합의했다.이는 개발자 및 사용자에게 AI의"모든 관련자"가 직책을 준수해야 한다고 규정한 최초의 전면적인 국제규칙으로 될것이다.
G7은 AI 남용을 막기 위해 협력하는 자세를 먼저 보여주는 형식을 통해 G7 이외 국가와 기업의 찬성을 얻기 위해 노력하고 있다.일본 정부는 이번 협약을 AI 개발사가 시장에 제품을 출시하기 전에 제3자의 위험 평가를 받아야 한다는 국내 대상 가이드라인 마련에 활용할 예정이다.
영국과 미국은 인공지능 기관 설립에도 앞장서고 있다.11월에는 영국에 세계 최초의 AI 보안 연구소가 설립됐다.첨단 AI 제품 출시를 전후해 검증한 뒤 이 중 보안 위험이 있는 제품 공개를 검토한다.
미국은 지난 10월 바이든 대통령의 행정명령에 따라 미국 국가표준·기술연구원 주도로 AI 안전평가 방법을 마련 중이다.민간 회사와 공동으로 AI 역량 및 위험을 평가하는 방법을 개발하고 민간 회사가 스스로 위험 검증을 수행하기를 희망하는 AI 보안 동맹을 만들기 위한 것입니다.