구글 산하 대형 모델 Gemini가'미국 개국 원훈 (founding father)'이라는 제시어를 바탕으로 생성한 이미지 중 하나다.New York PostGemini에서 인용
최근 구글은 자사의 대형 모델인 Gemini가 부정확한 역사적 인물 이미지를 생성하는 것을 발견한 후 이 AI 도구의 인물 이미지 생성 기능을 일시 중단할 것이라고 밝혔다.
이에 앞서 일부 사용자들은 Gemini에 역사적 인물의 이미지를 요청했다가 생성된 인물의 피부색 오류를 발견했다.예를 들어, Gemini가 생성한 인물상은 미국 개국 원훈 (founding father) 의 생성을 요청할 때 아프리카계, 원주민을 포함한다.
구글은 X에 성명을 내고 "최근 Gemini 이미지 생성 기능의 문제를 해결하기 위해 노력하고 있다"며 "동시에 인물 이미지 생성 기능을 일시 중단하고 개선된 새 버전을 곧 다시 발표할 것"이라고 밝혔다.
Gemini는 Google이 개발한 큰 언어 모델입니다.올해 2월 16일 Gemini 1.5 Pro 버전을 출시한 구글의 가장 큰 특징은 컨텍스트 창 길이가 100만 token에 달해 최장 컨텍스트 창 기록을 세웠다는 점이다.컨텍스트가 길수록 큰 모델은 문서의 대화, 이벤트 및 세부 사항을 통찰할 수 있으며 복잡한 정보에 대한 깊은 이해를 보여줍니다.Gemini는 여러 매체를 가로지르는 다중 모드 능력을 가지고 있으며 비디오에 직접 먹이를 줄 수 있으며 업로드된 비디오는 수천 개의 화면 (오디오 제외) 으로 분할되어 분석됩니다.
Gemini가 잘못된 피부색을 생성하는 인물 문제는 미국 소셜 플랫폼에서 논란을 일으켰습니다.칼럼니스트 더글러스 머레이는 2월 23일 소셜네트워크서비스 (SNS) X에서 "인종 다양성을 우리에게 설파하려는 구글의 노력은 인공지능의 범주를 넘어섰다"고 말했고, 테슬라의 일론 머스크 CEO는 트윗을 리트윗하며 "구글 제미니만의 문제가 아니라 구글 검색에서도 비슷한 오차가 발생한다는 뜻"이라고 말했다.
앞서 엘론 머스크는 2월 23일 또 다른 트윗을 올렸다."구글이 그들의 인공지능 이미지 생성을 과장해 기쁘다. 그들의 미친 인종주의, 반문명 프로그래밍을 모두가 알 수 있기 때문이다."
편집자이자 평론가인 Douglas Murray에 따르면 Gemini에서 이미지가 사람의 피부색을 잘못 생성하는 현상은 기계 학습 공정성 (machine learning fairness) 에서 비롯된다."인간은 보이지 않는 편견으로 가득 차 있기 때문에 우리는 기계가 공정한 이미지를 던져야 한다."
일각에서는 게미니의 AI 이미지가 본질적으로 인종차별과 성차별을 철폐한 역사에 있다고 보는 반면, 다른 이들은 게미니의 AI 이미지 뒤에는 2024 미국대선을 조작하려는 구글이 민주당에 유리한 방향으로 기울고 있다고 주장한다.일론 머스크는 "구글은 검색과 유튜브를 통해 수십억 명의 사상을 통제했다"며 "그들은 서구 문명에 큰 피해를 입혔다"고 트윗을 리트윗했다.
큰 모델의 메커니즘은 먹이를 주는 데이터베이스에서 각종 사건이 나타나는 통계적 확률에 근거하여 위의 글에 근거하여 아래의 글을 추측하는 것이기 때문에 큰 모델은 완벽하게"공백을 메우는"경향이 없기 때문에"날조"하고"환각"이 나타나기 쉽다.큰 언어 모델의 훈련 데이터가 제시된 문제에 대한 정보를 집중하는 데 제한이 있거나 시대에 뒤떨어지거나 모순이 있을 때도 환각을 일으킨다.큰 모델의 환각은 기업급, 의료급 등 응용 장면에서 치명적이다.
대왕고래 재경 기자가 국내 일부 대언어 모델을 테스트했을 때 생성된 인물상도 비슷한 문제를 일으키기 쉽다는 것을 발견했다.예를 들어 바이두가 개발한 대형 모델'문심일언'에'1943년 독일 병사의 이미지를 생성하세요'라는 제시어를 제시한 결과 아시아계 병사의 이미지가 생성됐다.알리바바가 개발한 대형 모델'통의천문'은 정확한 피부색의 인물상을 생성했다.
ChatGPT 이후의 인공지능이 새로운 열광을 불러일으켰기 때문에 인공지능으로 인한 콘텐츠 위험도 속출하고 있다.올해 1 월 하순, 딥 페이크 (Deep Fake, 기계 학습 및 인공 지능을 기반으로 기만적 인 이미지 음성을 생성하는 기술) 위조 된 미국 가수 테일러 스위프트 (Taylor Swift) 의 포르노 이미지가 소셜 미디어 플랫폼 인 4chan과 X에 많이 퍼졌습니다.성적 또는 폭력적인 성격의 인공 이미지 몇 장이 빠르게 퍼졌으며, 그 중 한 개의 게시물은 최종 삭제되기 전에 4700 만 회 이상 조회 된 것으로 보도되었습니다.이 이벤트로 인해 Microsoft는 남용을 방지하기 위해 Microsoft Designer의 문서화 모델을 강화했습니다.