AI업계, ‘정치 이미지’ 생성 제한 추진

11월 미국 대선 앞두고 악용 방지
미드저니, 12개월 금지안 추진
인플렉션, 후보 지지 발언 금지

11월 미국 대선을 앞두고 인공지능(AI) 기업들이 자사 AI를 활용한 정치적 이미지 생성을 금지하는 방안을 검토하고 있다.

10일(현지시간) 영국 가디언에 따르면 AI 이미지 생성 기업 미드저니의 데이비즈 홀즈 최고경영자(CEO)는 “앞으로 1년 동안 유력 대선 후보 등과 관련한 이미지 생성을 금지 또는 제한할 예정”이라고 밝혔다. 조 바이든 미국 대통령, 도널드 트럼프 전 대통령과 관련한 딥페이크(가짜) 사진·영상이 잇따라 혼란을 일으키자 자사 AI 기술이 아예 정치적 이미지를 생성하지 못하도록 막겠다고 공언한 것이다.

“AI와 대화 나눠요” 지난 8일(현지시간) 프랑스 칸에서 열린 국제 인공지능(AI) 전시회 ‘월드 AI 칸 페스티벌 2024’에서 한 직원이 홍콩 히도바리서치의 사회형 로봇 ‘캡차’와 대화를 나누고 있다. 칸=EPA연합뉴스

AI 스타트업 인플렉션도 자사 챗봇 파이가 특정 정치 후보를 지지하는 발언을 하지 못하도록 조치한다고 예고했다.

앞서 인스타그램·페이스북의 모회사 메타는 대선을 앞두고 잘못된 정보 유통을 막기 위해 자사 AI로 생성된 이미지에 라벨을 부착해 특정 이미지 출처를 구별할 수 있게 하겠다고 발표했다. 생성형AI 챗GPT 개발사 오픈AI도 딥페이크에 AI가 만들었다는 표식을 달겠다고 약속했다. 샘 올트먼 오픈AI CEO는 최근 “내가 가장 걱정하는 것은 AI의 새로운 능력”이라며 “2020년보다 더 진화한 딥페이크가 있을 것”이라고 경고했다.

AI 기술 악용을 막기 위한 민관 협력 플랫폼도 출범했다. 미국 상무부는 민관이 참여하는 ‘인공지능 안전 연구소 컨소시엄(AISIC)’을 발족했다고 11일 밝혔다. 상무부는 AISIC가 안전하고 신뢰할 수 있는 AI 개발 및 배포를 위해 만들어졌다고 설명했다.

지나 러몬도 상무부 장관은 “바이든 대통령은 AI 안전 표준을 설정하고 혁신 생태계를 보호하는 목표를 달성하기 위해 모든 수단을 동원하라고 지시했으며, AISIC는 이 목표 달성을 돕기 위해 설립됐다”고 부연했다. AISIC에는 오픈AI, 구글, 마이크로소프트, 아마존 등 200개 이상의 기업과 정부, 학계, AI 개발자가 참여한다.

이예림 기자 [e-mail]