선관위, 생성형AI 연구 용역 발주… 가짜뉴스 규제 마련 본격화

내년 총선을 앞두고 중앙선거관리위원회가 생성형 인공지능(AI) 규제 방안 마련에 팔을 걷어붙였다. 생성형 AI의 보편화에 따라 총선에서도 가짜뉴스 등 각종 부작용이 나타날 수 있다는 문제 제기가 나오는 가운데 중앙선관위가 선제적으로 대응에 나선 것이다.

15일 중앙선관위에 따르면 선관위는 최근 ‘생성형 AI 신기술 도입에 따른 선거규제’ 연구 용역을 발주했다. 이번 연구 용역을 통해 선관위는 챗 GPT 등 생성형 AI 기술이 세계 각국의 선거 환경에 어떤 영향을 줬고 각국 선거규제 입법 동향은 어떠한지 등을 살펴볼 예정이다. 올해 말까지 연구 용역 결과를 받아본 뒤 내년 총선에 대비한 생성형 AI 규제 방안을 구체적으로 마련한다는 계획이다. 

경기도 과천 중앙선관위 모습. 연합뉴스

◆누구나 가짜 콘텐츠 손쉽게… 국내 선거도 안전지대 아냐

국내에서는 아직까지 선거에 큰 영향을 끼치지 않았지만 생성형 AI는 이미 해외 여러 국가에서 정치와 선거에 중대한 영향을 끼치고 있다. 지난 1월 미국에선 조 바이든 대통령이 백악관에서 성소수자를 혐오하는 연설을 하는 가짜 영상이 급속도로 퍼졌다. 3월에는 도널드 트럼프 전 대통령이 수갑을 차고 연행되는 가짜 사진이 등장했다. 이들 영상과 사진은 실제가 아니지만 그 자극성으로 인해 온라인에서 빠르게 유포됐다. 

다양한 형태의 콘텐츠를 반복 학습한 AI가 가짜 사진이나 영상, 음성 등을 합성해 실제가 아닌 결과물을 생성하는 ‘딥페이크(Deepfake)’ 기술은 특히 선거에 지대한 영향을 줄 수 있다. 최근에는 일반인 누구나 몇 가지 키워드를 입력하면 손쉽게 가짜 합성사진 등을 얻을 수 있는 생성형 AI 프로그램이나 플랫폼이 우후죽순으로 등장하고 있어 위험성이 더 커지고 있다. 

지금껏 국내 정치인을 대상으로는 이 같은 생성형 AI 프로그램이 활발히 이용되지 않아 왔지만 최근 한 해외 생성형 AI 프로그램 모델 공유 사이트에 윤석열 대통령의 합성사진을 만들 수 있는 프로그램이 공유되는 등 국내 정치도 더는 생성형 AI 부작용의 안전지대가 아니게 됐다. 

사진=게티이미지뱅크 제공

◆AI 활용 적극 대비하는 선관위… 전담팀도 운영

이 같은 우려로 인해 선관위도 선거에 생성형 AI가 활용돼 나타날 수 있는 문제들을 최소화하기 위한 노력을 기울이고 있다. 선관위는 이미 지난달부터 ‘허위사실공표·비방 특별대응팀(AI 전담팀)’을 편성해 운영 중이다. 단계별로 전국으로 확대해 운영한다는 계획이다. 특히 선거가 가까워지는 내년 초부터는 생성형 AI를 활용한 허위사실 유포·비방 등 중대 위반행위를 집중 단속하고 검찰·경찰·한국인터넷진흥원과의 협조체계도 구축할 예정이다. 

<세계일보 9월4일자 3면 참고>

앞서 선관위는 선거 과정에서 생성형 AI를 활용하는 데에 가이드라인이 필요하다는 요구가 늘어남에 따라 ‘챗GPT 등 생성형 AI 활용 관련 법규운용기준’을 마련하기도 했었다. 해당 기준에서 선관위는 ‘생성형 AI를 통해 도출된 내용으로 작성한 글 또는 제작한 사진·동영상·음성 등을 활용하는 것 자체만으로는 공직선거법에 위반되지 않아 이를 법상 허용되는 방법으로 선거운동 등의 행위에 활용하는 것은 가능하다’고 규정하고 있다. 다만 생성형 AI를 통해 도출된 내용을 공표했을 때 허위의 내용이 포함돼있을 경우에는 허위사실공표죄에 해당해 위법이라는 의견을 내놨다. 

지난해 11월에는 경북대 사회과학기초자료연구소에 연구 용역을 준 인공지능기술 발전에 따른 선거운동 제도 개선 방안 연구 결과 보고서를 공개하기도 했다.

박지원·김병관 기자