'딥페이크 음란물' 단속 강화한다… 해외 기관과 공조

여성가족부가 디지털성범죄에 대응하기 위한 시스템 구축에 나선다. 인공지능(AI) 기술을 이용해 ‘딥페이크’ 영상물을 찾아 온라인 사업자에게 자동으로 삭제를 요청하는 방안이 도입될 예정이다. 또한 국외에 서버를 둔 불법 사이트를 근절하기 위해 미국 연방수사국(FBI)이나 국토안보부 수사국(HSI) 등 해외 법집행기관 및 글로벌 인터넷 기업과 공조를 강화한다.

여성가족부는 25일 ‘제11차 여성폭력방지위원회’를 열고 이러한 내용이 담긴 올해 여성폭력방지정책 기본계획 시행 방안과 디지털성범죄 대응 체계 강화 방안을 확정했다.

사진=뉴시스

여가부는 인공지능을 이용해 피해자 얼굴과 음란물을 합성한 딥페이크 영상물을 탐지한 후 온라인 사업자에게 삭제를 자동 요청하는 시스템을 2025년까지 구축하기로 했다. ‘디지털성범죄피해자지원센터’(디성센터)를 비롯해 서울, 부산, 인천, 경기 등 일부 지자체와 '삭제지원시스템'을 연계해 불법 촬영물 정보를 공유하는 등 피해자 지원 방안도 마련한다.

피해영상물 외에 피해자 신상정보도 삭제 지원 대상에 포함되도록 ‘성폭력방지법’ 개정을 논의한다. 여가부 관계자는 “피해영상물을 삭제하더라도 피해자의 이름이나 학교명 등이 유포되는 탓에 2차 피해로 이어지는 경우가 많다”며 “피해자 보호를 위한 대책이 필요하다고 봤다”고 설명했다.

아울러 이제까지 온라인으로 한정됐던 그루밍 범죄 대상을 오프라인으로까지 확대하는 내용이 담긴 ‘청소년성보호법’ 개정을 추진한다. 그루밍 범죄는 사회관계망서비스(SNS) 등에서 성 착취를 위해 성적 대화나 행위를 유도하는 범죄를 의미한다. 방송통신심의위원회는 디지털성범죄 피해자의 요청사항을 한 번에 서비스 지원기관과 연계하는 ‘원스톱 신고 자동전화연결(ARS) 시스템’을 운영한다.

경찰청도 딥페이크 탐지 소프트웨어를 활용해 관련 범죄를 단속한다. 또한 수사 진행 상황의 통지 대상자가 미성년 피해자인 경우 변호사 등 대리인에게 통지할 수 있도록 범죄수사규칙 개정을 검토한다. 미국 연방수사국(FBI)이나 국토안보부 수사국(HSI) 등 해외 법집행기관 및 글로벌 인터넷 기업과 공조를 강화해 관련 범죄를 단속할 계획이다.

여가부도 불법 영상물 공유 사이트 서버를 해외에 두는 경우가 늘어나는 현실을 감안해 미국 아동실종학대방지센터(NCMEC) 등과 핫라인을 개설할 계획이다. 디성센터가 안정적으로 운영될 수 있도록 기관 운영에 관한 근거를 성폭력방지법에 명시하는 방안도 추진된다.

안경준 기자 [e-mail]