‘왜 내 얘기가 저기서 나와?’ 60만명 카톡 대화 도용 ‘이루다’에 총 1억330만원 부과

개인정보위 “스캐터랩, 이용자 동의 없이 개인정보 수집 후 목적에서 벗어나 활용” / 거액의 과징금·과태료 물게 된 이루다 개발사

개인정보보호위원회의 송상훈 조사조정국장이 28일 오후 정부서울청사 브리핑실에서 인공지능(AI) 챗봇 ‘이루다’ 개발사 스캐터랩에 개인정보보호법 위반으로 총 1억330만원의 과징금 및 과태료를 부과했다고 밝히고 있다. 연합뉴스

자사 앱 이용자 60만명의 카카오톡 대화를 도용해 물의를 일으킨 인공지능 챗봇 ‘이루다’의 개발사가 총 1억330만원의 과징금 및 과태료를 물게 됐다.

개인정보보호 정책을 총괄하는 중앙행정기관인 개인정보보호위원회(개인정보위) 송상훈 조사조정국장은 28일 전체회의를 열고 이루다 개발사인 스캐터랩에 과징금 5550만원과 과태료 4780만원 등 총 1억330만원을 부과하기로 했다고 이날 밝혔다.

개인정보위는 스캐터랩이 이용자 동의 없이 개인정보를 수집한 뒤 해당 정보를 수집 목적에서 벗어나 활용한 게 맞다고 봤다.

스캐터랩은 이루다 개발을 위한 알고리즘 학습 과정에서 자사 앱 ‘텍스트앳’과 ‘연애의 과학’을 통해 수집한 이용자 약 60만명의 카카오톡 대화 문장 94억여건을 이용한 것으로 확인됐다.

특히 이 회사는 카카오톡 대화에 포함된 이름이나 휴대전화번호, 주소 등의 개인정보를 삭제하거나 암호화하는 조치조차 취하지 않았다.

인공지능 챗봇 이루다 서비스 운영 과정에서 20대 여성의 카카오톡 대화 문장 약 1억건을 데이터베이스(DB)로 구축한 뒤 이루다가 이 중 한 문장을 선택해 말하기도 했다.

개인정보위는 스캐터랩이 이용자의 동의를 구하지 않은 채 정보를 수집했고, 수집한 정보의 이용도 수집 목적 밖에서 이뤄졌다고 지적했다.

인공지능 챗봇 이루다 이미지. 스캐터랩

스캐터랩은 앞서 텍스트앳과 연애의 과학 개인정보처리방침에 ‘신규 서비스 개발’ 항목을 포함하기는 했다.

하지만 그 항목만으로 이용자가 이루다와 같은 AI 챗봇 서비스의 개발까지 동의했다고 볼 수 없다는 게 개인정보위의 판단이다. 특히 이용자들이 해당 서비스의 개발·운영에 자신의 카카오톡 대화가 이용될 것이라고 예상하기도 어렵다고 봤다.

아울러 개인정보위는 스캐터랩이 지난 2019년 10월부터 올해 1월까지 IT 개발자들이 코드를 공유하고 협업하는 곳으로 알려진 플랫폼 ‘깃허브’(GitHub)에 개인정보가 포함된 카카오톡 1431건과 AI 모델을 게시한 것에 대해서도 개인정보보호법 위반으로 판단했다.

이 밖에도 개인정보위는 ▲법정대리인의 동의 없이 만 14세 미만 아동의 개인정보를 수집한 행위, ▲성생활 등에 관한 정보를 처리하면서 별도의 동의를 받지 않은 행위, ▲탈퇴한 회원의 개인정보를 파기하지 않은 행위, ▲1년 이상 서비스 미사용자의 개인정보를 파기하지 않은 행위 등도 모두 개인정보보호법 위반이라고 판단했다.

윤종인 개인정보위원장은 “이번 사건은 기업이 특정 서비스에서 수집한 정보를 다른 서비스에 무분별하게 이용하는 것이 허용되지 않고, 개인정보 처리에 대해 정보주체가 명확하게 인지할 수 있도록 알리고 동의를 받아야 한다는 것을 분명히 했다는 점에 의미가 있다”면서 “처분 결과가 AI 기술 기업이 개인정보를 이용할 때에 올바른 개인정보 처리 방향을 제시하는 길잡이가 되고, 기업이 스스로 관리·감독을 강화해 나가는 계기가 되기를 바란다”고 말했다.

현화영 기자 [e-mail]