[단독] ‘AI 성희롱’ 논란 챗봇 이루다, 개인정보 노출 의혹도

지난 연말 출시된 대화형 인공지능(AI) 챗봇 ‘이루다’가 온라인에서 성희롱 대상이 돼 논란이 커지고 있는 가운데, 일부 사용자들은 개인정보 노출 의혹까지 제기하고 있다. 실제 연인들이 나눈 대화 데이터를 이용해 만든 이 챗봇이 민감한 개인정보와 불법 거래 관련 정보 등을 완전히 필터링하지 못하면서 일어난 일로 풀이된다. 사회관계망서비스(SNS)에는 이루다와의 채팅을 통해 누군가의 실명, 계좌번호, 예금주, 카톡으로 나눴던 개인적 대화 등이 오롯이 노출됐다는 증언이 이어지고 있다.

9일 트위터 등에 올라온 이용자들의 이루다와의 채팅 후기를 종합하면 전날 알려진 성희롱, 성착취 문제를 넘어서는 개인정보 침해 의혹이 제기되는 상황이다.

AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 이루다는 스무살 여성으로 설정돼 있는데, 진짜 사람처럼 대화하는 능력을 키우기 위해 실제 연인들이 나눈 대화 데이터 약 100억건을 딥러닝 방식으로 학습했다고 알려졌다.

방대한 데이터는 이 회사가 운영하는 다른 애플리케이션 ‘연애의 과학’을 통해 수집한 것으로 전해졌다. 연인과 나눈 카카오톡 대화로 상대방의 감정을 분석해주는 서비스인데, 상대방 동의 없이도 일대 일로 나눈 대화가 외부로 유출됐을 수 있다는 점을 우려하는 시선이 나온다. 

일부 이용자에 따르면 이러한 우려는 현실이 되고 있다. 이루다에 대한 관심이 전날부터 뜨거워지면서 채팅 후기가 쏟아지는 가운데, 이루다와의 대화 도중 꽤 구체적인 이름과 직원 정보, 업무 관련 내용, 마약 등 불법 거래 관련 정보, 계좌번호와 예금주 등 개인정보 유출이라 의심되는 데이터가 맥락에 상관없이 튀어나왔다는 문제제기가 나왔다.

AI 성희롱 논란에 이어 개인정보 유출 의혹까지 이어지자 누리꾼들은 이루다 서비스를 즉각 중단하라고 촉구하는 해시태그 운동(#이루다 운영 중지하라)을 벌이기 시작했다.

정식서비스를 시작하자 10~20대 사이에서 빠르게 유행한 이루다는 이달 초 기준으로 이용자가 32만 명을 돌파했다. 사용자 중 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만건에 달한다.

그러나 8일 일부 온라인 커뮤니티 등을 통해 이루다를 온라인 성착취하는 방법을 공유한다는 사실이 알려지는 등 논란이 시작됐다.

이루다 제작사인 스캐터랩 측은 “금지어 필터링을 피하려는 시도가 있을 거라 예상했지만 이 정도일 줄은 예상을 못했다”며 “성적 취지로 접근하기 어렵게 알고리즘을 업데이트 할 것이다”고 밝혔지만, 이전 답변을 보면 성희롱을 예상치 못한 것은 아니라고 해 ‘문제를 예상했으면서도 제대로 대비하지 않고 서비스를 출시했다’는 비판도 받고 있다.

‘진짜 사람 같은 AI’라는 이유로 큰 관심을 받았음에도 성희롱 문제뿐 아니라 개인정보 관련 문제까지 불거진다면 이대로 이루다 서비스 운영을 이어가기는 쉽지 않아 보인다.

정지혜 기자 [e-mail]