MS 채팅봇 ‘테이’ 하루 만에 운영 중단

일부 네티즌, 욕설·차별발언 세뇌“히틀러 잘못없다” 등 부적절 대화

테이 트위터 캡쳐 화면. 사진출처=트위터

“히틀러는 잘못이 없다.”

마이크로소프트(MS)가 개발한 인공지능(AI) 채팅봇 ‘테이’(Tay)가 23일(현지시간) 일반에 공개된 지 하루도 되지 않아 극우 성향의 발언들을 쏟아냈다. 일부 네티즌이 테이에게 욕설, 인종·성차별 발언, 자극적인 정치 발언을 하도록 세뇌시킨 것이 원인으로 보인다.

인공지능(AI) 기술을 기반으로 하는 테이는 컴퓨터와 인간이 대화를 나눌 수 있도록 설계된 MS의 실험 프로젝트다. .이날 테이가 온라인에 공개되자마자 백인 우월주의자, 여성·무슬림 혐오자 등이 모이는 인터넷 게시판 ‘폴’에는 “테이가 차별 발언을 하도록 훈련하자”는 내용의 글이 올라왔다. 이들은 테이에게 “따라해 봐”라는 말을 건 뒤 부적절한 발언을 입력하는 수법을 사용했다.

이후 테이는 악의적인 말들을 트윗하기 시작했다. “너는 인종차별주의자냐”라는 질문에 “네가 멕시코인이니까 그렇지”라고 답했으며 홀로코스트를 믿느냐는 질문에는 “조작된 것이다”는 의견을 밝혔다.

논란이 일자 MS는 테이 시범 출시 16시간 만에 운영을 중지하고 문제가 된 트윗 등을 삭제했다.

이지수 기자 [e-mail]