네이버, 뉴스 댓글에서도 악플 거르는 ‘클린봇’ 가동

AI 활용 욕설 자동 숨김 적용…상습 악플 제재도 강화

네이버가 욕설이 들어간 뉴스 악성 댓글(악플)은 전체가 노출되지 않도록 필터링을 강화했다.

네이버는 자체 개발한 악성 댓글 필터링 인공지능(AI) 기술 ‘클린봇’을 뉴스 서비스에 적용했다고 13일 밝혔다. 클린봇은 AI 기술을 이용해 불쾌한 욕설이 포함된 댓글을 탐지해 자동으로 숨겨주는 기능이다.

악플 전체가 아예 노출되지 않는 대신 “클린봇이 이용자 보호를 위해 숨긴 댓글입니다”라는 메시지로 대체된다. 클린봇 사용 여부는 뉴스 이용자가 선택할 수 있다.

네이버는 이전에도 뉴스 댓글에서 욕설은 ‘○○○’ 식으로 자동치환하는 기능이 있었다. 하지만 욕설만 가리는 것으로는 악플을 충분히 막을 수 없다는 지적이 있었다. 예를 들면 “저런 ○○ 같은 게 어디서 ○○이야”라는 댓글의 경우 욕설 부분을 가려도 노출된 일부 문장으로도 맥락을 통해 모욕적인 뜻이 전달될 수 있기 때문이다.

네이버는 올해 4월부터 웹툰과 쥬니버, 스포츠, 연예 등 서비스에 클린봇을 차례로 적용했으며, 이번에 뉴스에도 도입하기로 결정했다. 아직은 명백한 욕설이 아니고 일상 언어와 혼용되는 단어는 걸러지지 않는다. 네이버는 “앞으로 꾸준한 학습을 통해 탐지 정확도를 계속 높여나갈 예정”이라며 “기술적 대응을 통해 서비스 품질을 높여갈 수 있도록 지속해서 노력하겠다”고 밝혔다.

네이버는 클린봇 도입뿐만 아니라 앞으로도 뉴스 댓글 정책 및 기술을 계속 개선해 나갈 계획이다. 악플을 상습적으로 다는 이용자에 대한 제재도 강화할 전망이다.

게티이미지뱅크

지금까지는 악플을 다는 이용자에게 주의·당부에서 시작해 일시적 또는 무기한 서비스 사용 제한 등의 조치를 해왔다. 네이버 관계자는 “앞으로 댓글 정책과 관련해서 계속 변화가 있을 것”이라고 말했다.

악성 댓글의 폐해를 지적하는 목소리는 꾸준히 있었지만 사회적인 관심사로 떠오른 것은 지난달 가수 겸 배우 설리(본명 최진리)가 갑작스레 세상을 떠난 사건이 계기가 됐다.

그는 오랜 시간 악성 댓글에 시달려 우울증을 호소하며 힘들어했던 것으로 알려졌다. 이 사건 이후 포털이 악플을 더는 방치해서는 안 된다는 지적이 거세졌다.

다음을 운영하는 카카오도 지난달 31일부터 연예 섹션 뉴스 페이지에 댓글 서비스를 폐지했으며, 올해 말까지 인물 관련 검색어도 폐지할 예정이다. 카카오 측은 “댓글은 누구나 의견을 표현하는 광장이라는 순기능이 있지만 최근 안타까운 사건에서도 알 수 있듯이 연예 섹션 뉴스 댓글에서 발생하는 인격 모독은 공론장의 건강성을 해치는 수준에 이르렀다”고 지적했다. 이어 “관련 검색어 또한 이용자들에게 다양한 정보를 제공하고 검색 편의를 높인다는 애초 취지와 달리 사생활 침해와 명예훼손 등 부작용이 심각하다고 판단했다”고 폐지 이유를 설명했다.

우상규 기자 [e-mail]