SNS가 밀고 가짜뉴스가 끈 혐오…英 총리 “SNS 기업 책임”

영국에서 흉기 난동으로 댄스 교습을 받던 어린이 3명이 숨진 사건이 폭행과 방화를 동반한 폭동으로 번지고 있다. 키어 스타머 영국 총리는 피의자와 관련된 각종 거짓 정보가 사회관계망서비스(SNS)를 통해 유통된다며 이를 방관한 플랫폼 기업의 책임이 있다고 지적했다.

1일(현지시간) 영국 가디언에 따르면 스타머 총리는 영국 런던 총리 관저에서 기자회견을 열고 흉기 난동 사건으로 벌어진 폭력 집회에 대해 “우발적으로 일어난 것이 아니라 폭력에 집착하는 사람들이 모인 집단”이라며 “극우 세력이 조직적으로 움직이고 있다”고 비판했다.

키어 스타머 영국 총리. 로이터연합뉴스

최근 영국 곳곳에선 흉기 난동 사건이 발생한 이후 반이슬람·반이민 시위가 벌어지고 있다. 지난달 30일 사우스포트에서 열린 시위로 경찰관 53명이 다쳤고, 31일 런던 다우닝가에서 열린 집회에선 참가자들이 경찰을 향해 맥주 캔과 유리병을 던졌다. 같은 날 더럼주 하틀리품 머리가에선 경찰차가 불에 타기도 했다.

폭력의 발단은 가짜뉴스다. 지난달 29일 17세 소년이 댄스 교실에 난입해 흉기를 휘두르며 어린이 3명을 살해했다. 당시 경찰은 용의자가 웨일스 카디프에서 태어나 사우스포트 인근 마을 뱅크스에서 거주했다고 밝혔는데 구체적인 신상이나 종교는 상세히 알리지 않았다.

이후 SNS상에는 범인이 이슬람이란 소문부터 영국에 입국한 지 얼마 안 된 이주민이란 가짜뉴스가 퍼지기 시작했다.

흉기 난동이 발생한 지 3시간이 채 되지 않은 시점엔 ‘유럽 침공’이란 이름의 계정에 인공지능(AI)이 생성한 조작 사진이 올라오기도 했다. 사진에는 영국 국기 유니언잭 티셔츠를 입고 우는 아이 뒤로 무슬림 전통 복장을 한 채 수염이 난 남성이 국회의사당 밖에서 칼을 휘두르는 모습이 담겨 있었다. 해당 사진은 90만회 조회수를 기록했고, “우리는 아이들을 보호해야 한다!“와 같은 댓글이 달리기도 했다.

거짓 정보는 빠른 속도로 이민자에 대한 혐오로 번졌다. 극우 단체 ‘영국수호리그(EDL)’를 설립한 영국의 반이슬람 활동가 토미 로빈슨은 “국경을 폐쇄하고 모든 범죄자를 추방하라”고 촉구했고, 채널3나우 등 일부 매체도 용의자가 무슬림 망명 신청자라는 확인되지 않은 정보를 보도했다.

◆“극우 세력이 SNS·AI 이용해 존재 부각”

이번 사태에 대해 전문가들은 영국의 분열된 극우 세력이 새로운 도구와 흉기 난동 사건을 악용해 자신들의 존재감을 강화하고 있다고 경고했다.

새로운 도구란 SNS와 AI를 뜻한다. 실제로 영국 곳곳에서 벌어진 시위는 엑스(X·옛 트위터), 페이스북, 틱톡과 같은 SNS상에서 10건 이상 홍보됐다. 극우 세력들은 AI를 이용해 선동적인 이미지나 노래를 제작해 퍼뜨리기도 했다.

영국 서리대의 인간 중심 AI 연구소 앤드류 로고이스키 이사는 AI 생성 도구가 온라인에 널리 보급되면서 “누구나 생성형 AI를 사용해 강력한 이미지를 만들 수 있다”고 말했다. 

허위 정보를 모니터링하는 영국 회사 로지컬리(Logically)의 수석 분석가 조 온드락은 일부 극우 인플루언서들이 시위를 홍보하기 위해 ‘#(해시태그)enoughisenough(더 이상은 안 된다)’를 사용했다고 설명했다. 

다른 전문가들은 빠른 확산 속도를 지적하기도 했다. 유엔이 지원하는 비영리단체 ‘테러리즘에 대항하는 기술’은 흉기 난동 이후에 콘텐츠를 게시하기 시작한 틱톡 계정을 예로 들며 “모든 게시물이 사우스포트(흉기 난동 발생 장소)와 관련이 있으며, 대부분 지난달 30일 공격 현장 근처에서 시위를 촉구하는 내용”이라고 분석했다. 그러면서 “이전에는 아무런 콘텐츠가 없었음에도 사우스포트와 관련된 게시물은 몇 시간 만에 틱톡에서만 5만7000회 이상의 누적 조회수를 기록했다”고 짚었다.

스타머 총리는 플랫폼 기업이 각종 거짓 정보가 SNS를 통해 유통되는데도 이를 방관했다며 사태에 책임이 있다고 비판했다. 또한 전국 경찰서장과 긴급회의를 갖고 집회 배후 정보를 수집하고 폭동을 진압하는 통합 부서를 경찰청 산하에 신설하기로 했다고 밝혔다.

◆SNS가 낳은 가짜뉴스와 폭력

SNS로 인한 가짜뉴스와 폭력은 갈수록 심해지고 있다.

지난해 10월11일 티에리 브르통 유럽연합(EU) 내수시장 담당 집행위원은 SNS 플랫폼을 향해 이스라엘과 팔레스타인 무장정파 하마스 분쟁에 관한 허위 정보 및 테러 관련 게시물을 제대로 관리하라고 경고했다. 

브르통 집행위원은 공개서한을 통해 일론 머스크 엑스 최고경영자(CEO)에게 “이스라엘에 대한 하마스의 테러 공격 이후 우리는 엑스가 불법 콘텐츠와 허위 정보를 유포하는 데 활용되고 있다는 징후를 가지고 있다”며 EU의 디지털서비스법(DSA) 의무를 준수하라고 촉구했다. DSA는 특정 인종, 성, 종교에 편파적인 발언이나 테러, 아동 성 학대 등과 연관 있는 콘텐츠의 온라인 유포를 막기 위해 지난해 8월부터 EU가 시행 중인 법률이다.

지난 1월31일 미국 워싱턴 국회의사당에서 열린 상원 법제사법위원회 청문회에서 린지 그레이엄 의원은 “(마크) 저커버그(메타 CEO), 당신과 우리 앞에 있는 회사들은 손에 피를 묻혔다. 당신들에겐 사람들을 죽이는 제품이 있다”고 비판했다. 

이에 저커버그는 자리에서 일어나 청중석으로 몸을 돌린 뒤 “여러분이 겪은 모든 일에 사과드린다”며 “여러분 가족이 겪었던 일을 누구도 겪지 않도록 업계 전반에 걸친 노력을 할 것”이라고 사과했다.

이민경 기자 [e-mail]