사생활 무한수집… 정치성향도 캔다 [심층기획-AI 앞에 선 민주주의]

(2회) 개인정보 먹고 자란 AI, 기본권 위협한다

SNS 등 사용자 대화 정보 저장
친구관계도 파악… 향후 행동 예측

AI는 당신이 한 일을 알고 있다
‘개인 추천화 알고리즘’ 유튜브·메타
온라인 활동 정보인 ‘행태정보’ 바탕
지출·검색습관… 일상 동선까지 파악

나도 모르는 새 프라이버시 ‘줄줄’
60.2%가 “행태정보 수집 인지 못했다”
‘정보 제공에 동의’ 응답은 25%에 불과
기업, 정보 거부 땐 서비스 차단도 문제

인공지능(AI)이 삶 곳곳에 깊숙이 침투했다. 우리의 행선지, 쇼핑 목록, 검색기록 등 일상을 감시하며 개인정보를 수집한다. 소셜미디어의 알고리즘은 시민들의 편향성을 파고들어 양극화를 심화시킨다. 정치 영역에서 AI발 딥페이크나 가짜뉴스는 민주주의를 심각하게 위협한다. 세계일보는 AI 사용을 규제하고 윤리 기준 마련과 함께 시민 교육에 적극적으로 나서며 AI와 민주주의의 조화를 도모하는 선진국의 사례를 7차례 나눠 연재한다.

빅테크 기업들이 인공지능(AI) 서비스를 앞다퉈 확장하면서 개인정보 수집량이 급격히 늘고 있다. AI는 스마트폰이나 컴퓨터 이용 기록을 분석해 사람들의 취향, 관심사, 구매 이력, 검색어는 물론 집 주소, 친구 관계 등에 이르기까지 다양한 사생활 정보를 깊숙이 파악해 향후 행동을 예측하는 수준에 이르렀다.

특히 온라인 활동정보인 ‘행태정보’를 바탕으로 추론하면 정치 성향 등 민감한 정보까지 얻을 수 있어 우려가 제기된다. 내년 미국 대선과 한국 총선을 앞두고 정치권에서는 AI를 활용한 선거가 일제히 예고됐다. 유권자들의 정보가 기업에 의해 분석되고 활용될 가능성이 커졌지만 정작 유권자들은 자신의 개인정보 활용 사실조차 제대로 인지하지 못하는 실정이다.

4일 세계일보가 국내에 서비스 중인 오픈AI의 챗GPT, 구글의 바드, 마이크로소프트(MS)의 빙 등 3대 생성형 AI와 개인 추천화 알고리즘이 포함된 사회관계망서비스(SNS) 유튜브와 메타(페이스북)를 대상으로 개인정보 수집 현황을 조사해 보니 민감한 프라이버시 정보가 대거 수집되고 있었다.

각 기업이 밝힌 개인정보보호 규정을 분석한 결과, 생성형 AI 3사는 모두 사용자와 AI의 대화 정보를 수집하고 있었다. 챗GPT는 사용자 콘텐츠라는 이름으로 대화 내용과 파일 업로드 또는 피드백에 포함된 개인정보를 저장했다. 바드 역시 대화 정보와 제품 사용 정보, 위치정보 등을 모으고 있었다. 빙은 보다 구체적이다. 사용자가 MS 채팅봇과 주고받은 음성 및 텍스트 외에도 관심사와 즐겨 찾는 정보, 연락처 및 다른 사람 또는 조직과의 소통이나 상호작용 등을 수집한다고 밝혔다.

이들 서비스는 이 밖에도 위치정보, 와이파이 식별데이터, 인구통계학적 데이터, 결제 시 결제정보 등도 수집했다. 수집한 정보는 대부분 자사의 AI를 학습시키는 데에도 활용하고 있었다. 바드는 정보 저장 기간에 대해 기본 18개월에서 3∼36개월로 변경이 가능하다고 설명했다. 품질 관리 및 제품 개선을 위해 검토자(회사)가 대화(사용자)를 읽고 주석을 달아 처리할 수 있다고도 했다.

개인 맞춤형 알고리즘을 포함한 SNS는 보다 다양한 정보를 수집했다.

유튜브는 검색어, 시청 영상, 콘텐츠와 광고 조회 및 상호작용, 음성 및 오디오 정보, 구매 활동, 사용자가 교류하거나 콘텐츠를 공유하는 사람들 외에도 타사 사이트와 애플리케이션(앱)에서의 활동, 사용자가 동기화한 크롬 브라우징 기록, 구글 서비스를 사용한 통화나 메시지 정보까지 수집한다고 밝혔다. 또 이용자의 집이나 직장 같은 장소에는 라벨을 지정한다고 했다. 시간대별 체류 시간을 바탕으로 추론을 통해 해당 위치정보를 활용하는 것으로 업계에선 추정한다.

메타의 경우 회원이 만든 콘텐츠, 메시지, 광고를 포함해 회원이 보거나 상호작용하는 유형, 앱 기능이나 앱에서 취하는 행동, 거래정보, 친구나 팔로어의 관계, 교류하는 이용자 등 다양한 행태정보를 수집했다. 특히 다른 사람의 활동을 바탕으로 개인정보가 수집되는 경우도 있었다. 이 밖에도 이용하는 게임, 학력 등도 수집한다고 명시했다.

문제는 빅테크 기업들이 추론 방식을 사용할 경우 단순 취향 분석에 그치는 것이 아니라 개인의 정치 성향 등 민감한 정보도 쉽게 파악이 가능하다는 것이다. 예를 들어 특정 정당의 정치인과 친구 관계를 많이 맺고 있거나, 그와 관련한 글에 댓글이나 좋아요 등을 누르는 행태정보가 쌓일 경우 해당 이용자의 정치 성향을 추론할 수 있는 식이다.

김명주 인공지능윤리정책포럼 위원장은 “기업들이 개인정보 데이터를 가져가 조립을 한다. 일종의 프로파일링”이라며 “이를 통해 누구와 친한지, 자주 가는 장소가 어디인지, 그 사람이 좋아하는 것 등을 모두 추론할 수 있다. 유럽에서는 이런 프로파일링은 당사자의 허가를 받지 않으면 할 수 없도록 규제한다”고 말했다.

미국 연구기관 AI 나우의 공동 창립자인 메러디스 휘터커 시그널 재단 대표도 “정보 비대칭성을 사용해 시민이 감시당할 때 권력을 가진 사람들은 이를 통제하거나 조작하는 방식으로 의사결정을 내릴 수 있다”며 “내 지출 습관이나 친구 관계 등에 대해 알고 있다면 내 행동을 예측하거나 통제할 수 있다”고 경고했다.

◆허술한 개인정보 보안, 선택권은 없어

문제는 일반 이용자들은 자신이 생성한 광범위한 데이터가 이처럼 수집되고 활용된다는 점을 잘 인지하지 못한다는 것이다.

개인정보보호위원회의 ‘2022 개인정보보호 활용조사’를 보면 맞춤형 서비스를 위해 검색 이력, 구매 이력 등 행태정보 수집 사실을 인지하고 있느냐는 질문에 응답자의 60.2%는 ‘인지하지 못하고 있다’고 답했다. 이는 빅테크 기업들이 이용자의 동의를 충분히 얻지 못하고 있다는 의미다. 특히 60대 이상은 82.2%가 개인정보 수집 사실을 인지하지 못했다. 반면 맞춤형 서비스를 위해 ‘본인의 행태정보를 제공하겠다’는 응답은 25%에 불과했다. 이 조사는 전국 만 9∼79세 내국인 4000명을 대상으로 이뤄졌다.

정부는 지난 7월 적법한 동의 없이 이용자의 타사 행태정보를 수집해 맞춤형 광고에 이용한 메타 아일랜드와 인스타그램에 대해 각각 65억1700만원과 8억8699만원의 과징금을 부과했다. 메타는 페이스북 로그인 기능에 행태정보 수집 도구를 결합해 사업자 및 이용자 모르게 타사 행태정보를 수집한 혐의다.

지난 3월에는 챗GPT의 개인정보 유출이 발생해 한국 이용자(IP기준) 687명의 성명, 이메일, 결제지, 신용카드 번호 4자리와 만료일 등의 정보가 유출됐다. 광범위하게 수집된 개인정보는 필연적으로 유출의 위험성을 지닌다. 취재팀의 한 기자가 10년 이상 사용한 복수의 이메일 계정 등에 대해 구글의 유료서비스인 ‘다크 웹 모니터링’을 통해 확인한 결과 비밀번호 5곳, 이메일 7곳, 이름 1곳에 각각 정보가 유출된 것으로 확인됐다. 일부는 과거 가입했던 쇼핑몰이 해킹된 사례였고, 개인정보를 모은 파일 형태에 아이디와 비밀번호가 포함된 경우도 있었다. 다크웹은 일반 검색엔진으로는 접근할 수 없는 인터넷의 한 영역으로 주로 비공개 정보나 불법적인 상품의 매매 등에 사용된다.

이처럼 기업은 개인정보를 허술하게 관리하고 있지만 이들에게 정보 제공을 거부하면 서비스를 이용할 수 없다는 점도 문제다. 해외에서는 개인에게 선택권을 줘야 한다는 주장이 제기된다.

오세욱 한국언론진흥재단 책임연구위원은 “기업이 이용자에게 추천받지 않을 권리를 알리고 이를 제대로 시행하지 않는 것이 문제”라며 “내비게이션은 길 안내를 받지 않기 위해 앱을 종료하고 조금 불편해지면 되지만 SNS는 개인정보를 제공하지 않으면 사용할 기회조차 주지 않는다”고 지적했다.

뉴욕대 ‘책임 있는 AI 센터’ 소장인 줄리아 스토야노비치 교수는 “유럽연합(EU)의 개인정보보호법(GDPR)은 개인에게 자신의 데이터가 어떻게 수집돼야 하고, 그 데이터가 어떻게 사용돼야 하는지, 또는 사용해서는 안 되는지 결정하는 권리를 부여한다”며 “모든 국가에서 개인이 자신의 개인정보를 통제할 수 있는 방법을 마련하는 것이 중요하다”고 강조했다.

※본 기획물은 정부광고 수수료로 조성된 언론진흥기금의 지원을 받았습니다.

조병욱 기자, 뉴욕=김병관 기자