美 FTC, 챗GPT 조사 착수…‘소비자 피해’ 집중한 AI 규제 본격화될까

독과점과 불공정거래를 규제하는 미국의 경제 규제기관인 연방거래위원회(FTC)가 생성형 인공지능(AI) 열풍의 주역인 챗GPT를 조사하기 시작했다고 13일(현지시간) 미국 워싱턴포스트(WP)가 보도했다.

보도에 따르면 FTC는 이번 주 챗GPT의 개발사인 오픈AI에 공문을 보내 AI 제품과 관련된 위험에 대처하는 방법 등에 대해 자료를 요구했다. FTC는 오픈AI가 소비자의 평판에 피해를 주는 불공정하거나 기만적인 행위를 했는지 조사하고 있다. 특히, 챗GPT가 사람에 대해 허위, 오도, 비방하는 진술을 만들어 불만이 접수된 사례를 제출하고 이런 문제에 대한 대응 조치를 설명하라고 했다. 

사진=로이터연합뉴스

허위 진술은 챗GPT로 대표되는 생성형 AI의 대표적 취약점이다. 인터넷상 데이터 내에 존재하는 가짜뉴스와 잘못된 정보, 편견 등을 통해 얼마든지 허위 정보를 제공할 수 있는 것. 이렇게 생성형 AI가 제공한 허위 정보가 특정인의 평판을 깎아내리는 등의 피해를 만들 수 있다는 것이 FTC의 시각이다. 아울러 오픈AI가 지난 3월 공지한 사용자의 개인정보 유출 사고와 관련한 자료도 요구했다. FTC는 오픈AI의 정보보안 관행이 소비자보호법을 위반하지 않았는지 들여다보고 있는 중이다. 

WP는 FTC의 조사가 AI 산업이 본격화된 뒤 가장 강력한 위협이 되는 규제가 될수 있다고 평가했다. 챗GPT 열풍 이후 AI에 대한 우려도 커지면서 전 세계가 규제를 위해 머리를 맞대고 논의를 이어가고 있는 중이지만 아직은 논의가 초기단계일 뿐이다. 하지만, FTC는 AI가 사회에 미치는 영향 대신 ‘소비자에 대한 피해’라는 명확한 접근 방식을 가졌기에 규제가 빠르게 현실화할 가능성이 크다. 오픈AI가 소비자보호법을 위반했다고 FTC가 판단하면 벌금을 부과하거나 시정 조치를 명령할 수 있다.  이렇게 되면 소비자 피해에 집중한 규제가 AI 업계를 규제하는 강력한 형태로 자리잡을수 있다.

다만, 이런 FTC의 움직임에 반론도 만만치 않게 존재한다. 무엇보다 반독점법과 소비자보호법 집행기관인 FTC가 오픈AI를 조사할 권한이 있느냐는 지적도 있다. 이날 하원 법사위원회에서 공화당 소속 댄 비숍 의원은 리나 칸 연방거래위원장에게 명예훼손은 통상 연방법이 아닌 주법을 적용해 기소한다고 지적했다. 이에 칸 위원장은 “FTC의 조사는 명예훼손에 초점을 맞춘 게 아니다”라면서 “AI 학습에서 사람들의 개인 정보를 오용하는 것이 사기 또는 기만의 한 형태가 될 수 있다”고 답했다. 이어 “우리는 소비자들에게 실질적인 피해가 발생했는가에 초점을 맞추고 있다. 피해는 다양한 형태로 나타날 수 있다”고 덧붙였다.

이번 조사가 FTC의 위상을 끌어올리기 위한 것이라는 시선도 있다. 최근 마이크로소프트의 750억 달러 규모의 액티비전-블리자드 인수를 저지하려는 FTC의 시도에 미국 법원이 제동을 걸었는데 이를 만회하기 위해 이번 조사에 나선 것이 아니냐는 의혹이다. AI 업계 연합체인 ‘챔버 오브 프로그레스’의 설립자이자 CEO인 아담 코바체비치는 “현재 AI는 모든 신문의 헤드라인을 장식하고 있다. FTC는 결과를 확보하려는 것보다 화려한 사건에 집중하려는 것”이라고 항변했다.

서필웅 기자 [e-mail]