생체정보 무단수집 벌금 500억원… EU, 세계 첫 ‘AI 법’ 합의 [뉴스 투데이]

챗GPT 등장 1년… 규제 물꼬

27개 회원국, 37시간 끝장 토론
자율주행 등 4개 등급 나눠 규제
기업 투명성 강화… 안보는 예외

佛·獨, 자국기업 보호 소극규제 주장
발효까지 2년 걸려 실효성 의문
한국은 규제 법안 국회 논의단계

유럽연합(EU)이 세계 최초로 국가 차원의 인공지능(AI) 규제 법안에 합의했다. 지난해 말 오픈AI의 생성형 AI 챗GPT가 등장한 이후 전 세계에서 AI 규제 움직임이 본격화했으나, 구속력과 강제성을 갖춘 법안 타결은 이번이 처음이다. 유럽의회는 “AI 규제에 대한 세계 표준을 정할 수 있는 최초의 입법”이라고 자평했다.

EU 27개 회원국 대표와 집행위원회 및 유럽의회는 8일(현지시간) 밤 37시간이 넘는 마라톤 회의 끝에 ‘AI법’(Artificial Intelligence Act) 합의안을 마련했다. 협상 당사자들은 전날 24시간에 걸친 토론에 이어, 이날 다시 15시간 넘는 토론 끝에 합의를 도출해냈다. 미 블룸버그통신은 “회의장 안의 커피 머신이 너무 많이 사용돼 고장이 났을 정도”라고 치열했던 분위기를 전했다.

지난달 2일(현지시간) 영국 블레츨리파크에서 열린 사상 첫 ‘인공지능(AI) 안전성 정상회의’에서 개최국 영국의 리시 수낵 총리(앞줄 가운데)를 향해 우르줄라 폰데어라이엔 유럽연합(EU) 집행위원장(뒷줄 오른쪽)과 조르자 멜로니 이탈리아 총리가 다가가고 있다. 당시 한국, 영국 등 28개국과 EU가 AI 위협 대응을 위한 공동선언을 처음으로 발표한 데 이어 EU는 8일 세계 최초로 AI 규제 법안을 마련했다. 블레츨리파크=AP연합뉴스

법안은 AI 기술을 4등급으로 분류했다. 시민의 권리와 민주주의를 위협할 수 있는 위험도를 기준으로 한다. 가장 높은 등급인 ‘허용할 수 없는(unacceptable) 위험’에 속하는 안면 인식 기술의 경우 데이터베이스 구축을 위해 인터넷이나 폐쇄회로(CC)TV 영상을 통해 얼굴 사진을 포함한 생체 정보를 무분별하게 수집하는 행위가 금지됐다. 다만 사법당국의 피해자 수색, 테러 방지, 범죄자 추적을 위한 ‘실시간’ 안면 인식 기술은 허용하기로 했다.

AI를 이용해 성별·인종·민족·종교·정치성향 등을 기준으로 사람을 분류하는 행위도 금지된다. 채용 과정에서 AI를 활용한 불합리한 차별이 일어날 수 있어서다.

자율주행과 의료 관련 AI 기술도 높은 위험성을 가진 것으로 분류돼 이를 개발하는 기업은 규제 대상에 속한다. 기업은 AI 개발에 사용된 데이터를 공개해야 하고, 안전 평가도 의무적으로 수행해야 한다.

챗GPT 역시 규제 대상이다. 블룸버그에 따르면 ‘시스템적인 위험’을 초래하는 초고도 성능의 AI 모델에는 추가 규제가 적용되는데, 챗GPT에 탑재된 거대언어모델(LLM) GPT-4는 이 조건을 충족한다. 이에 따라 오픈AI는 레드팀(검증을 위한 공격조) 구성을 통해 위험 평가를 거치고 그 결과를 보고하며, 효율적인 에너지 사용 표준을 준수할 것 등을 요구하는 EU 행동 강령에 서명해야 한다. 최근 최신 LLM ‘제미나이’를 공개한 구글 역시 같은 요구를 받을 것으로 전망된다.

AI 기업들의 투명성 확보를 위한 규제도 담겼다. 소비자가 AI 기술 관련 문제를 직접 기업에 제기하고, 기업으로부터 설명을 들을 수 있는 권리를 규정했다. 내년 전 세계에서 열리는 각종 선거를 앞두고 많은 기업이 자발적으로 참여한 ‘워터마크’(식별표시) 의무화 방안도 포함됐다. AI로 만들어진 딥페이크 영상 등에 AI 사용 표시를 의무화하는 것이다.

EU의 AI법은 강력한 벌금 규정을 도입함으로써 이전의 AI 규제안들이 충족하지 못한 강제성을 갖췄다는 평가를 받는다. 법에 따라 금지된 AI 애플리케이션을 도입하거나 사용할 경우 해당 기업의 전 세계 연간 매출액의 7% 또는 3500만유로(약 497억원)까지 벌금이 부과될 수 있다. 세부 규정을 어겼을 시에는 1500만유로 또는 연간 매출액의 3%에 달하는 벌금을 내야 한다.

다만 국가안보와 법 집행을 활용하는 AI에는 광범위한 예외 조항이 적용된다. 최종 합의문도 아직 공개되지 않았으며, 세부사항을 수정하는 과정에서 적잖은 진통이 예상된다. 최종안 승인 후 법안이 완전히 발효되기까지도 2년여가 걸린다. AI의 빠른 개발 속도를 고려하면 규제의 실효성에 의문이 제기된다고 미 뉴욕타임스는 지적했다.

실제로 마라톤 회의에서는 개발과 규제 사이의 균형점을 찾기 위한 격론이 이어졌다. 프랑스와 독일이 ‘소극적 규제’를 주장한 대표 국가였다. 미스트랄 AI, 알레프 알파와 같은 자국의 오픈소스(기술공유형) AI 스타트업을 보호하기 위해 이들 국가는 기업에 불리한 규정에 딴지를 걸었고, 결국 오픈소스 모델은 이번 법안에서 강력 규제 대상에 포함되지 않았다. 안면 인식 기술의 무분별한 정보 수집 금지를 두고도 EU는 전면 금지를 원했으나 대다수 회원국이 이를 격렬히 반대했다고 관계자들은 전했다.

한국의 AI 규제 법안은 아직 합의점을 마련해가는 단계다. 국민의힘 안철수 의원이 대표 발의한 ‘AI 책임 및 규제법안’을 비롯해 여야 의원들이 낸 10여개의 법안이 국회에서 논의 중이다.

이지안·조병욱 기자