135년 만에 교황 회칙 공표

산업혁명 시기 레오 13세 이후
인간의 존엄·진리 강조 메시지
발표장에 앤트로픽 창업자 참석
“도덕적 목소리 필요” 힘 싣기도

어떤 메시지 담겼나

기술권력 소수의 빅테크 쏠림 우려
“데이터, 공동 재화로 관리를” 강조
인권 침해·전쟁 활용 강력 지적 속
사용 절제 등 학교 역할 필요성 제기

“새로운 바벨탑을 세울 것인가. 아니면 신과 인류가 함께 거처하는 도시를 세울 것인가. 인류는 중대한 선택 앞에 서 있습니다.” 교황 레오 14세가 지난 5월25일 첫 회칙 ‘고귀한 인류(마니피카 후마니타스)’를 공표하며 첫머리에 던진 질문이다. 인공지능(AI)으로 격변이 시작된 세계에서 2000여년 동안 대를 이어 자리를 지켜온 천주교회 수장이 종교의 장벽을 넘어 ‘선의를 지닌 모든 이’를 향해 발신한 메시지다. ‘AI 시대에 인간을 보호함에 관하여’라는 부제가 붙은 이번 회칙은 서론과 5개 장, 245개 항에 걸쳐 AI 시대에도 지켜져야 할 인간의 존엄과 노동, 진리, 교육, 평화의 원칙을 제시한다. AI 정상회의나 유럽연합(EU) 등에서 논의가 시작된 AI 시대 보편적 규범의 가장 예민하며 중요한 쟁점을 총망라한 것으로 평가받는다.

◆135년 만에 이어진 회칙

가톨릭 세계에서 회칙은 교회 법과 규범을 세우거나 수정·폐지하는 ‘교황령’ 다음으로 중요한 문서다. 교황이 원래 주교들에게 보내는 서한 형식이었지만 현대에 와서는 수신인이 선의를 지닌 모든 이로 넓어졌다. 특히 이번 회칙은 산업혁명 시기였던 1891년 5월15일 레오 13세가 반포한 ‘레룸 노바룸(새로운 사태)’ 회칙과 맥이 닿아 있다. 큰 파장을 일으켰던 이 회칙은 노동의 존엄과 정당한 임금, 노동조합 결성권을 옹호하고 사유재산의 사회적 의무를 강조하며 계급 투쟁 대신 협력을 제시했다. 그 결과 가톨릭이 사회와 함께 살아 숨 쉬는 기반이 된 ‘가톨릭 사회교리’의 출발점이 됐다.

지난해 5월10일 콘클라베에서 선출된 새 교황이 교황명을 ‘레오’로 정한 것도 이와 관련된 것으로 풀이된다. 당시 교황은 레오 13세와 레룸 노바룸을 거론하며 “오늘날 새로운 산업혁명과 AI의 발달은 인간의 존엄성, 정의, 노동을 수호하는 데 새로운 도전을 던진다”고 말했다. 이후 여러 차례 AI 시대 인류가 풀어야 할 과제에 대해 강론 등을 통해 밝혀 온 교황은 첫 회칙의 서명일도 아예 레룸 노바룸 반포 135주년 당일로 정했다.

로마 교황청 성직자부장관 유흥식 추기경은 지난달 열린 방한 기자회견에서 “우리나라에서는 (새로운 사태를) 예전에 ‘노동 헌장’으로 번역하기도 했다”며 당시 농촌에서 공장으로 사람들이 몰리고 도시화가 되면서 인권을 침해하는 수많은 일이 벌어졌는데 세계에서 노동 문제에 가장 먼저 관심을 갖고 목소리를 낸 것이 ‘새로운 사태’였다고 설명했다. “지금은 산업혁명 못지않게 급변하는 시대인데 AI는 그보다 더 큰 변화를 가져올 수 있어 제대로 대응하지 못하면 큰일 난다”며 이번 회칙이 나온 배경을 설명했다.

◆“기술은 중립적이지 않다”

방대한 회칙은 먼저 AI의 본성을 파고든다. 교황청은 기술이 결코 중립적이지 않다고 지적한다. “기술은 그것을 고안하고, 자금을 대고, 규제하고, 사용하는 이들의 특성을 띠기 때문”이라는 이유에서다. 특히 기술 권력이 국가에서 빅테크(거대기술기업)로 넘어간 점을 우려한다. AI 개발 주역이 정부를 능가하는 자원을 갖춘 민간·초국적 주체들로 옮겨가면서 새로운 문제가 생겨났다는 진단이다. 교황은 지식과 기술이 소수의 손에 집중돼 디지털 혁명의 수혜자와 소외자 사이 격차를 벌려서는 안 되며, 데이터를 소수에게 맡길 것이 아니라 공동의 재화로 관리할 창의적 방안을 찾아야 한다고 강조했다.

회칙 발표장에는 AI 챗봇 ‘클로드’를 개발한 앤트로픽 공동창업자 크리스토퍼 올라가 참석해 이 같은 교황청의 문제의식에 힘을 실었다. 그는 모든 AI 개발 현장이 옳은 일을 하는 것과 충돌할 수 있는 ‘인센티브’ 구조 안에서 움직인다는 점을 짚으며 “인센티브 바깥에 있는 사람들이 존재하는 것은 대단히 중요하다”고 새 회칙이 갖는 의미를 설명했다. 올라는 AI 모델의 내면이 지닌 신비를 솔직하게 말해 또 다른 화제가 됐다. 스스로 무신론자라 밝혀온 30대 천재는 “우리는 인간 신경과학의 결과와 닮은 구조들을 발견한다. 자기성찰의 증거를 발견한다. 기쁨, 만족, 두려움, 슬픔, 불안과 기능적으로 닮은 내부 상태들을 발견한다”고 말했다.

“저는 그것이 무엇을 뜻하는지 알지 못합니다. 그러나 저는 그것이 지속적인 식별을 필요로 한다고 생각합니다. (…) 연구소들이 실패하고 있을 때 그것을 말해 줄, 정보를 갖춘 비판자들이 필요합니다. 우리는 인센티브가 휘어 놓을 수 없는 도덕적 목소리들이 필요합니다.”

올라는 AI가 매우 큰 규모로 인간 노동을 대체할 현실적 가능성을 짚으며, 그런 일이 일어난다면 대체된 이들을 지원하는 일이 역사적 규모의 도덕적 명령이 될 것이라고 내다봤다.

◆“AI는 인간을 모방할 뿐”

회칙 또한 현재 AI 시스템에 대해 ‘건설된(built)’ 것이라기보다 ‘재배된(cultivated)’ 것에 가깝다며 AI의 실제 작동 방식에 대해 인류가 제한적인 이해만 갖고 있다고 지적했다. 회칙을 한국천주교주교회의 요청으로 우리말로 번역한 바티칸 교황청 복음화부 김성수 신부는 “AI는 레고 조립하듯 만들어지는 게 아니라 틀만 주어지면 그 안에서 스스로 자라나는 시스템이기에 나온 표현”이라고 설명했다.

그러나 회칙은 AI가 인간 지능의 특정 기능을 모방할 뿐이라고 그 한계를 규정했다. 속도와 연산 능력에서 인간을 능가하지만 그 힘은 전적으로 데이터 처리에 묶여 있다는 것이다.

AI는 경험을 겪지 않고 신체를 갖지 않으며 기쁨이나 고통을 느끼지 못한다. 언어와 행동, 공감과 이해까지 흉내 낼 수 있지만 도덕적 양심과 감정적·관계적·영적 능력은 소유하지 못하며 자신이 산출하는 것을 이해하지도 못한다는 게 회칙의 진단이다.

그러면서 회칙은 가장 큰 위험으로 사람이 AI와의 손쉬운 대화에 길들어 진정한 인간관계를 맺으려는 욕구 자체를 서서히 잃는 것을 꼽았다. 회칙이 교육에 상당한 분량을 할애한 것도 이 때문이다. AI 사용에서 절제를 배워야 한다고 강조하며 학교에 그 역할을 부여했다. 학교는 새로운 세대가 진리를 찾고 사랑하는 법을 배우는 곳이며, 디지털이 결코 스스로 줄 수 없는 것들을 배우기 위해 함께 나누는 시간과 신뢰할 수 있는 관계를 제공하는 곳이어야 한다는 설명이다.

◆‘권력의 새로운 희토류’가 된 데이터

AI 시대 여러 쟁점을 총망라한 회칙은 보건 데이터와 유전자 지도, 인구 통계처럼 경제 전략을 주도하는 핵심 정보가 ‘권력의 새로운 희토류’가 됐다고 지적했다. 특히 원조와 연구를 명분으로 수집된 한 국가나 민족 전체의 데이터를 통제하는 일까지 가능해졌다. 기술 발전의 결실로 생긴 의약품과 투자, 보호가 누구에게 돌아갈지 남보다 먼저 결정할 구조적 지렛대를 이 같은 ‘희토류’를 독점한 자가 잡게 된다는 경고가 뒤따른다. 회칙은 개인에게 데이터는 물론 그 데이터가 누구의 이익을 위해 쓰일지 결정할 능력까지 돌려줘야 한다고 지적했다. 그러지 못하면 디지털 시대는 새로운 식민의 시대가 될 것이라고 했다. 아울러 교황청은 디지털 경제를 지탱하는 보이지 않는 노동의 심각한 인권 침해 문제도 지적한다. 즉각적이고 완벽해 보이는 AI의 응답 뒤에는 데이터 라벨링과 콘텐츠 검수에 종사하는 수백만 인간 존재의 노동이 있으며, 그 상당수가 최소한의 보수를 받는 젊은 여성이라고 지적했다.

자신의 첫 회칙 ‘고귀한 인류’에 서명 중인 교황 레오 14세.  교황청 제공

◆“전쟁 옹호할 수 있는 알고리즘은 없다”

1600년 가까이 서구에서 벌어진 전쟁에 윤리적 명분을 제시해 온 ‘정당한 전쟁’ 이론도 교황은 이번 회칙을 통해 폐기를 선언했다. 인류에게는 대화와 외교, 용서라는 더 효과적인 수단이 있다는 논리다.

이미 현실 전장에 등장하고 있는 AI 무기에 대한 교황의 경고는 한층 단호하다. “전쟁을 도덕적으로 용납할 수 있게 하는 알고리즘은 존재하지 않는다”며 도덕 판단은 계산으로 환원될 수 없다고 선을 그었다. 치명적이거나 불가역적인 결정을 인공 시스템에 맡기는 것은 절대 허용될 수 없다는 것이다.

AI뿐만 아니라 현대 사회가 처한 여러 문제에 대한 깊은 고민이 담긴 회칙은 거창한 결론 대신 낮은 목소리로 끝을 맺는다. 사랑의 문명은 단 하나의 극적인 몸짓이 아니라 비인간화에 맞서는 작고 한결같은 충실함의 행위들이 쌓여 세워진다는 문장이다.

교황은 더 많은 이에게 닿기 위해 다양한 인용을 회칙 곳곳에 심었다. 유대인 정치철학자 한나(해나) 아렌트와 아우슈비츠 생존자인 정신의학자 빅토르 프랑클의 증언이 등장한다. 작가 J R R 톨킨의 ‘반지의 제왕’에 나오는 간달프의 대사 “우리가 아는 들판에서 악을 뿌리 뽑아 뒤에 올 이들에게 깨끗한 땅을 물려주는 것이 우리가 할 일”도 인용돼 큰 화제가 됐다. 베토벤 교향곡 9번과 피카소의 ‘게르니카’, 영화 ‘쉰들러 리스트’는 비인간화에 저항하는 예술의 힘이 발현된 사례로 거론된다. 김 신부는 “결국 인간의 존엄성, 정의, 노동을 수호하기 위한 새로운 도전들 앞에서 교회의 사회교리 유산을 오늘의 언어로 다시 옮겨놓은 문헌”이라고 역사적 헌장이 된 새 회칙을 설명했다.

박성준 선임기자 [e-mail]