기계가 인간의 도덕성·사생활 존중할 수 있나

AI 시대 딥시크 등장으로 새국면
새 규범 정립 필요성 더욱 커져
세계적 철학·신경·컴퓨터학자 등
AI 윤리 쟁점 첨예한 사례 분석
신장이식 환자 선정 등 접목 주목
사생활 침해·편향적 결과 숙제로

도덕적인 AI/ 월터 시넛암스트롱 등/ 박초월 번역/ 김영사/ 2만2000원

챗GPT 등장으로 열린 인공지능(AI) 시대가 새로운 국면에 진입했다. 후발주자이지만 성능과 경제성에서 우수한 중국제 AI 딥시크가 일으킨 충격파 덕분이다. ‘우리가 해냈고 누구든 할 수 있다’며 모든 소스를 공개한 딥시크 등장으로 그간 몇몇 글로벌 테크기업 전유물이었던 AI 개발 경쟁의 새로운 장이 열렸다.

결국 AI가 예상보다 더 빠르고 더 넓게 우리 삶을 바꿀 것이란 점은 더 뚜렷해졌다. 그만큼 AI 시대를 관통할 새로운 규범과 도덕률 정립도 시급해졌다.

기계가 인간의 도덕을 이해할 수 있을까. 인공지능(AI)을 안전하고 공정하게 만들려면 어떻게 해야 할까. AI 윤리 분야 전문가 3인 공저 ‘도덕적인 AI’는 현재는 AI 기술을 쓸지 말지 논쟁할 때가 아니라, AI가 초래할 잠재적 편익과 위험을 면밀하게 파악하고, AI 기술과 맞물린 도덕적 가치의 문제를 어떻게 해결해나갈지 지혜를 모을 때라고 주장한다. 사진은 ‘인간의 도덕성을 탑재한 AI’를 주제로 챗GPT가 생성한 이미지.

신간은 AI 윤리 분야에서 세계적으로 손꼽히는 철학자, 신경과학자, 컴퓨터과학자가 머리를 맞대고 썼다. 두루뭉술한 개념을 나열하는 대신 일상이 된 AI 윤리 쟁점의 첨예한 사례를 분석한다.

AI는 이미 우리 일상 속에 파고들었다. 놀라운 기술 진보로 영화 속에서나 볼 법한 일들이 가능해졌다. 하지만 최후의 난제는 ‘인간의 가치를 학습하고 구현하는 AI’ 개발이다. 도덕적인 AI라야 보다 많은 재량을 부여할 수 있다. 이미 신차에 대거 탑재되고 있는 자율주행 기능이 맞닥뜨린 한계상황이 본보기다. 운전자와 상대방 운전자, 또는 보행자 피해가 불가피한 충돌이 임박했을 때 자율주행 AI는 핸들을 어느 쪽으로 꺾을 것인가. 인간적인 고민과 도덕성이 알고리즘으로 구체화한 AI라야 우리가 핸들을 믿고 맡길 수 있다.

이처럼 도덕적인 AI가 필요한 또 다른 분야로 장기 이식을 꼽을 수 있다. ‘신장 이식을 받을 환자의 우선순위를 정하는 AI’ 연구가 책에 소개된다. 미국에선 10만여명이 신장 이식을 기다린다고 한다. 이식 가능한 신장이 나올 때마다 병원은 여러 명의 절박한 환자 중 누구에게 신장을 제공할지 결정해야 한다. 매일 신장병 환자 13명이 신장 이식을 받지 못해 사망한다는 통계가 있을 정도다. 그러므로 누구에게 신장을 제공할지 결정하는 것은 생사를 가르는 문제다. 미국 내 여러 장기 이식 센터는 나름의 기준으로 결정한다. 대체로 이식 외과의의 의학적 판단, 신장 이식 방침을 결정하는 병원 담당자들의 의료적·실용적 판단(적합성, 연령, 건강, 장기의 질, 대기 기간 등)이 중요하다.

이 같은 원칙이 있다지만 더욱 합리적인 판단을 위해 AI 윤리 전문가인 저자들은 ‘신장 이식을 위한 도덕적인 AI’ 모델 구축방안을 제시한다. 이 AI는 두 가지 방향으로 바른 결정을 내리기 위한 학습을 해야 한다. 우선 이식 외과의가 신체적, 정신적으로 이상적인 상태일 때 내릴 법한 의학적 판단을 프로그래밍하고, 다음으로 병원의 이식 방침을 결정하는 집단의 판단을 모형화한다. 병원 방침을 학습할 때는 병원 관계자뿐 아니라 변호사, 환자, 비전문가 등 다양한 시민을 참여시킴으로써 공동의 도덕적 판단을 자동화 시스템으로 구축할 수 있다. 이 기술 도구를 이용하면 외과의의 실수와 편향을 방지하고, 신장 분배 우선순위 목록을 해당 집단의 도덕적 가치와 일치시킬 수 있다.

월터 시넛암스트롱 등/ 박초월 번역/ 김영사/ 2만2000원

이 같은 ‘도덕성을 지닌 AI의 출현’은 우선 사람들의 도덕적 판단을 도울 수 있다. 불완전한 인간은 언제든 도덕적 오류를 범할 수 있다. 인지적 편향, 편애, 인종·성별 편견 등 무의식적으로 인간 의사결정에 영향을 미치는 편향에서 도덕적 AI는 이를 벗어날 수 있는 거울 역할을 할 수 있다.

도덕적 AI는 결국 사회의 불공정을 개선하고, 비윤리적인 결정을 방지하는 데 도움을 줄 수 있다. AI에 도덕성을 탑재하는 이 기술을 다른 영역으로 확장하면, 공동체 구성원의 도덕적 판단을 자동화하는 ‘인공적으로 개선된 민주주의(AID)’ 시스템을 개발할 수도 있다는 게 저자들의 주장이다. 극단적인 이념 양극화 갈등의 해법을 찾지 못하는 우리나라 현실에서도 한 번쯤 공상하게 되는 미래다.

저자들은 다양한 분야 AI 윤리 논쟁의 최전선을 소개하면서 앞으로 고민해야 할 새로운 문제도 폭넓게 제시한다. 무엇보다 최대한 많은 개인 데이터를 수집하고, 영구적으로 저장하고, 최고 입찰자에게 판매하는 것을 바탕으로 돌아가는 AI 생태계 자체가 사생활을 침해할 가능성이 높다. 편향된 데이터를 학습한 AI 모형이 편향된 결과를 내놓고 대량의 피해자를 만들어낼 수도 있다.

그래도 AI 윤리 전문가들은 미래를 긍정적으로 본다. AI의 운명을 쥐고 있는 것은 인간이며, 올바른 AI 모델을 만들고 훈련할 시간이 있다고 믿는다.

박성준 선임기자 [e-mail]