AI에 의한 ‘심판의 날’ 금세기에 일어날 수도…

뉴욕대, AI과학자 327명 설문조사

36%가 “핵전쟁만큼 심각한 재앙 올 것”
“영화 속 이야기로 경시해선 안 돼” 경고

영화 터미네이터 시리즈 속에서 인공지능(AI) 스카이넷이 일으켰던 심판의 날(Judgment Day)이 현실 세계에서도 일어날까.

일부 전문가들은 AI의 위험성을 영화 속 허무맹랑한 이야기로 경시해선 안 된다고 경고했다. 명령을 거부한 AI가 인류를 심각한 위기에 빠뜨릴 수도 있다는 것이다.

2일(현지시간) 영국 일간 더타임스는 뉴욕대 연구팀이 최근 AI 관련 연구를 발표한 과학자 327명을 대상으로 설문조사한 결과, 응답자 36%가 “AI나 머신러닝 시스템에 의한 결정이 이번 세기에 전면적 핵전쟁만큼 심각한 재앙을 일으킬 수 있다”고 답했다고 보도했다.

조사에서는 AI가 어떻게 핵전쟁 수준의 재난을 유발하는지는 자세히 설명하지 않았지만, 신문은 자율무기체계와 결합한 AI가 위기를 초래할 수 있다고 전했다. SF영화처럼 AI가 무기발사 명령을 내리는 상황을 언급한 것이다. 영화 터미네이터에서는 미국의 군사방위 소프트웨어인 스카이넷이 러시아에 핵무기를 발사해 지구에 핵전쟁을 일으키는 시나리오를 담은 바 있다.

연구를 주도한 뉴욕대 줄리언 마이클 연구원은 “응답자 중 일부는 불량 컴퓨터가 오작동을 일으키는 ‘변절한 AI’ 시나리오를 떠올렸을 것”이라며 “실수로 인해 핵 경고 시스템이 오작동해 문제를 일으키는 비교적 고전적인 위기를 생각한 사람도 있었다”고 설명했다.

사진=게티이미지뱅크

설문조사는 자연어 처리(머신러닝을 사용해 컴퓨터가 글과 데이터를 처리하고 해석할 수 있도록 하는 AI 기술) 분야 과학자를 대상으로 진행됐다. 신문은 “이번 설문조사가 논란의 여지가 있는 (AI 작업의) 측면에 대해 전문가들이 어떻게 생각하는지 조명하기 위해 실시됐다”고 했다.

이 밖에도 응답자 73%는 AI가 산업혁명 규모의 사회변화를 일으킬 수 있다고 답했다. 61%는 기업 현장에서 AI가 지나치게 많은 영향력을 가지고 있다고 우려하기도 했다. 또 59%는 “AI 분야의 윤리적 고려가 과학 발전과 충돌할 수 있다”고 답했고, 57%는 AI가 이미 인간의 지적 능력 수준에 도달했다며 기술 발전의 중요 단계에 접어들었다고 평가했다.

반면 영국 헤리엇와트대와 에든버러대가 공동으로 AI를 연구하는 기관인 내셔널로보타리움(National Robotarium)의 스튜어트 밀러 최고경영자(CEO)는 AI 기술을 우려할 필요가 없다고 반박했다. 그는 스카이뉴스에 “결국 모든 사람의 삶에 더 많은 로봇이 있게 될 것”이라며 “기억해야 할 것은 우리 인간이 통제하고 있다는 것으로 이미 많은 사람이 AI 소프트웨어에 안전장치가 내장돼 있는지 확인하기 위해 노력하고 있다”고 말했다.

이병훈 기자 [e-mail]