노벨물리학상 AI 대부 제프리 힌턴 “AI 생존에 위협될 수도…역사적 분기점”

“AI가 통제에서 벗어나 생존 위협을 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다.”

올해 노벨 물리학상을 받은 ‘인공지능(AI)의 대부’ 제프리 힌턴(76) 캐나다 토론토대 교수는 수상 직후 노벨위원회와의 전화 인터뷰에서 AI의 잠재적 위협에 대비하기 위해 빅테크(거대기술기업)들이 AI를 통제하는 이슈에 더 많은 연구 자원을 쏟아부어야 한다며 이같이 말했다.

제프리 힌턴 캐나다 토론토대 교수. AFP연합뉴스

그는 기후변화 문제는 우리가 무엇을 해야할지 알고 있지만, AI는 무슨 일이 벌어지고 있는지, 무엇을 해야할지에 대해 알고 있는게 적다며 “앞으로 수년 내에 AI의 위협을 다룰 방법이 있는지를 알아내야 한다”고 말했다. 힌턴 교수는 “정부가 할 수 있는 일은 대기업들이 AI 안전 연구에 훨씬 많은 자원을 사용하도록 강제하는 것“이라며 “오픈AI(챗GPT 개발사)와 같은 회사들이 안전 연구를 뒷전으로 미루지 않도록 해야 한다”고 덧붙였다.

그는 1975년 미 캘리포니아주 애실로마에서 열린 국제회의에서 생물학자들이 유전공학 연구의 규제 필요성을 제안한 것을 의미 있는 업적이라고 평가하면서 “유감스럽게도 AI는 응용 분야가 훨씬 더 많아 통제가 더 어려울 것”이라고 경고했다. 한편 힌턴 교수는 이날 수상자 발표 현장에서 전화 연결로 이뤄진 회견에서 자신의 연구로 개발된 AI가 앞으로 우리 사회에 큰 영향력을 미칠 것이라며 “산업혁명에 비견될 것”이라고 강조했다.

힌턴 교수는 AI가 “인간을 체력 면에서 뛰어넘는 것이 아니라, 지적 능력 면에서 넘어서게 될 것”이라며 “우리는 우리보다 똑똑한 것이 있다는 것을 경험한 적이 없다”고도 말했다. 힌턴 교수는 AI 기술이 의료 등의 분야에 혁명을 일으켜 “생산성에 있어서 엄청난 향상”을 가져올 것이며 “여러 면에서 멋진 일이 될 것”이라면서도 그 부작용을 우려했다. 그는 “우리는 여러 가지 가능한 나쁜 결과, 특히 이것들이 통제 불능 상태가 될수 있는 위협에 대해서 우려해야 한다”고 강조했다.

8일(현지시간) 스웨덴 왕립 카롤린스카연구소 노벨위원회가 '2024 노벨 물리학상' 수상을 발표하고 있다. 로이터연합뉴스

그는 수상 전화를 받았을 당시 미국 캘리포니아에 있는 저렴한 호텔에 머물고 있었다면서 수상 소식을 전혀 예상하지 못했다고 했다. 그러면서 “오늘 MRI 검사를 받으러 가기로 했는데, 취소해야 할 것 같다“고 말했다.

힌턴 교수는 이번 수상이 챗GPT와 같은 거대언어모델(LLM)이 언어를 실제로 이해한다는 자신의 주장에 더욱 신뢰성을 부여할 것으로 기대한다고 언급했다. 세계적 석학이자 언어학자인 노엄 촘스키 매사추세츠공대(MIT) 명예교수는 AI는 인간처럼 언어를 구사하지 않으며 챗GPT가 실제로는 언어를 이해하지 못한다고 비판한 바 있다. 이와 관련해 힌턴 교수는 “촘스키 학파는 틀렸다“고 주장했다. 힌턴 교수는 개인적으로 애용하는 AI 도구가 있느냐는 기자 질문에는 “챗GPT-4를 실제로 많이 사용한다. 궁금한 게 있을 때면 GPT-4에 물어본다“고 답했다. 그러면서도 “(나는) 이를 완전히 신뢰하지는 않는데, 이는 할루시네이션(그럴듯한 거짓정보 생성) 때문”이라며 “하지만 대부분의 분야에서 GPT-4는 훌륭한 전문가이고 매우 유용하다”고 말했다.

구글에서 부사장을 지낸 힌턴 교수는 지난해 4월 구글을 떠난 후 언론 인터뷰에서 구글과 결별한 이유가 AI의 위험성 때문이라고 밝힌 바 있다. 그러면서 빅테크가 주도하는 AI 연구에 국제적인 규제가 도입돼야 한다고 주장해왔다.

워싱턴=홍주형 특파원 [e-mail]