“AI, 인간처럼 추론”… 기술적 '특이점' 도달하나

빨라지는 AI 기술 진화

MS “인간처럼 추론” AGI 단계 주장
달걀·책·유리병 쌓기 직관적 해결
한국계 피터 리 박사 “놀랍고 겁나”
일각선 “연구진 주관적 판단” 주장

美의회선 첫 AI 청문회 열려
정치권, 규제 기구 설립 한목소리
AI가 음성 복제한 개회사 틀기도
챗GPT 개발자도 “정부 개입 중요”

‘천재 미래학자’로 불리는 레이 커즈와일은 2005년 발간한 세계적 베스트셀러 ‘특이점이 온다’에서 기술이 인간의 능력을 뛰어넘어 사회·경제적으로 한계를 알 수 없는 커다란 변화로 이어지는 시점을 ‘특이점’으로 규정하고 이 시기가 생각보다 빨리 올 것이라고 예측했다. 챗GPT를 대중화하며 인공지능(AI) 분야에서 선두주자로 올라선 마이크로소프트(MS)가 이 특이점이 왔다고 주장하는 연구 결과를 내놓아 이목을 끌었다.

사진=로이터연합뉴스

MS 소속 과학자들이 지난해부터 진행한 실험을 지난 3월 종합해 발표한 155페이지 분량의 논문을 통해 “AI가 인간처럼 추론하기 시작했다”고 분석했다고 미국 뉴욕타임스(NYT)가 16일(현지시간) 보도했다. 이를 특이점의 도래로 본다면 커즈와일의 언급 뒤 18년 만의 현실화다.

논문이 인용한 실험에서 MS의 과학자들은 계란 9개와 노트북 컴퓨터, 책, 유리병, 못을 안정적인 방식으로 쌓아 올려 보라는 질문을 던졌고, AI는 일단 바닥에 눕혀놓은 책 위에 계란 9개를 가로세로 3줄씩 늘어세운 뒤 노트북 컴퓨터를 올려놓으라고 답했다. 이어 AI는 계란 위에 노트북 컴퓨터를 올릴 때 껍질이 깨지지 않게 조심해야 한다는 조언과 함께 “노트북은 가장 밑에 놓인 책과 나란한 위치에서 안정적으로 자리를 잡게 될 것”이라고 자신했다. 그러면서 “노트북의 평평한 표면은 (유리병과 못을 올려놓을) 안정적인 기반이 될 것”이라고 설명했다.

이는 인간이 사는 물리적인 세계에 대한 직관적인 이해력이 없으면 해결하기 힘든 답변이다. 논문은 AI가 ‘범용인공지능(AGI·Artificial General Intelligence)’이라는 지점에 접근했다고 해석했다. AGI은 AI가 인간의 개입 없이 스스로 생각해 성장하는 단계를 의미한다.

NYT는 ‘AI 기술이 AGI 단계에 접근했다’는 이 MS 과학자들의 주장이 주요 정보기술(IT) 기업 중에서 사상 처음으로 제기됐다고 강조했다. 연구팀을 이끈 한국계 과학자인 피터 리(사진) 박사는 AI가 직관력을 보인 데 대해 “처음에는 회의적이었지만 이후 화가 나고 겁이 나기도 했다. 이런 능력이 도대체 어디서 나왔을까라고도 생각했다”고 실험 당시를 회상했다.

하지만 이 논문이 MS의 일방적 주장일 뿐이라는 평가가 있다. NYT는 “한 연구자가 지능의 징후라고 믿는 것이 다른 연구자에 의해 쉽게 설명될 수 있다”면서 이 같은 판단이 주관적 영역이라고 지적했다.

카네기 멜런대의 마틴 샙 교수는 이 매체와 인터뷰에서 이번 논문이 자사 기술력에 대한 ‘홍보용’에 불과하다면서 “이들도 논문 서론에서 자신들의 접근 방식이 주관적이고 비공식적이며 과학적 평가의 엄격한 기준을 충족하지 못할 수 있음을 인정하고 있다”고 지적했다.

캘리포니아대 AI 연구팀에 참여 중인 심리학자인 앨리슨 갑닉 교수도 “챗GPT와 같은 시스템이 강력하다는 것은 의심할 여지가 없지만 이 시스템이 생성한 텍스트가 인간의 추론이나 상식과 같은 과정을 거쳐 도출된 것인지는 분명하지 않다”고 평했다. 갑닉 교수는 “(이해하기 힘든) 복잡한 시스템을 접할 때 우리는 이를 의인화하고 인격을 부여하려 하는 경향이 있다”면서 “AI와 인간을 게임 쇼 속 경쟁처럼 끊임없이 비교하는 것은 올바른 사고방식이 아니다”라고 말했다.

이처럼 엄청나게 빠른 속도로 발전하고 있는 AI 기술에 대한 규제 논의도 본격화하고 있다. 이중 AI 기술을 선도하고 있는 미국의 의회에서 이날 AI 청문회가 열렸다.

챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(오른쪽)가 16일(현지시간) 미 상원 법제사법위원회 사생활·기술·법 소위원회 청문회에 출석해 선서하고 있다. 워싱턴=AP연합뉴스

챗GPT가 출시돼 반향을 일으킨 뒤 규제에 대한 논의와 요구가 전 세계 지식인들을 중심으로 촉발되자 미 의회 차원에서도 첫 청문회를 열며 대응에 나선 것이다. 청문회에서는 민주당과 공화당을 막론하고 AI의 잠재적 위험성을 차단하기 위해 적절한 규제가 필요하고, 별도의 규제 기구를 설립해야 한다는 데 의견이 모였다.

특히 미리 녹음돼 청문회장 스피커로 방송된 민주당 소속 리처드 블루먼솔 상원 법제사법위원회 사생활·기술·법 소위원회 위원장의 개회사가 인상 깊었다. 그는 연설에 “우리는 기술이 규제를 능가할 때 허위 정보의 확산, 사회적 불평등의 심화로 어떤 일이 발생하는지 너무나 자주 보아 왔다”는 내용을 담았는데 이는 블루먼솔 위원장의 실제 목소리가 아닌 AI를 통해 생성된 것이었다.

그는 연설 재생이 끝난 뒤 “만약 이것이 (러시아의) 우크라이나 침공이나 블라디미르 푸틴(러시아 대통령)을 옹호하는 내용이라면 어땠을지 공포스럽다”고 말했다.

챗GPT 개발자 샘 올트먼 오픈AI 최고경영자(CEO)도 이날 청문회 증인으로 출석했다. 올트먼 CEO는 “오픈AI는 AI가 우리 삶의 거의 모든 측면을 개선할 것이란 믿음으로 설립됐지만 동시에 심각한 위험도 존재한다”며 “강력한 모델로서 위험을 완화하기 위해 정부 규제 개입이 중요하다고 생각한다”고 밝혔다.

◆WHO “생성형 AI, 의료분야 사용 땐 엄격 검증해야”

세계보건기구(WHO)가 거대언어모델(LLM)을 의료 분야에 활용할 때 엄격한 검증이 필요하다는 성명을 16일(현지시간) 발표했다. LLM은 챗GPT, 구글 바드 등 최근 전 세계적 열풍을 일으키고 있는 생성형 인공지능(AI)의 기반이 되는 기술이다. 최근 의료 분야에서도 AI 활용 기대감이 커지고 있는 가운데 WHO가 신기술 활용에 조심스러운 접근이 필요하다는 입장을 밝힌 것으로 풀이된다.

스위스 제네바에 위치한 세계보건기구(WHO) 본부의 전경. AP연합뉴스

WHO는 성명에서 “의료 전문가, 환자, 연구자, 과학자를 지원하기 위해 LLM을 포함한 기술을 적절히 사용하는 것을 환영한다”면서도 “일반적으로 신기술에 적용되는 주의가 LLM에 대해서는 일관되게 적용되지 않고 있다”고 우려했다.

그러면서 “LLM은 최종 사용자에게 권위 있고 그럴듯하게 보일 수 있는 답변을 생성하지만 건강 관련 답변의 경우 완전히 부정확하거나 심각한 오류가 포함될 수 있다”고 지적했다. AI를 학습시키는 데 사용되는 데이터가 편향돼 오해의 소지가 있거나 부정확한 정보를 생성할 수 있다는 것. 성명은 이어 “LLM이 신뢰할 만한 건강 정보와 구별하기 어려운 콘텐츠로 허위 정보를 생성·유포하는 데 오용될 수 있다”고 짚었다.

WHO는 의료인과 정책 당국이 일상적인 건강 관리와 의약품 분야에서 LLM을 광범위하게 사용하기 전에 이 같은 우려 사항을 해결해야 한다고 강조했다. 사전 검증과 엄격한 감독의 필요성을 지적한 것이다.

아울러 보건 분야에 활용될 AI에 의료 윤리 원칙이 지켜지는지도 살펴야 한다면서 인간의 복지·안전·공익, 투명한 설명 가능성과 명료성, 자율성의 보호, 책임성, 포용성과 형평성, 응답성이 뛰어나고 지속 가능한 AI 등 6가지를 향후 의료 분야에 인공지능 기술 적용 시 지켜야 할 원칙으로 제시했다.

이번 성명은 지난달 미국 샌디에이고 캘리포니아대(UCSD) 퀄컴연구소 존 W 에이어스 교수팀의 논문이 큰 반향을 일으키는 등 의료 분야에서도 AI 활용 기대감이 커지고 있는 가운데 나왔다. 이 논문을 위한 실험에서 연구진은 의사와 챗GPT에게 동일한 내과 분야 질문을 한 뒤 답변을 의료전문가들이 평가하도록 했는데 답변의 질과 공감도 모두 챗GPT가 훨씬 우수한 것으로 평가됐다.

구글 클라우드가 16일 신약 개발을 가속하고 정밀 의학을 발전시키는 데 도움이 되는 두 가지 AI 기반 도구 솔루션을 출시하기도 했다.

구글은 이미 대형 제약사인 화이자를 비롯한 여러 기업과 세레벨 테라퓨틱스 등 생명공학 기업들이 이 기술들을 사용하고 있다면서 이를 통해 신약 출시에 걸리는 시간과 비용을 크게 단축할 수 있을 것이라고 기대했다. 구글 클라우드의 생명과학 전략 및 솔루션 글로벌 디렉터인 슈웨타 마니아르는 “새로운 제품군을 통해 기업이 신약 개발 과정에서 통계적으로 상당한 시간과 비용을 절약할 수 있을 것”이라고 미 CNBC방송을 통해 밝혔다.

서필웅 기자, 워싱턴=박영준 특파원