핵폭탄·컴퓨터·AI… 21C 설계한 천재과학자

아인슈타인과 비교되는 유일한 천재
헝가리 과학자 폰 노이만 업적 재조명
20세기 과학사 파노라마처럼 펼쳐져
수학·물리·화학·경제학·신경공학까지
현대사회 거의 모든 영역서 이정표 세워

미래에서 온 남자 폰 노이만/아난요 바타차리야/박병철 옮김/웅진지식하우스/2만9000원

알베르트 아인슈타인과 비교되는 유일한 천재, 존 폰 노이만(John von Neumann, 1903∼1957)은 화려한 업적에 비해 대중에게 제대로 알려지지 않은 인물이다. 우리가 매일 쓰는 스마트폰과 컴퓨터, 인공지능(AI), 핵폭탄, 자기복제 우주선 등 현대사회를 규정한 거의 모든 영역에 이정표를 세웠다고 하면 그의 천재성이 가늠될까. 수학부터 물리학, 화학, 경제학, 신경공학 분야에 이르기까지 그가 정립한 이론을 계승하고 발전시켜 노벨상을 받은 학자만 해도 여럿이다.

신간 ‘미래에서 온 남자 폰 노이만’(웅진 지식하우스)은 한 사람이 했다고 믿기 힘들 정도로 드넓은 노이만의 학문적 성과와 업적을 재조명했다. 연구 분야가 방대하고 영역을 넘나들며 종횡무진 활약한 덕에 노이만의 발자취를 따라간 책에는 20세기 과학사가 파노라마처럼 펼쳐진다.

원자폭탄과 컴퓨터, 인공지능, 게임이론 등 21세기 삶의 토대가 된 굵직한 아이디어를 낸 존 폰 노이만. 웅진지식하우스 제공

헝가리 부다페스트의 최상류층 집안에서 태어난 노이만은 일찌감치 천재성을 드러냈다. 여섯살에 여덟 자리 숫자(1000만단위)의 곱셈을 능숙하게 해냈고, 고등학교를 졸업하자마자 3개 대학을 동시에 다니며 학사와 석사를 땄다. 19세에 박사 논문을 쓰고 28세에 ‘양자역학의 수학적 기초’를 집필해 수학계를 발칵 뒤집으며 ‘최고의 천재’로 이름을 날린 그는 미국 프린스턴대학의 초청을 받고 미국으로 건너간다.

당시 유럽은 독일의 나치당이 부상하며 전쟁의 그림자가 드리우기 시작했다. 유럽에 비해 수학과 과학 발전이 뒤처졌던 미국은 아인슈타인을 비롯해 당대 최고의 학자들을 프린스턴대학 고등연구소로 불러모았고, 노이만은 당시 29세로 가장 어렸다.

2차 세계대전이 발발하자 미국 정부는 원자폭탄을 개발하기 위해 맨해튼 프로젝트를 비밀리에 가동했다. 그러나 핵분열 실험에서 내파식 설계가 실패를 반복하며 난관에 부딪히자 맨해튼 프로젝트를 이끌던 로버트 오펜하이머는 노이만에게 도움을 요청했다. 노이만은 우라늄이 제때 공급되지 못할 상황에 대비해 비교적 생산이 용이하고 적은 양으로도 동일한 파괴력을 발휘할 수 있는 플루토늄 폭탄 설계에 결정적인 역할을 했다. 훗날 오펜하이머가 소련 스파이로 몰려 청문회에 서자 노이만은 그의 무죄를 주장하며 최선을 다해 변호하기도 했다.

아난요 바타차리야/박병철 옮김/웅진지식하우스/2만9000원

노이만은 폭탄을 개발하면서 설계대로 폭탄이 작동할지 확인하려면 기존의 기계식 계산기로는 불가능하다는 것을 깨달았다. 사람의 두뇌와 비슷한 방식으로 작동하는 계산기계가 필요하다고 생각했고, 마침 펜실베니아대학교 무어스쿨 전기공학부에서 그런 기계를 개발하고 있다는 소식을 듣고 곧장 달려갔다.

펜실베이니아대 모클리(J. W Mauchil)와 에커트(J. P Eckert) 교수는 1946년 최초의 전자식 컴퓨터 에니악(ENIAC)을 개발했다. 하지만 에니악은 진공관을 사용한 커다란 덩치와 엄청난 전력 소모에도 불구하고 연산속도가 느렸다. 노이만은 에니악의 단점을 극복하기 위해 계산장치와 메모리, 저장장치를 분리해 컴퓨터의 프로그램을 쉽게 변경할 수 있는 에드박(EDVAC)을 개발했다.

에드박은 10진수가 아닌 2진수를 이용해 컴퓨터의 연산속도를 비약적으로 향상시켰을 뿐만 아니라 오늘날 ‘소프트웨어’라고 불리는 신개념을 탄생시켰다. 노이만의 논문 ‘EDVAC에 대한 첫번째 보고서’는 현대식 컴퓨터의 출생증명서라고 불린다. 지금도 컴퓨터 설계자들은 컴퓨터의 전체적인 구성을 ‘폰 노이만 구조’라고 부르며, 대부분의 컴퓨터는 여전히 이 원칙에 따라 제작된다.

노이만은 경제학에도 거대한 족적을 남겼다. 그가 만든 의사결정에 대한 수학적 연구 ‘게임이론’은 경제학뿐 아니라 냉전시대 소련과의 핵전쟁에 대비하는 미국의 핵무기 전략과 외교정책의 핵심 원리가 됐다. 노이만의 논문에 자극받은 수학자들이 너나 할것없이 경제 분야로 뛰어들면서 수리경제학의 시대가 열렸다. 노이만의 경제이론을 발전시켜 노벨상을 받은 사람만 여섯 명에 달한다.

2009년 최초의 여성 노벨경제학상 수상자인 엘리너 오스트롬은 “테니스를 칠 때나 공직 출마 시기를 저울질할 때, 포식자와 피식자의 관계를 분석할 때, 낯선 사람의 신뢰도가 궁금할 때, 공익을 위한 일을 계획할 때 등등 이 많은 경우에 한결같이 적용 가능한 도구가 있으니 그것이 바로 게임이론이다. 게임이론은 사회과학의 모든 분야에 적용할 수 있는 강력한 분석도구이다”라고 평가했다.

노이만은 말년에 구상한 ‘오토마타(Automata) 이론을 인생 최고의 업적으로 여겼다. 인간의 두뇌와 컴퓨터의 연관성을 파고든 자기복제기계 오토마타는 AI와 3D프린터의 탄생으로 이어졌다.

천재적인 두뇌뿐 아니라 통찰력도 뛰어났던 그는 기술이 가져올 위험에 대해서도 경고했다. 기계가 인간의 능력을 뛰어넘는 시점을 특이점(Singular Point)이라고 하는데 이 용어를 처음 사용한 사람이 바로 노이만이다. 그는 1958년 ‘오토마타의 일반적이고 논리적인 이론’이라는 강연에서 특이점을 거론하며 기계가 인간보다 더 지능적이 되면 인간의 존재에 위협이 될 수 있다고 주장했다.

그는 나치와 공산주의를 혐오해 한때 소련에 대한 선제 핵 공격을 주장했고, 프린스턴 고등연구소 학자들로부터 “수학자도, 진정한 물리학자도 아니다”라는 비판을 받기도 했다. 그러나 자기복제 오토마타처럼 노이만의 이론은 70년이 지난 지금까지 학계를 넘어 전 분야에 끊임없이 확산되고 복제되며 진화를 거듭하고 있다. 21세기를 설계한 ‘20세기의 천재’ 노이만은 여전히 우리 곁에 있다.

김수미 선임기자 [e-mail]