美·中 틈새 ‘AI 3강’ 공략하는 韓

엔비디아와 손잡고 생태계 도약
글로벌 경쟁 구도서 존재감 과시
美 스탠퍼드대 지표서 ‘세계 3위’

美 의존 높고 ‘풀스택’ 경쟁 취약
“해외 공급 차단 땐 디지털 마비
韓은 AI 실행 역량 구조적 약점”

AI 중심 ‘추론’ 이동 NPU 시장 부상
산업 특화 AX·의료·바이오 집중 등
한국형 인프라로 주도권 확보 지적

지난해 말 엔비디아가 우리 정부와 삼성전자·SK·현대차·네이버 등에 최신형 그래픽처리장치(GPU) 26만장을 공급하기로 하면서 국내 인공지능(AI) 생태계가 도약할 발판이 마련됐다는 기대가 커졌다. 정부가 5만장을 확보해 국가 AI 인프라 구축에 투입하고, 주요 기업도 대규모 연산 자원에 힘입어 AI 역량 강화에 나설 것으로 예상됐다.

젠슨 황 엔비디아 최고경영자(CEO)와 최태원 SK 회장이 지난 7일 서울 강남구 깐부치킨 삼성점에서 치맥 회동을 하던 중 주먹 인사를 하고 있다. 연합뉴스

이후 한국의 위상은 달라졌다. AI용 GPU 핵심 부품인 고대역폭 메모리(HBM)를 앞세워 메모리 반도체 공급망의 핵심축으로 떠올랐고, 올해 들어 빅테크(거대기술기업) 수장들이 잇따라 방한해 국내 기업과의 협력을 타진했다. 7개월 만에 한국을 다시 찾은 젠슨 황 엔비디아 최고경영자(CEO)는 한국을 AI 생태계 핵심 파트너로 낙점하고 국내 기업과의 협력을 넓히는 데 주력했다. 지난해 1월 중국의 저비용 고성능 AI 모델 ‘딥시크’가 세계를 놀라게 한 지 1년여 만에 한국도 글로벌 AI 경쟁 구도에서 존재감을 키웠다는 평가가 나온다.

한국은 미국과 중국에 버금가는 ‘AI 3강’을 목표로 국가적 역량을 모으고 있지만 AI 생태계의 미국 의존도가 높고, AI 실행 역량을 뒷받침할 ‘풀스택’(AI 생태계 모든 구성 요소) 경쟁력은 취약하다는 한계도 뚜렷하다. 모델과 칩, 클라우드, 소프트웨어 개발 생태계 전반이 미국 기업 중심 구조에 묶여 있는 탓이다. 핵심 기술 분야에서는 독자성을 높이고, 신경망처리장치(NPU) 등 한국형 AI 인프라를 서둘러 키워야 한다는 목소리가 커지는 이유다. 제조 강국 자원을 활용해 로봇을 포함한 피지컬(물리) AI 주도권을 잡아야 한다는 제언도 나온다.

◆AI 적응력 높지만 연구·투자 기반 약해

9일 업계에 따르면 세계 각국은 AI를 국가 미래 산업 경쟁력과 안보를 좌우할 핵심 자산으로 보고 통제력 강화에 나서고 있다. 제조업과 바이오·제약, 모빌리티, 농업·푸드테크 등에서 AI가 산업 혁신을 촉진해 새 성장 동력을 만들 수 있는 데다 최신 AI 모델의 사이버 보안 역량도 국가 안보 차원의 변수로 떠오르고 있어서다. 미국이 지난해 엔비디아의 최신형 GPU ‘보급형’조차 중국에 수출하지 않겠다고 한 것도 AI 패권을 유지하기 위한 조치로 풀이된다. 중국은 미국에 대응해 모델과 칩, 제조, 플랫폼 인프라를 아우르는 자체 생태계를 구축하고 있다.

AI 기술력과 전문 인력, 인프라 등에서 미국이나 중국과의 격차는 여전히 크지만 한국도 글로벌 AI 시장에서 두각을 드러내고 있다. 미국 스탠퍼드대가 지난달 공개한 2026년 AI 인덱스 보고서를 보면 한국은 지난해 주목할 만한 AI 모델 8개로 미국 59개, 중국 35개에 이어 3위에 올랐다. 산업 자동화 역량도 두드러졌다. 2024년 산업용 로봇 3만600대를 새로 도입해 중국(29만5000대), 일본(4만4500대), 미국(3만4200대)에 이어 세계 4위였다.

다만 글로벌 영향력에선 한계가 크다. 이경선 정보통신정책연구원(KISDI) 연구위원은 “국내 모델들은 주로 국내 기업 내부 활용, 한국어 특화 서비스, 공공·금융 분야, 소버린 AI 수요 중심으로 활용되고 있다”며 “글로벌 개발자 생태계나 플랫폼 표준을 주도하는 수준과는 거리가 있다”고 평가했다.

한국은 제조 AI 기반은 갖췄지만 글로벌 인재와 자본을 빨아들이는 연구·산업·투자 기반은 약하다. 지난해 자금을 새로 조달한 AI 기업 수는 미국 1953개, 중국 161개, 한국 59개로 차이가 컸다. 민간 AI 투자도 17억8000만달러(약 2조6400억원)로 세계 12위 수준에 그쳤다. 미국(2858억달러)과 중국(124억달러)뿐만 아니라 싱가포르(18억달러)보다도 작았다.

높은 미국 의존도도 구조적 취약점으로 꼽힌다. 한국은 컴퓨팅(연산) 자원이 부족해 거대언어모델(LLM) 학습에 필요한 인프라를 외국 기업에 의존하고, AI 칩과 소프트웨어 플랫폼 등의 해외 의존도 역시 높다. 이진호 서울대 전기·정보공학부 교수는 “현재 모델 구조, 파라미터(매개 변수), 추론 인프라 등 대부분을 해외에 의존하고 있다”며 “해외 공급자가 서비스를 끊으면 디지털 마비가 초래되고, 국가 인프라에도 유사한 문제가 생길 수 있다”고 지적했다. 윤정현 국가안보전략연구원 연구위원도 “한국은 미·중과 달리 AI 실행 역량의 구조적 약점을 지닌 중견국”이라고 평가했다. AI 인재나 운영환경, 연구 역량 등이 부족해 AI 시스템을 설계, 책임지는 조율 능력이 떨어질 수 있다는 것이다.

◆AI 풀스택 경쟁력 높여야

한국이 독자적 AI 실행 역량을 갖추려면 모델뿐만 아니라 칩과 소프트웨어 등으로 이어지는 기반 경쟁력을 끌어올려야 한다는 목소리가 높다. AI 전 분야에서 초격차를 노리기보단 공급망 리스크가 큰 핵심 기술 확보에 집중하고, 산업 특화 모델 개발에 주력해야 한다는 제언에 힘이 실린다. GPU, 소프트웨어(쿠다), 연결 기술(NV링크)로 이어지는 엔비디아의 독점 생태계 의존도를 낮추기 위해 NPU 기반 AI 반도체 경쟁력을 키우고, 피지컬 AI, 제조·로보틱스 등에 집중 투자해야 한다는 것이다.

특히 AI 중심이 ‘학습’에서 ‘추론’으로 이동함에 따라 NPU의 전략적 가치가 커졌다는 평가가 많다. GPU는 대규모 학습과 범용 연산에 강하지만 반복적 추론과 온디바이스(기기에서 연산 처리) 환경에선 저전력·고효율 NPU가 부각된다. 비메모리 시장은 인텔이나 AMD 등이 사실상 독점해 시장 진입 자체가 어려웠는데, NPU 시장이 부상하면서 국내 기업에도 기회가 생긴 셈이다.

AI 서비스 운영과 학습에 필요한 인프라 투자도 중요하다. 대규모 연산 자원뿐 아니라 전력과 데이터센터, 냉각, 네트워크를 포함한 인프라 전략 없이 AI 경쟁력을 유지하긴 어렵다. 이제는 GPU를 더 들여오는 것을 넘어 종합 전략이 필요하다는 의미다.

제조·로봇·바이오산업 기반 위에 AI를 얹어 생태계 경쟁력을 높이는 게 한국형 AI 경쟁력을 결정할 전망이다. AI를 바탕으로 한국의 미래 산업을 이끌어갈 핵심 성장 축으로는 산업 특화 AX와 의료·바이오가 거론된다. 제조 분야는 현장 데이터와 공정 노하우가 풍부해 산업 AI 상용화에 유리하고, 의료·바이오의 경우 생산·임상·의료 데이터와 병원 인프라가 집적돼 특화 AI를 육성하기에 적합하다. 이경선 연구위원은 “AI 인프라 투자와 모델 개발 역량을 실제 산업 경쟁력으로 연결할 수 있는 역량 확보가 중요하다”고 강조했다.

이정한 기자 [e-mail]