엔비디아 GPU 26만장 공급으로 소버린 AI와 피지컬 AI 육성 토대 확보
기술 종속 우려에도 경쟁 위해서는 불가피하다는 분위기
토종 AI 생태계 육성 이어가고 정부에 적절한 분배해야 당부도

대한민국이 단숨에 AI 필수 인프라인 엔비디아 GPU 보유 3위국으로 뛰어올랐다. AI를 현실로 옮기는 '피지컬 AI'를 중심으로 역량을 폭발적으로 성장시킬 수 있다는 기대감이 커진다.

독자AI 생태계 구축 노력을 이어가는 것은 숙제. 어렵게 확보한 AI 인프라를 적확하게 분배하지 못하면 기대만큼 효과를 내기 어려울 수 있다는 우려도 남아있다.

엔비디아는 최근 2025 APEC을 통해 국내에 최신 GPU 26만장을 적기에 공급하겠다고 약속했다.

정부를 비롯해 삼성전자와 SK그룹, 현대자동차그룹에 각 5만장을, 네이버에 6만장을 할당했다.

엔비디아 GPU는 AI를 개발하고 구동하는데 필수적인 연산장치다. 당초 3D 그래픽을 구동하기 위해 개발했지만, 병렬 연산 방식을 사용하는 AI 분야에서 활용되기 시작하고 엔비디아 전용 라이브러리 '쿠다'를 통해 기술이 축적되면서 대체 불가능한 자원으로 자리를 잡았다. 엔비디아 GPU 보유 대수가 국가별 AI 역량을 평가할 정도다.

한국은 이번 공급 약속을 통해 세계에서 3번째로 엔비디아 GPU를 많이 확보한 국가로 올라섰다. 정부에 따르면 종전까지 6만5000대 수준을 확보한 상태. 추가 확보로 30만대를 넘어서면서 10만대 이상을 가지고 있던 영국을 넘어 미국과 중국에 이은 3위가 됐다.

◆ 피지컬 AI 구축 본격화

새 GPU를 받을 기업들은 AI를 고도화해 서비스에 활용한다는 목표를 밝혔다.

핵심은 피지컬 AI다. AI를 실제 생산 현장에 도입해 제조를 혁신하는 것을 골자로, 스마트 팩토리에 활용하는 플랫폼은 물론 로봇에 연동해 공정을 완전 자동화하는 솔루션을 개발할 예정이다.

삼성전자는 반도체 공장을 AI 팩토리로 업그레이드하고, SK그룹은 제조 AI 클라우드를 만드는데 활용한다. 현대차그룹은 자율주행과 로보틱스에 적용하고, 네이버도 자체 AI 서비스인 하이퍼클로바X 성능을 높여 서비스화할 것으로 예상된다.

기업들은 AI 역량을 추후 상용화하거나 사회공헌 사업에 도입하는 방식으로 AI 생태계 성장과 상생에도 기여할 계획이다.

아울러 정부는 과학기술정보통신부를 중심으로 민관이 협력해 독자 AI 추론 모델을 개발하고, 국가 AI 데이터센터를 만들어 공공기관과도 공유하기로 했다.

◆ 엔비디아 종속 우려

일각에서는 한국이 AI 분야에서 완전히 엔비디아에 종속될 수 있다는 우려도 내놓고 있다.

기업과 정부는 GPU 뿐 아니라 엔비디아 플랫폼도 함께 도입한다. 공장에는 디지털 트윈 기능 '옴니버스'를, 시뮬레이션을 위해서는 코스모스를 활용하게 된다. 독자 AI 모델 개발에도 엔비디아 '네모' 플랫폼과 데이터를 쓴다.

정부는 그동안 AI 반도체와 AI 모델을 자체 개발하고 육성할 수 있도록 지원하고 정책을 만들어왔다. 엔비디아 플랫폼으로 생태계가 일원화되면 관련 산업계 노력이 물거품이 될 수 밖에 없다는 얘기다. "한국은 메모리와 치킨을 잘 만든다"던 젠슨 황 엔비디아 CEO 발언을 그저 좋게만 들을 수 없는 이유이기도 하다.

실제로 AI 반도체 등 관련 업계는 정부 발표와 함께 동향을 유심하게 들여다보고 있다는 전언이다.

일부 업계 전문가들도 SNS를 비롯한 소통 창구를 활용해 엔비디아 GPU 도입을 환영하면서도 우려를 표하고 있다.

◆ 불가피한 일

다만 엔비디아 생태계가 이미 업계에 표준으로 통용되는 만큼, 경쟁에서 뒤쳐지지 않기 위해서는 불가피하다는 주장에 더 무게가 실린다.

이미 국내 AI 반도체 팹리스 업체들은 엔비디아와 차별화를 강조해왔다. 성능을 따라갈 수는 없는 상황, 전력 대비 성능(전성비)으로 승부를 내겠다는 방침이다.

구체적으로는 엔비디아 GPU는 학습, NPU는 추론에 집중하는 방식이다. AI를 개발하고 고도화하기 위해서는 엔비디아 GPU를 쓰되, 실제 서비스 단계에서는 NPU를 활용해 비용을 최소화하는 방식으로 경쟁력을 확보한다는 전략이다.

무엇보다 엔비디아 쿠다는 이미 대체할 수 없게 됐다는 게 업계 중론이다. 일부 기업들이 독자적인 라이브러리를 구축하려는 시도를 하고 있지만, 결국은 쿠다를 기반으로 할 수 밖에 없는 상황이다.

한 업계 전문가는 "엔비디아 GPU가 빠르기도 하지만, 오랫동안 수많은 개발자들이 쿠다를 기반으로 축적한 기술을 활용하려면 불가피한 선택"이라며 "중국처럼 천문학적인 투자를 하고 양자컴퓨터 시대까지 대비하지 않는다면 먼 미래에도 엔비디아를 벗어난 독자 생태계 구축은 불가능하다"고 단언했다.

업계 한 관계자는 "국산 AI 산업이 성장한다는 측면에서는 엔비디아 GPU 도입은 오히려 긍정적"이라며 "정부가 앞으로도 국내 AI 팹리스에 대한 지원을 이어가야 진정한 AI 강국으로 도약할 수 있을 것"이라고 당부했다.

◆ 적절한 분배, '소버린 AI' 핵심

또다른 숙제는 정부가 어렵게 확보한 AI 인프라를 얼마나 적절하게 할당할 수 있을지다.

정부는 이번에 확보한 GPU로 자체 AI 모델 개발과 함께 국가 AI 데이터센터를 구축하고 기업과 협력하는 방식으로 정부 부처와 스타트업을 지원할 예정이다.

이른바 '소버린 AI'. 국가별로 자체 AI를 개발하고 활용은 물론 데이터 축적까지 자체적으로 진행해 AI 주권과 보안성을 확보하고 고도화하는데 초점이 맞춰져있다.

정부가 구체적인 활용 계획이 없어도 단지 당위성으로 분배하면 AI 인프라를 단순 작업에만 활용하며 실제 소버린 AI에 기여하지 못할 수 있다는 우려가 나온다.

정부는 일단 구체적인 활용 계획을 밝히지는 않은 상태다. 논의를 통해 전략을 수립할 예정이다.

한국디지털정부학회 공공AX 특별위원장을 맡고 있는 오경석 영남대 교수는 "그동안 공공 부문에서도 GPU가 AI가 아닌 영상 기능을 위해 활용되는 경우가 많았다"며 "정부가 효과를 극대화하기 위해서는 부처별 AI 조직 준비도를 평가하는 등 효율적으로 리소스를 분배해야 할 것"이라고 강조했다.