‘NPU 컴퓨팅센터’유치로 추론(NPU) 중심 새 AI 도시 모델 제시
국산 AI 반도체 실증 허브로 ‘피지컬AI’ 정조준, 정부에 예산 요청
GPU 전남 이후 전략 선회…“실증 기반 기업 유치, GPU보다 클 것”
광주시가 GPU(그래픽처리장치) 기반 초대형 컴퓨팅 인프라인 국가AI 컴퓨팅센터가 전남으로 확정되면서 국산 인공지능 반도체인 NPU(신경망처리장치)에 방점을 둔 국가 NPU 전용 컴퓨팅센터 유치를 내세우고 있다. GPU(학습) 중심에서 NPU(추론) 중심으로 전략의 무게를 옮기며 지역의 AI 생태계를 지켜내겠다는 판단이다. AI 모델은 GPU로 학습을 끝낸 뒤 서비스 단계로 들어가면 대량의 추론 처리가 필요해지는데, 광주는 이러한 ‘추론 중심’ 산업에서 국산 AI 반도체 실증 역량을 기반으로 차별적인 역할을 확보할 수 있다는 점을 강조하고 있다.
전남이 GPU 학습 인프라의 거점이라면, 광주는 NPU 추론 인프라의 중심이 되는 새로운 AI 도시 모델을 내놓고 있다.
16일 광주시에 따르면 AI 산업에서 GPU는 여전히 대규모 모델을 학습하는 데 필수적인 인프라다. 하지만 실제 서비스 환경에서는 사용자 수요에 따라 수없이 많은 추론 연산이 필요해지고, 이 과정에서 전력 효율성과 응답 속도가 핵심 경쟁력으로 떠오른다. 특히 생성형 AI의 급성장으로 서비스 단계의 연산량이 폭증하면서, 글로벌 기업들도 모바일·엣지·로봇 분야에서 NPU 중심 구조로 빠르게 이동하고 있다.
광주는 이러한 산업 변화에 맞춰 학습을 담당하는 GPU 인프라는 전남이 가져가더라도, 추론을 담당하는 NPU 기반 생태계를 광주가 주도한다면 광주가 AI 패권을 주도할 수 있다고 내다보고 있다.
광주가 구상하는 NPU 컴퓨팅센터는 AI 모델을 학습할 때 주로 활용하는 GPU와 달리 이미 학습된 모델이 자율주행과 IoT(사물인터넷) 등 실제 환경에서 빠르고 효율적으로 작동하도록 돕고, 광주 전역에서 실증을 통해 기업들을 유치하는 역할을 수행할 것으로 보인다. 기업들이 각자 필요한 조건에 맞춰 추론 인프라를 활용하고, 실증-검증-적용을 한 도시 안에서 처리할 수 있는 구조를 형성하면 삼성SDS 컨소시엄이 단독입찰한 AI컴퓨팅센터의 기능보다 더 많은 역할을 할 것으로 기대하고 있다.
광주시는 이처럼 국산 AI 반도체의 전주기 검증·실증을 지역 내에서 일괄 처리할 수 있는 도시는 전국에서도 광주가 유일하다고 설명한다. 이는 곧 NPU 컴퓨팅센터가 ‘AI 활용 중심도시’로서 광주를 규정하는 핵심 인프라가 될 수 있다고 자신하는 이유다.
광주는 최근 ‘피지컬 AI(Physical AI)’를 핵심 전략으로 내세우고 있다. 이는 AI가 텍스트·이미지 생성에 머무르지 않고 실제 물리적 세계에서 움직이고 판단하는 영역으로 확장해 휴머노이드·로봇·자율주행·전력망 운영·스마트 공장 등에 활용할 계획이다.
광주의 산업 구조는 자동차 산업이 지역 제조업 매출의 40% 이상을 차지하고, 최종 조립 공장을 포함한 완성차 생산 기반과 로봇·센서·기계부품·정밀가공 기업들이 200여 개 이상 분포하고 있어 핵심 부품 공급망 강화에 NPU가 핵심 역할을 할 것으로 광주시는 기대한다.
이를 위해 광주시는 국가 NPU 전용 컴퓨팅센터를 설립해 줄 것을 정부에 공식 제안한 이후 타당성 조사 등에 필요한 예산 20억 원 반영을 요청한 상태다. 예산은 NPU 컴퓨팅센터 설립을 위한 기초 사업비로 국내·해외 NPU시장, 관련 기업 등의 기술성, 광주에 설치할 경우 부지 적정성, 전력 수급 방안, 냉각방식(공냉식·수냉식), 총 사업예산 수립 등의 연구에 사용될 것으로 보인다.
광주시는 NPU 컴퓨팅센터를 유치할 경우 GPU 중심의 AI컴퓨팅센터보다 더 많은 기업이 광주에 올 것이라 확신하고 있다. 2조 5000억 원 규모의 국가 AI컴퓨팅센터도 일자리가 20명 고용에 그치는 반면 추론을 위한 NPU컴퓨팅센터는 실증을 위해 기업 유치 효과도 클 것으로 분석하고 있다.
오상진 광주 인공지능산업융합사업단장은 “GPU 인프라를 통해서 학습이 이뤄지면 그 다음 단계는 실제로 활용하는 추론 단계로 넘어가야 한다”며 “NPU 관련해서 경험치가 광주가 많기 때문에 장래적인 상황으로 봐서 향후 2~3년을 봐서 지금 당장 준비하는 것은 정말로 적절하다”고 말했다.
최태조 광주시 인공지능산업실장은 “용역을 통해서 적정한 NPU 데이터센터 규모 등을 확인해서 추진해 나갈 계획이다”며 “NPU는 더 많은 기업이 올 거다. 그렇게 올 수밖에 없는 구조다”고 밝혔다.
전경훈 기자 hun@gjdream.com