AI 인프라 경쟁력 제고 국산 NPU 육성에 50조원 투자 발표범용성 낮은 NPU 도입은 제한적인 수준, 기술검증에 그쳐모델 제작·학습보다 서비스 시장 대비, 상용화 단계 주목
  • ▲ ⓒ과학기술정보통신부
    ▲ ⓒ과학기술정보통신부
    정부가 주도하는 국산 NPU 육성과 확산 전략이 구체적인 실행계획 발표로 추진 동력을 얻고 있다. 그러나 GPU 중심으로 설계된 AI 인프라 생태계와 산업 구조를 단기간에 바꾸는 것은 무리라는 평가가 나온다.

    25일 업계에 따르면 과학기술정보통신부는 AI반도체 산업 생태계 활성화를 목표로 하는 ‘K-엔비디아 육성 프로젝트’를 통해 국산 NPU 산업 육성 계획을 발표했다. 글로벌 AI 시장을 주도하는 GPU 대신 차세대 NPU 기술을 확보해 대응하겠다는 취지다.

    GPU는 그래픽 렌더링을 위한 범용 연산 장치로, AI 모델을 제작하고 학습시키는 데 최적화됐다. AI 외에도 시뮬레이션 등 모든 분야에 활용 가능한 범용성을 갖춘 반면, 가격이 비싸고 막대한 전력량 소모와 발열 문제가 발생하는 것이 단점이다.

    NPU는 인공신경망의 연산 방식에만 특화시켜 하드웨어 구조를 설계한 가속기로, 학습된 모델을 실행해 결과를 내놓는 추론 단계에서 압도적인 효율을 보이는 것이 특징이다. 전력 소모량이 GPU 대비 절반 수준이면서 가격 경쟁력도 갖췄지만, 설계된 용도 외 연산처리가 불가하다는 범용성에서 한계가 있다.

    정부 정책은 AI 인프라 경제성·효율성을 제고하는 차원이다. 데이터센터 구축과 하드웨어 구매비용을 충당하고, 기업 컴퓨팅 자원 제공 등에 연간 10조원씩 향후 5년간 총 50조원을 투자하겠다는 복안이다. 국산 NPU를 공공부문에 우선 도입하고, 국가 AI 컴퓨팅 센터에 국산 NPU 비중 확대를 추진하는 등 활성화를 위한 마중물 역할을 하겠다는 것.

    GPU를 앞세운 엔비디아 독주에 대응하기 위한 NPU 개발과 도입이 활발하게 진행 중인 글로벌 시장 흐름과도 부합한다.

    AWS(아마존웹서비스)와 MS(마이크로소프트) 등 글로벌 CSP(클라우드서비스사업자)들은 자체 NPU를 고객 서비스에 도입하고 있다. 클로드 모델 학습에 아마존은 자체 NPU ‘Trainium’을 도입하고, MS는 코파일럿에 ‘Maia’를 적용한 것이 대표적이다.

    NPU를 직접 도입하는 CSP들도 정부 드라이브에 발맞추고 있다. 국내 팹리스 업체들의 시장 진출을 지원하기 위한 레퍼런스(실증사례) 확보 차원에서 데이터센터에 NPU를 접목하는 ‘K-클라우드 프로젝트’를 수행 중이다. 이 중 KT클라우드는 국산 NPU를 활용한 AI 추론 서비스를 상용화하기도 했다.

    다만 GPU 생태계가 갖춰진 상황에서 NPU 도입은 제한적인 수준에 그치고 있다. AI 학습용 등 범용성 측면에서는 GPU가 우세할뿐만 아니라 소프트웨어 생태계가 뒷받침되지 않았기 때문. 국산 NPU는 AI 개발자들이 전용 SDK(소프트웨어 개발 키트)를 익혀야 하며, 별도 최적화 과정도 거쳐야 하는 불편함이 있다.

    클라우드 업계 관계자는 “효율적 추론을 위한 연산에서도 GPU가 NPU 대비 높은 최적화를 갖추고 있다”며 “엔비디아 소프트웨어 플랫폼 ‘CUDA’ 생태계가 AI 개발과 인프라 분야에서 시장을 주도하고 있어 대규모 학습과 추론 시장에서 GPU의 지배적 위치를 바꾸기는 쉽지 않다”고 전했다.

    정부의 적극적인 정책 드라이브에도 NPU 확산에 의문 부호가 붙는 이유다. CSP들의 NPU 도입 비중은 대외비이나, 업계에서는 전체 인프라 대비 비율이 한 자릿수 수준인 것으로 보고 있다. 저렴한 비용에도 불구하고 고객사들 입장에서도 국산 NPU에 대한 선호도가 높다고 보기는 어렵다는 얘기다.

    업계 관계자는 “정부의 NPU 산업 육성 정책은 학습 시장보다는 AI 서비스 시장에서 가성비를 무기로 주도권을 가져오겠다는 것으로 해석된다”며 “NPU 실증을 넘어선 상용 도입 단계에서 대형 발주를 선점하는 기업이 어느 곳으로 선정될지가 관건으로 보인다”고 말했다.