통신사 앞다퉈 AIDC 오픈, 고성능 GPU 확보가 관건美 파트너 통한 H200 도입 경쟁 SKT-람다, KT-MS GPU 경쟁 장기화 전망… LG유플러스·삼성SDS도 참전
  • ▲ 엔비디아 H200 GPUⓒ엔비디아
    ▲ 엔비디아 H200 GPUⓒ엔비디아
    이동통신사가 미래 먹거리로 인공지능(AI)을 화두로 내세우면서 AI 데이터센터(AIDC)의 핵심인 엔비디아 최신 AI 칩 확보에 사활을 걸고 있다. AIDC는 AI에 필수인 대규모 그래픽처리장치(GPU)를 갖춰 리소스를 대여하는 서비스(GPUaaS)를 제공하는 것이 핵심이기 때문이다.

    관전 포인트는 이를 얼마나 고도화·효율화할 수 있느냐다. SK텔레콤과 KT는 엔비디아의 고성능 AI칩인 호퍼시리즈의 최신형 H200을 도입한다는 계획이지만 전세계적 품귀를 겪고 있는 이 모델을 얼마나 확보할지는 여전히 불투명하다.

    10일 통신업계에 따르면 SK텔레콤, KT 등은 엔비디아 AI 칩셋 H200의 확보에 다양한 노력을 기울이고 있다.

    H200은 현재까지 국내 AIDC에서는 도입되지 않은 최신 GPU다. 이전에 출시된 H100 대비 두 배 이상의 성능을 발휘하는 것으로 평가되고 있다.

    이제 막 AIDC 사업을 추진하는 통신사 입장에서는 AIDC의 성능과 효율의 고도화를 위해 최신 GPU의 확보가 최우선 과제로 떠오르는 중이다. 

    AIDC 사업은 대량의 GPU 서버를 구축해 클라우드 환경에서 GPU의 성능을 대여하는 GPUaaS가 핵심이다. 여기에서 경쟁력을 확보하기 위해서는 고성능, 고효율이 필수적이다. GPU의 성능이 올라갈수록  대규모 언어 모델 작업 처리 속도가 늘어나 에너지 효율 증가, 냉각 비용 감소, 프로젝트 주기 단축 등 이익과 직결되는 효과를 얻을 수 있다.

    문제는 H200 확보가 쉽지 않다는 점이다. 현재 H200은 글로벌 수요가 폭발적으로 늘어나 웃돈을 주고도 구하기 힘들 정도의 품귀를 겪는 상황이다. 국내 AIDC에서도 H200 도입 사례도 전무하다. 

    SK텔레콤은 최근 오픈한 가산 AIDC에 H100을 배치했고 KT는 A100으로 대덕 AIDC를 구축했다. A100은 H100의 이전세대 모델로 성능이 절반 이하다. 

    AI를 미래 먹거리로 제시한 통신사에게 있어 H200 확보가 절실한 이유다. 현재 양사는 그야말로 AI 관련 사업에 천문학적 투자를 예고하고 있다. SK텔레콤은 SK브로드밴드와 AIDC에 2029년까지 3조4000억원을 투자할 계획이고 같은 기간 KT는 마이크로소프트(MS)와 AI 사업에 2조4000억원을 투자하기로 했다.

    H200의 확보 역시 그야말로 ‘쩐의 전쟁’이 펼쳐지는 격전지다. 현재 가장 선제적 도입이 유력한 곳은 SK텔레콤이다. SK텔레콤은 오는 3월 H200을 도입하기로 예고해둔 상태다. 미국 GPU 클라우드 회사인 람다(Lambda)와 맺은 파트너십을 통한 구매가 주효했다. SK텔레콤은 지난해 1월 람다에 2000만달러(약 292억원)을 투자한 바 있다. 람다는 엔비디아의 GPU 수급 역량 면에서는 글로벌 최고 수준으로 평가받는 곳이다.

    KT는 마이크로소프트(MS)를 통한 H200 공급을 추진 중이다. KT는 지난해 10월 마이크로소프트(MS)와 AI 협력을 체결한 바 있다. MS는 엔비디아의 가장 큰 고객사다. 올 상반기에만 AIDC에 800억달러(약 118조원)을 투자하기로 한 상황. KT는 이 과정에서 일부 H200 물량을 국내로 받을 예정이다. 

    양사가 도입할 H200의 수량은 공개되지 않았다. 이 때문에 업계에서는 일부 H200의 도입에 성공하더라도 수급 문제가 장기적인 과제로 남을 가능성이 높은 것으로 보고 있다. 나아가 엔비디아 차세대 아키텍처 블랙웰의 B100 등 신제품에 대한 확보 경쟁도 일찌감치 예고되고 있다. 반면 수요는 급증하는 중이다. 

    LG유플러스가 파주에 AIDC를 2027년 오픈할 예정이고 삼성SDS도 구미 AIDC를 추진 중이다.

    업계 관계자는 “비용이 더 비싸지더라도 작업을 빨리 끝낼 수 있는 만큼 이득이기 때문에 AIDC의 GPU 성능은 고객을 확보할 수 있는 가장 큰 경쟁력”이라며 “AIDC 역시 규모의 경제가 작용하기 때문에 얼마나 대량의 고성능 GPU를 확보하는지가 관전 포인트가 될 것”이라고 전했다.

    한편, AIDC가 늘어나면서 GPUaaS는 세계적으로 고성장 중이다. 시장조사기관 포춘 비즈니스 인사이트에 따르면 글로벌 GPUaaS 시장 규모는 매년 35.8% 성장해 올해 43억1000만달러에서 2032년 498억4000만달러(약 70조원)에 이를 전망이다.