SKT-Arm-리벨리온, 차세대 AI 인프라 전략적 파트너십 체결CPU·NPU 결합 AI 추론 서버 설루션 공동 개발SKT, 자사 AI DC에 해당 설루션 성능·안정성 검증
  • ▲ ⓒSK텔레콤
    ▲ ⓒSK텔레콤
    AI 산업의 무게중심이 모델 개발을 위한 ‘학습’에서 실제 서비스 구현을 위한 ‘추론’으로 이동하면서, AI 데이터센터(DC)의 인프라 설계 방식에도 대대적인 변화가 예고되고 있다. 

    SK텔레콤은 지난 9일 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 10일 밝혔다.

    이번 협약을 통해 3개사는 Arm이 새롭게 출시한 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 ‘리벨카드(RebelCard™)’를 서버에 같이 탑재해 AI 추론 성능을 높일 수 있는 설루션을 공동 개발하고 SK텔레콤의 AI데이터센터에서 실증하기로 했다.

    그동안 AI 연산의 핵심은 막대한 처리 능력을 갖춘 GPU가 담당해 왔다. 그러나 365일 실시간 응답이 필요한 ‘추론’ 단계에서 GPU를 사용하는 것은 과도한 전력 소모와 비용을 야기한다는 지적이 있어 왔다. 마치 소량의 택배를 대형 트럭으로 운반하는 것과 같은 비효율이 발생하기 때문이다.

    3사는 이러한 문제를 해결하기 위해 Arm의 ‘AGI CPU’와 리벨리온의 NPU인 ‘리벨카드(RebelCard™)’를 하나로 묶는 ‘이종 컴퓨팅(Heterogeneous Computing)’ 구조를 채택했다. CPU가 데이터 입출력과 시스템 관제탑 역할을 수행하고, NPU가 AI 추론 연산을 전담함으로써 전력 효율은 높이고 운영 비용은 획기적으로 낮추는 설계다.

    이번 협력은 단순한 기술 개발을 넘어 실제 상용화 단계까지 겨냥하고 있다. SKT는 공동 개발한 서버 설루션을 자사 AI 데이터센터에 우선 도입해 성능과 안정성을 철저히 검증할 방침이다. 

    특히 SKT가 독자적으로 개발한 파운데이션 모델인 ‘에이닷엑스 케이원(A.X K1)’을 해당 서버에서 구동하는 방안도 유력하게 검토 중이다.

    Arm과 리벨리온은 이미 지난 3월 진행된 ‘Arm 에브리웨어(Arm Everywhere)’ 행사에서 각 사의 칩을 결합하여 오픈 AI의 언어모델인 GPT OSS 120B 기반의 에이전틱 AI 서비스를 실시간으로 시연하며, 대규모 데이터센터에서의 상용화 가능성을 보여줬다.

    이재신 SKT AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다”고 말했다.