갈길 먼 韓 AI 반도체 성능... 美 엔비디아 '35분의 1'

미국 엔비디아의 최신 인공지능(AI) 반도체가 현지에서 품귀 현상을 빚고 있다. 이에 한국 AI 개발사들이 자체 반도체를 적극적으로 사용하고 있으나 엔비디아 제품 대비 성능이 수십 배 낮아 미국 빅테크에 경쟁력이 뒤처질 수 있다는 우려가 제기된다.

18일 SK텔레콤에 따르면 회사는 2028년까지 ‘글로벌 AI 기업’으로 도약해 매출 25조를 목표하고 있다. 유영상 SK텔레콤 대표는 이를 위해 ‘AI 피라미드 전략’을 추진, 회사의 AI 반도체 자회사 ‘사피온’의 차세대 추론용 AI 칩 ‘X330’을 데이터센터에 적극 활용하겠다고 밝혔다.

SK텔레콤은 올해 말 출시 예정인 ‘X330’ 칩이 “경쟁사의 최신 추론용 모델 대비 연산 성능 약 2배, 전력 효율도 1.3배 우수하다”고 자신감을 내비쳤다.

SK텔레콤은 해당 경쟁사가 어느 곳인지 밝히지 않았으나 사피온의 제품은 미국 엔비디아의 최신 AI 반도체 ‘H100’ 대비 성능이 35배 낮은 것으로 확인됐다. 

사피온의 공식 홈페이지에 따르면 X330의 한 단계 아래 제품인 X220의 8비트 정수 데이터 처리 속도는 87 TOPS(Tera Operations Per Second)다. 

엔비디아의 H100 제품 3종 중 제일 성능이 낮은 H100 PCIe의 경우 8비트 정수 데이터 처리 속도가 3026 TOPS다. 이는 X220의 34.7배에 달한다. 올해 말 출시되는 X330의 성능은 X220의 4배로 알려졌으나 이 역시 H100 PCIe의 성능을 따라잡기엔 역부족이다.

TOPS는 AI 반도체의 성능을 측정하는 대표적인 지표로, 1초당 1조번의 AI 연산을 한다는 뜻이다. 엔비디아의 H100 PCIe은 초당 3026조번, 사피온의 X220은 초당 87조번의 AI 연산이 가능하다는 것을 의미한다.

KT의 자체 AI 반도체도 H100 대비 성능이 24배 낮은 것으로 확인했다. KT는 ‘AI 풀스택’ 전략의 일환으로 지난해 국내 AI 반도체 스타트업 ‘리벨리온’에 300억원을 투자했다. 

KT클라우드를 중심으로 적극 사용되고 있는 리벨리온의 ‘아톰’ 칩의 8비트 정수 데이터 처리 속도는 128 TOPS다. 이는 엔비디아의 H100 PCIe보다 24.6배 부족한 성능이다.

네이버가 투자하고 카카오와 협력하고 있는 국내 AI 반도체 스타트업 퓨리오사AI는 내년 2분기 엔비디아 H100 성능에 버금가는 2세대 AI 반도체를 출시할 예정이다. 하지만 퓨리오사AI의 현 1세대 AI 반도체 ‘워보이’의 성능은 최대 64 TOPS로 알려져 H100에 크게 못 미치는 상태다.

업계 관계자는 “H100 반도체는 가격도 가격이지만 없어서 못 구하는 상황”이라면서도 “국내 기업 중 H100을 1000개 이상 확보한 곳도 있어서 불가능하진 않기 때문에 성능을 위해서라도 선제적으로 H100을 확보해야 한다”고 말했다.