AI칩 판도 바뀔까… 삼성 비밀병기 '마하-1' 관심 고조

삼성전자가 개발 중인 대규모언어모델(LLM)용 AI(인공지능) 칩 '마하(Mach)-1'에 대한 관심이 높아지고 있다. 

마하-1은 AI(인공지능) 추론칩 중 하나로 삼성전자의 첫 번째 AI 반도체가 될 전망이다. 이를 통해 AI 신시장 개척을 이끌 수 있을지 이목이 집중된다. 

8일 관련업계에 따르면 삼성전자는 '마하-1'에 이어 다음 세대 제품인 '마하-2' 개발에 나선다.

'마하-1'은 지난달 삼성전자 주주총회에서 경계현 삼성전자 사장이 개발중인 사실을 언급하면서 화제를 모았다. 삼성전자는 2022년 12월부터 네이버와 AI 반도체 솔루션 개발 협력을 본격적으로 시작했다. 프로그래머블반도체(FPGA)으로 기술 검증을 완료한 후 현재 시스템칩(SoC) 디자인 작업을 진행하고 있다.

최근에는 마하-2 개발도 시사했다. 경 사장은 자신의 사회관계망서비스(SNS)에 "마하1에 대한 고객들의 관심이 증가하고 있다"며 "생각보다 더 빠르게 마하-2 개발이 필요한 이유가 생겼다. 준비를 해야겠다"고 밝혔다. 

마하-1은 그래픽처리장치(GPU)와 메모리 사이에서 나타나는 연산 '병목 현상'을 줄여주는 일종의 반도체 솔루션이다. 

삼성전자가 개발하고 있는 '마하-1'은 AI 추론용 반도체다. AI 반도체는 AI 모델을 학습하고 대규모 데이터 세트를 처리하는 학습용 반도체와 특정 AI 모델로 예측 결과를 출력하는 추론용 반도체로 나뉜다. 

추론형 AI 반도체는 학습된 인공지능 모델을 사용해 새로운 입력에 대한 출력을 생성하기 위해 적은 데이터와 간단한 수학적 연산을 빠르고 저전력으로 처리할 수 있는 성능을 요구한다. 

그동안 데이터센터에 주로 활용됐던 CPU(중앙처리장치)의 연산처리는 명령어를 순서대로 처리하는 '직렬'이지만 GPU는 여러 명령어를 동시에 처리하는 '병렬' 방식을 활용한다. AI는 복잡한 계산보다 반복적인 학습을 통해 대량의 데이터를 한 번에 처리해야 하기에 GPU 수요가 늘어날 수밖에 없었던 것이다.

하지만 GPU는 고사양 그래픽 게임용 칩이었지 AI를 위한 반도체가 아니었기에 가격과 전력 면에서 비효율적이라는 지적이 잇따랐다. 지난달 엔비디아가 새로운 아키텍처(프로세서 작동방식) '블랙웰'을 적용해 선보인 AI 칩 'B200'의 가격만 해도 3~4만달러(약 4000~5400만원)에 달한다. AI 인프라 구축을 위해선 수십만개의 GPU가 사용되는 만큼 고객사들은 천문학적인 금액을 지출해야 한다. '마하-1'이 대안이 될 수 있다는 분석도 나오는 이유다.

현재 이 시장은 미국의 엔비디아가 지배하고 있는데 '마하-1'의 본격적인 양산이 이뤄지게 되면 삼성전자로서는 엔비디아에 도전장을 내미는 셈이다. 

'마하-1'은 메모리 처리량을 8분의 1로 줄이고, 8배의 전력효율을 목표로 개발중인 AI 가속기로 HBM이 필요없이 저전력(LP) 메모리만으로도 거대언어모델(LLM) 추론이 가능한 것으로 알려졌다. 가격도 엔비디아 제품보다 10분의 1 수준에 불과해 경쟁력이 있을 것으로 예고되고 있다. 

삼성전자는 네이버에 마하-1 공급을 위한 논의를 진행 중이다. 네이버는 마하-1의 안전성 테스트를 올해 안으로 진행할 계획으로 공급 규모는 15만~20만개에 달할 전망이다. 가격은 개당 500만원 수준으로 전망되고 있다.

다만 AI 생태계에서 엔비디아의 입지가 강한 만큼 '마하-1'의 시장 진입에 걸림돌이 될 수 있다는 관측도 제기된다.  

한편 시장조사업체 옴디아에 따르면 지난해 60억 달러이던 추론용 AI 가속기 시장 규모는 2030년 1430억 달러로 확대가 예상됐다. 2025년 기준 AI 가속기 중 추론용 비중은 78%로 학습용(22%)의 세 배가 될 것이라는 조사 결과도 있다.