흔들리는 엔비디아, 글로벌 반도체 지형 전환점 성큼

AI 시장의 판도가 바뀌면서 삼성전자와 SK하이닉스가 전략적으로 전환점을 맞이했다. 엔비디아 중심의 단일 생태계가 흔들리고 구글 TPU 등 대안이 부상하는 가운데, AI 성능 경쟁이 더 많은 연산을 해내는 능력보다 메모리 처리 능력에 좌우되는 구조로 빠르게 이동하고 있기 때문이다. 이 변화로 HBM(고대역폭메모리) 수요가 급증하면서 두 회사의 기술력과 공급 전략이 향후 AI 인프라 시장의 주도권을 결정짓는 핵심 변수로 떠오르고 있다.

26일 반도체업계에 따르면 메타플랫폼스가 엔비디아 AI 반도체 대신 알파벳 산하 구글이 자체 개발한 AI 칩인 TPU(텐서 처리장치) 사용을 검토하고 있는 것으로 알려지면서 AI 반도체 시장 판도에 변화가 감지된다.

엔비디아의 독주는 이에 앞서서도 이미 균열이 보이기 시작했다. 차세대 GPU 출하 지연, 가격 프리미엄 확대, 특정 제조사 쏠림에 대한 CSP들의 부담이 누적되면서 시장은 빠르게 다변화 조짐을 나타냈다. GPU 중심 구조가 완전한 병목에 들어서자 글로벌 빅테크들은 새로운 선택지를 찾기 시작했고 이 틈을 구글 TPU가 파고들었다. TPU는 특정 AI 연산에 최적화돼 전력 효율과 데이터 처리 효율이 높다는 평가를 받는다.

더 중요한 변화는 시장 참여자가 늘어나는 것이 아니라 AI 인프라의 '성능의 기준' 자체가 바뀌고 있다는 점이다. AI 모델의 크기와 연산량이 폭발적으로 커지면서 GPU가 아무리 많은 연산을 처리해도 메모리가 데이터를 제때 공급하지 못하면 성능이 급격히 떨어지는 구조가 됐다. 이에 따라 AI 서버의 핵심 경쟁력이 '칩을 얼마나 빠르게 만들었느냐'에서 'HBM을 얼마나 안정적으로, 얼마나 많이 공급할 수 있느냐'로 이동하는 흐름이 뚜렷해졌다.

이런 상황에서 HBM 시장 1위 SK하이닉스는 다시 한 번 전략적으로 변곡점을 맞았다. SK하이닉스는 4세대 HBM인 HBM3E 수율과 성능 경쟁에서 우위를 확보하며 엔비디아 생태계의 핵심 벤더로 올라섰다. 글로벌 AI 서버 시장이 성장한 지난 2년간 하이닉스의 가치는 사실상 엔비디아와 동반 상승하는 구조였다. 하지만 엔비디아 중심 구도가 완화되면 SK하이닉스가 그동안 유지했던 '엔비디아 절대우위'가 일부 조정될 수 있는 상황에 처하는 셈이다.

그럼에도 이번 변화가 HBM 공급사들에게 단기 위험보다 장기적인 기회가 될 것이라는 평가가 지배적이다. AI 가속기 시장이 TPU, ASIC, AMD로 다변화되면 SK하이닉스는 특정 고객 중심 벤더가 아니라 모든 AI 시스템에서 요구하는 'HBM 기본값(Default vendor)'에 가까운 지위를 확보할 여지가 높아질 수 있다.

특히 TPU 계열은 GPU보다 메모리 요구치가 훨씬 높아 HBM4를 조기 공급할 수 있는 능력이 새로운 기준이 될 것으로 예상된다. AWS, 마이크로소프트, 구글 등이 2년 뒤인 2027년 HBM까지 조달하는 방안을 논의하는 것도 이와 같은 맥락이다. 차세대 HBM을 선점하기 위해 속도를 높이는 고객사들에겐 더 빠르게, 더 안정적으로 HBM4를 양산하고 공급할 수 있느냐가 메모리 공급사를 결정하는 최우선순위가 될 것으로 보인다.

삼성전자 역시 이같은 흐름 속에서 HBM을 중심으로 메모리 사업 전략을 재정비하는 과정에 한창인 것으로 보인다. 삼성은 HBM3E 초기 대응이 늦어지면서 엔비디아 검증에서 예상보다 시간을 소요했지만 시장이 엔비디아 중심에서 벗어나기 시작한 지금, 오히려 삼성이 다시 기회를 맞이할 좋은 환경이 조성되고 있다.

그 중심에는 구글 TPU가 있다. 삼성은 구글과 스마트폰 AP, 서버 DRAM, SSD 등 다양한 분야에서 협력해온 경험이 있고 TPU는 메모리 처리량과 대역폭 요구가 특히 강해 메모리·파운드리·패키징 모두를 갖춘 삼성과의 협업이 절실할 수 밖에 없다.

삼성은 차세대 제품인 HBM4, HBM4E 개발에서 수직계열화 강점을 바탕으로 맞춤형 HBM 공급 전략을 펼칠 수 있는 기반을 갖췄다. 엔비디아 중심 표준을 따라가는 방식에서 벗어나 TPU·CSP용 특화 HBM과 CXL 메모리, AI 가속 전용 PIM 기술 등을 조합하는 전략으로 영역을 넓힐 수 있다. 한마디로 엔비디아라는 단일 플랫폼을 좇는 대신 새롭게 형성되는 AI 가속기 생태계에서 기술 조합을 고객사에 먼저 제시하는 방식으로 기존과는 차별화된 경쟁력을 드러낼 수 있다는 의미다.

또한 삼성은 글로벌 CSP들과의 장기 공급 협상을 추진해 안정적 물량 기반을 확보하는데도 중점을 두고 있다. 이는 엔비디아 검증 일정에 좌우되지 않는 별도 트랙을 마련한다는 의미이기도 하다. TPU 사용 확대가 삼성의 재부상을 견인할 것이란 전망이 힘을 얻는 이유다.

반도체업계에서는 이번 AI 대전 2라운드가 엔비디아와 구글의 대결을 넘어 삼성전자와 SK하이닉스가 AI 인프라 시장에서 어떤 새로운 자리를 차지할지 판가름될 것으로 본다. 더 이상 칩의 연산 속도만으로 경쟁력이 결정되는게 아니라 누가 HBM4를 가장 빠르고 안정적으로 공급하느냐, 그리고 누가 다양한 가속기 생태계와 결합해 새로운 표준을 만들 수 있느냐가 AI 대전 2라운드의 승패를 가르게 될 전망이다. 삼성전자와 SK하이닉스가 맞이한 이번 전략 전환점은 한국 메모리 산업이 글로벌 AI 생태계의 주도권으로 다시 진입할 수 있는 중요한 출발점이 될 것으로 보인다.