K-메모리 위상이 달라졌다 … 엔비디아 '벤더'서 ‘파트너’로

인공지능(AI) 반도체 시장의 급성장 속에서 한국 메모리 반도체 기업의 위상이 근본적으로 달라지고 있다. 과거 GPU 업체가 요청하는 규격에 맞춰 제품을 공급하는 전통적 벤더 역할에 머물렀던 메모리 기업들은 이제 GPU 설계 단계부터 참여하는 전략 파트너로 자리매김하고 있다.

23일 반도체 업계에 따르면 젠슨 황 엔비디아 최고경영자(CEO)는 최근 실적 콘퍼런스콜에서 “과거 AI는 메모리를 거의 사용하지 않았지만, 지금은 기억해야 할 정보가 기하급수적으로 늘었다”며 “메모리 파트너들과 함께 내년 큰 한 해(a big year)를 준비하고 있다”고 말했다. ‘메모리 파트너’라는 표현은 공급사(supplier)가 아닌 공동 설계(co-designer)를 지칭한다는 점에서 산업 질서의 변화를 보여주는 신호로 읽힌다.

엔비디아는 HBM(고대역폭메모리), GDDR, LPDDR 등 다양한 메모리를 삼성전자·SK하이닉스·마이크론으로부터 공급받고 있다. 특히 AI가속기 설계가 복잡해지면서 GPU 성능의 절반 이상을 메모리 구조가 결정한다는 평가가 나오나.

전통적으로 메모리 경쟁은 수율과 생산량, 단가 중심이었다. 하지만 AI 시대에는 메모리가 GPU·CPU·가속기 패키지 내부에서 단일 시스템으로 통합되며 구도가 크게 달라졌다. AI 가속기 내부에서 메모리는 단순한 ‘보조 저장장치’가 아니라, 연산 성능 자체를 좌우하는 핵심 자원이 됐다.

엔비디아가 강조하는 ‘Co-Design’은 GPU와 메모리를 별개가 아니라 하나의 아키텍처로 설계하는 개념이다. 반도체 업계 관계자는 “HBM 시대가 열린 뒤 DRAM 경쟁은 더 이상 웨이퍼 한 장을 잘 뽑는 수준이 아니다”라며 “인터포저 설계, 발열·전력 최적화, 스택 구조 조정 등 시스템 전체를 다루는 역량이 핵심이 됐다”고 말했다.

실제로 최근 엔비디아가 출시한 블랙웰(Blackwell) 기반 GB300 칩은 이전 세대보다 메모리 요구치가 더 높다. 클라우드 GPU 수요도 최대치를 기록하고 있으며, 데이터센터 부문 매출은 3분기 512억 달러로 전년 대비 66% 증가했다. 이 과정에서 GPU의 성능을 온전히 발휘하려면 메모리 기업이 초기 설계부터 개입해야 한다는 요구가 커지고 있다.

내년 본격화될 엔비디아의 차세대 AI가속기 ‘루빈(Rubin)’과 HBM4(6세대)는 메모리–가속기 공동 설계의 전환점을 의미한다. HBM4는 기존 HBM3E보다 I/O(입출력단자)가 1024개에서 2048개로 두 배로 늘어난다. 이 과정에서 로직다이(Base Die)는 기존 DRAM 공정에서 벗어나 파운드리 공정에서 제작된다.

이는 메모리 생산 기업이 단순한 D램 제조사가 아니라 시스템 반도체 기업과 협업하는 파운드리-레벨 경쟁자가 된다. 삼성전자와 TSMC, 인텔만이 대응 가능한 2나노 시대가 열리면서 삼성전자는 자체 파운드리와 메모리 생산 역량을 결합할 수 있는 기회를 찾고 있다.

SK하이닉스는 이미 HBM4 시제품을 엔비디아·AMD·인텔에 공급하며 검증을 진행 중이다. 시장 점유율 64%를 차지한 HBM 강자로서, 내년 루빈 칩과의 조합도 유력하다.

HBM4 가격은 HBM3E보다 50% 가까이 높아질 것으로 예상된다. 이는 AI 인프라 투자가 구조적으로 확대되고 있음을 보여주는 지표다. 실제 글로벌 빅테크 기업들은 2027년까지의 메모리 물량을 ‘입도선매’하고 있는 것으로 알려졌다.

HBM 외에도 메모리 수요는 전방위로 늘었다. 엔비디아의 새로운 데이터센터 CPU ‘베라(VERA)’는 차세대 메모리 모듈 ‘소캠(SOCAMM)’을 채택하면서 LPDDR 칩 256개가 들어간다. 기존에는 스마트폰 중심이었던 LPDDR이 서버·AI 인프라로 확장되는 셈이다.

GDDR 역시 AI PC·AI 엣지 기기의 수요 증가로 확보 경쟁이 심화되고 있다. 이처럼 AI 생태계 전반에서 메모리 구조가 빠르게 변하면서 한국의 메모리 경쟁력이 글로벌 시스템 반도체 혁신과 직결되는 국면이 도래했다.

반도체 업계 관계자는 “AI 시대에는 GPU만 잘 만든다고 끝이 아니다. 메모리·패키징·전력 최적화가 함께 맞물려야 한다”며 “한국 기업의 역할이 구조적으로 커지고 있다”고 말했다. 이 관계자는 "다만 공급사 간 격차 확대, 고객 의존도 증가, 급격한 공정 전환 비용 등 리스크도 공존한다"며 속도조절 필요성도 언급했다.