"AI 성장 핵심은 메모리" … 거품론에도 K-반도체가 주목받는 까닭

AI 산업의 성장 속도를 결정하는 키를 쥔 것이 GPU나 파운드리가 아니라 '메모리'라는 분석이 나와 주목받는다. 그동안 업계와 시장에서는 GPU 공급난과 파운드리 증설 한계가 AI 산업 성장을 가로막는다는 인식이 지배적이었지만 최근에는 이보다도 메모리와 함께 전력이나 냉각 같은 인프라를 얼마나 더 확보하느냐가 관건이 될 것이란 전망이 힘을 받고 있다.

13일 반도체업계에 따르면 최근 글로벌 AI 산업 분석가 이그나시오 데 그레고리오(Ignacio de Gregorio)가 SNS를 통해 "TSMC가 AI의 병목이라는 인식은 이미 낡았다"며 "진짜 제약은 메모리와 전력·냉각 인프라에 있다"고 지적했다.

이어 "대부분의 시장 참여자들은 AI 서버 구조를 깊이 들여다보지 않는다"며 "그래서 메모리의 중요성을 제대로 이해하지 못한 채 반쪽짜리 투자만 계속하고 있다"고 비판했다. GPU와 파운드리에만 시선이 몰리는 시장 분위기를 겨냥한 말이다.

실제로 AI 모델의 크기가 커질수록 병목이 발생하는 지점은 GPU보다 메모리 쪽에 더 빨리 나타난다. 초거대 언어모델은 연산 속도보다 데이터를 실시간으로 공급받는 능력이 더 중요해지는데, 이를 뒷받침하는 것이 바로 HBM(고대역폭메모리)이다. GPU를 여러 장 얹어도 메모리 대역폭이 따라주지 않으면 전체 성능은 금세 한계에 부딪힌다. 업계에서 '메모리 벽'이라는 표현이 반복되는 이유다.

문제는 HBM 공급이 폭증하는 수요를 따라가지 못하고 있다는 점이다. 제조 공정 자체가 까다로워 신규 증설이 쉽게 이뤄지지 않고 주요 고객사들이 이미 1~2년치 물량을 선점하고 있어 공급 여력이 빠듯하다. 메모리업계에서는 "2026년 생산분까지 예약된 것이나 다름없다"는 말까지 나온다. GPU 품귀가 어느 정도 해소되더라도 결국 메모리가 또 다른 걸림돌이 될 수 있다는 전망이 설득력을 얻는다.

데이터센터 인프라 역시 비슷한 흐름을 보인다. 서버 한 대가 소비하는 전력량은 과거와 비교하기 어려울 정도로 늘었고 발열도 크게 증가했다. 이를 감당하려면 전력망 확충과 냉각 설비 업그레이드가 필수지만 실제 현장은 이를 따라가지 못하는 경우가 많다.

미국과 유럽 일부 지역에서는 전력 부족으로 데이터센터 신설이 지연되는 사례도 나타난다. 기존 공랭식 냉각으로는 AI 서버를 안정적으로 운영하기 어렵다는 지적도 나온다. 수랭식이나 액침 냉각으로 전환하는 논의가 이어지고 있지만 비용과 인프라 부담을 감당해야 하는 기업들의 고민은 깊어지고 있다.

이런 흐름은 자연스럽게 메모리 업종의 '저평가론'으로도 이어지는 분위기다. 시장의 관심은 여전히 GPU와 파운드리에 집중돼 있지만 실제로 AI 생태계가 확장되는 데 가장 중요한 요소인 메모리 생산능력과 인프라 안정성에 초점을 두고 투자에 나서야 한다는 지적이 나온다. HBM 수요가 향후 몇 년간 두 자릿수 성장세가 예상되는 만큼 메모리 공급 능력이 AI 산업 전반의 성장 속도를 좌우할 것이란 전망도 힘을 얻고 있다.

전력과 냉각 문제도 단기에 해결하기 어려운 과제다. AI 서비스가 늘수록 데이터센터의 전력 수요는 더 빠르게 증가하지만 지역별 전력망 확충은 인허가와 비용 문제로 지연되기 일쑤다. 냉각 방식 또한 기존 설비로는 한계가 있어 AI 경쟁이 이제 연산 성능을 넘어 인프라 경쟁으로 옮겨가고 있다는 주장도 설득력을 얻고 있다.

기존에 GPU 중심으로 흘러온 초기 AI 성장 서사는 점차 흔들리고 있다. AI의 속도를 결정짓는 무게중심이 메모리와 데이터센터 인프라 쪽으로 이동하면서 산업 전체의 시각이 재편되고 있는 것이다. GPU만 확보하면 AI 성장이 그대로 이어질 것이라는 기존의 단순한 시나리오가 더는 통하지 않는 상황이다.

AI 수요가 폭발적으로 증가하는 만큼 앞으로 성장의 발목을 잡을 요소가 무엇인지에 대한 논쟁은 더욱 치열해질 전망이다. 지금의 흐름만 놓고 보면 AI 산업이 직면한 '보이지 않는 병목'에 대한 논의가 투자시장의 핵심 논쟁으로 조만간 떠오를 것으로 보인다.