역대급 폭염에 AIDC도 비상, GPU 냉각 총력전 … “무조건 식혀라”

연일 40도를 넘나드는 폭염이 장기화되면서 AI데이터센터(AIDC)에도 비상이 걸렸다. 고밀도 GPU가 집적된 AIDC 특성상 냉각은 단순한 전기 요금이 늘어나는 수준이 아니라 성능과 운영에 직접적인 영향을 미치기 때문이다.

6일 AI업계에 따르면 최근 주요 AIDC는 폭염에 대비하기 위한 비상체제를 가동 중이다. 

대규모 GPU가 집적된 AIDC에게 있어 냉각은 사활을 건 문제다. AIDC의 전력 30~40%는 냉각에 사용된다. GPU 특성상 가동 과정에서 막대한 고열을 발생시키기 때문. 렉당 전력 밀도가 집중되는 최신 GPU의 경우에는 더욱 심하다. 

GPU 냉각이 제대로 안되면 스스로 클럭을 낮춰 성능을 조정하는 ‘스로틀링(throttling)’이 발생하고 GPU의 수명이 단축된다. 이 때문에 글로벌 빅테크는 AIDC 입지로 상대적으로 서늘한 미국 북부, 캐나다, 북유럽을 주목하는 중이다. 최근 우주 궤도 AIDC가 추진되는 것도 냉각 한계를 극복하기 위한 궁여지책이다.

문제는 국내 AIDC다. 기록적 폭염이 장기화되면서 지역을 불문하고 국내 AIDC는 공기로 GPU를 식히는 공랭식이나 수랭식 모두 밀접한 영향을 받을 수밖에 없다. 근본적으로 냉각에 들어가는 비용 부담이 커졌다는 이야기다.

한 AIDC 업계 관계자는 “폭염이 지속되는 환경에서는 냉각에 필요한 전력이 급격하게 상승할 수밖에 없다”며 “운영에 문제가 생기지는 않지만 만에 하나 발생할 상황을 고려해 비상 모니터링을 진행 중”이라고 전했다.

공랭식을 택하는 대부분의 AIDC에서는 에어컨의 가동률이 급증하고 있고 수랭식의 경우에도 더 많은 냉각수를 소비하게 된다. 관전 포인트는 AIDC가 얼마나 효율적인 기술로 안정적 AI 연산력을 확보하는 냉각 효율을 확보하느냐다.

SK텔레콤은 최근 폭염에 대비해 모니터링을 강화하고 공조기 과열을 대비해 예비용 설비를 확보했다. SKT AIDC는 쿨링타워, 칠러(Chiller, Pump), CRAH(컴퓨터룸 공조기) 등 냉각 시스템 전반의 성능을 집중 모니터링하고, 냉각수·냉각수 온도, 압력, 유량, 전력 사용량 및 설비 알람을 실시간으로 분석 중이다.

NHN도 폭염에 대비해 칠러 등 냉각 설비의 효율 변화를 고려해 운전 조건을 탄력적으로 조정하며 운영 중이다. 특히 고열이 집중되는 옥상층은 보조 냉방장치 등을 통해 온도를 관리하고 있다. 이 외에 전력 사용량 급증에 따른 과부하에 대응하기 위해 전등 등 불필요한 전기 차단과 비필수 시스템의 전력 사용 우선순위 조정 등을 진행했다.

네이버클라우드는 자체 개발 공조시스템 ‘NAMU’를 기반으로 기후 조건에 따라 냉각 방식을 자동으로 전환하는 하이브리드 구조로 폭염에 대응 중이다. 날씨가 시원할 때는 외기를 직접 활용하지만 최근 같은 무더위에서는 냉각수와 간접 냉각을 섞는 방식이다. 최근 같은 여름에는 심야에 만든 냉수를 축열조에 저장해 주간에 활용하면서 에너지 효율을 높였다.

KT클라우드도 지난해 개소한 가산 AIDC에 GPU 칩에 콜드 플레이트를 부착해 냉수를 직접 접촉시키는 액체냉각(Liquid Cooling)을 적용한 D2C(Direct-to-Chip) 기술을 적용해 폭염에 대응하고 있다. 

업계 관계자는 “폭염으로 냉각에 막대한 전력이 소비되면서 전력수급 현황을 면밀하게 체크하고 있다”며 “기후변화가 심해질수록 냉각 기술과 전력 확보 능력이 AI 경쟁력을 좌우하는 핵심 요소가 될 것”이라고 전했다.