[르포] LLM부터 DC, 클라우드까지… SK 서밋, AI 기술의 향연

SK텔레콤을 비롯한 SK 그룹사가 한 자리에서 AI 역량을 과시했다. 그룹이 AI ‘엔드투엔드(End-to-end)’ 역량을 갖춘 만큼 다양한 기술과 솔루션이 눈길을 사로잡았다.

4일 서울 코엑스에서 열린 ‘SK AI 서밋 2024’ 부스를 참관했다. SK 그룹사의 AI 기술과 솔루션은 물론, MS·엔비디아·구글 클라우드·아마존웹서비스 등 글로벌 빅테크가 총출동해 관람객들로 북적였다.

SK 그룹사들을 한데 모아 자리한 부스는 AI시대 인프라 중요성을 강조한 만큼 서버를 형상화한 구성이 눈에 띄었다. 크게 AI와 AI 데이터센터, 클라우드로 영역을 나눠 각각 부스가 꾸려졌다.

먼저 눈에 들어온 것은 텔코 에지 AI다. 에지 AI CCTV가 무단침입과 화재, 작업 중 부상 등 위험을 감지하고 구분하는 과정을 실시간으로 화면에 띄웠다. 연기가 피어오르자 CCTV가 화재를 인식하고 비상상황임을 알렸다.

SK텔레콤 관계자는 “기존 CCTV를 활용해 추가로 장비를 구축할 필요 없다는 것이 최대 강점”이라며 “보안을 위해 내부망으로 구축하는 것도 가능하며, 무선통신과 GPU 인프라를 이용하는 사용료 정도만 지불하면 된다”고 강조했다.

SK텔레콤의 AI 개인비서 ‘에이닷’은 기존 모바일에서 PC버전으로 저변을 넓혔다. PC버전은 사용 정보가 모바일과 연동되며, 총 8종의 LLM 모델을 무료로 사용할 수 있다. 기존 T전화도 AI 기능을 추가하는 차원에서 에이닷 전화로 개편됐다.

SK텔레콤 관계자는 “생성형 AI 특성상 이용자들이 PC로 업무를 하는 경우가 많아 PC버전을 출시하게 됐다”고 설명했다.

자체 LLM 에이닷 엑스(A.X)는 통화요약 등 한국어에 특화돼 자체 업무에 주로 활용되고 있다. 문서 검색과 보도자료 초안 작성 등 업무 효율성을 높이는 역할을 주로 맡았다. 대외적으로는 멀티 LLM을 지향하며 엔트로픽 오픈AI와 협업한 텔코 LLM을 선보인다는 구상이다.

클라우드 GPU 서비스를 위한 솔루션도 준비된 모습이다. Petasus 클라우드는 가상화 소프트웨어로, 회사 내에서도 각 사업부별로 사용하는 컴퓨팅 인프라가 다르다는 점에 착안한 것이다. 부스 관계자는 “디스크 드라이브 파티션을 나누듯이 클라우드 사용을 최적화하는 기술”이라며 “엔비디아 외 인텔 등 다른 GPU칩도 대응 가능한 것이 장점”이라고 말했다.

AI 클라우드 매니저는 효율적인 GPU 자원 관리와 모델학습 추론관리를 제공한다. 한정된 자원인 GPU 클라우드 서비스를 활용하는 데 있어 개발자를 위한 GPU 사용 스케줄링을 제공한다. 오남용되는 GPU를 확인하고 관리하는 기능도 수행한다.

액침냉각을 위한 액체에는 SK엔무브의 기술력이 적용돼 그룹사 간 시너지가 돋보였다. 서버랙을 비전도체 용액에 담가 전력과 냉방 효율을 극대화하는 방식으로, 기존 데이터센터 대비 30% 이상 전력 절감이 가능하다.

부스 관계자는 “용액은 10여년간 사용 가능하다. 필터 교체 주기가 길고, 증발하지도 않는다”며 “냉각하면서 발생하는 소음과 열로부터 자유로운 것도 장점”이라고 덧붙였다.