카카오클라우드의 엔비디아 GPU 인스턴스 활용 온·오프라인 AI개발자 교육 실시고성능 클라우드 컴퓨팅 시장 협력 관계 강화
  • ▲ ⓒ카카오엔터프라이즈
    ▲ ⓒ카카오엔터프라이즈
    카카오엔터프라이즈는 11일 삼성동에 위치한 카카오 강남오피스에서 ‘NVIDIA(엔비디아) X 카카오클라우드 원데이 AI 개발자 부트캠프’를 성황리에 개최했다고 밝혔다.

    이는 카카오클라우드의 NVIDIA GPU 인스턴스를 활용한 온·오프라인 행사다. ‘AI와 클라우드 기술세미나’ 및 ‘카카오클라우드와 NVIDIA AI를 활용한 AI인퍼런스 부트캠프’로 나누어 진행됐다. 

    1부 행사인 ‘AI와 클라우드 기술세미나'에서는 엔비디아의 AI 솔루션 소개 및 카카오클라우드의 기술과 서비스를 주제로 한 세션이 진행됐다. 온라인으로 진행된 1부 행사는 200명 모집에 400여 명이 넘게 신청해 신청자 전원 참여로 확대 실시했다.

    2부 행사는 카카오클라우드 기반 NVIDIA GPU를 활용해 거대 언어 모델 라마3(LLaMa3)의 인퍼런스 최적화 및 배포 관련 최신 기술을 실습했다. 오프라인으로 진행된 2부 행사는 다양한 산업군의 개발자들이 참석해 높은 만족도를 나타냈다.

    특히 2부 행사인 부트캠프에서는 NVIDIA 의 솔루션 아키텍트가 직접 카카오클라우드 기반 환경부터 인퍼런스 실습을 통해 눈길을 끌었다. 구체적으로는 ▲KakaoCloud 실습 환경 셋업 ▲TensorRT-LLM 및 Triton Inference Server 소개 ▲TensorRT-LLM 실습 ▲최적화된 엔진 배포 실습 in Triton Inference Server ▲NIM 소개(강의) ▲NIM 실습(랩)을 진행했다.

    카카오클라우드와 NVIDIA 간 협력 관계는 오래전부터 지속되고 있다. 카카오클라우드는 고성능 클라우드 컴퓨팅을 구성하는데 NVIDIA GPU를 적극 활용하고 있다. 생성형AI에 필요한 고성능 클라우드 컴퓨팅 기술 및 시장 성장을 위해 협력을 이어 나갈 예정이다.

    이지혜 카카오엔터프라이즈 CGO(최고성장책임자)는 “고성능 클라우드 컴퓨팅 시장에서 차별화된 기술력으로 성장해 갈 수 있도록 양사의 협력 관계를 공고히 할 것”이라고 말했다.