SKT, 전용 LLM 기반 ‘AI 상담업무 지원’ 고객센터 오픈

SKT가 AI 고객센터를 본격적으로 도입한다.

SK텔레콤이 텔코 LLM 적용 AI 상담 시스템을 활용한 고객센터 시범서비스를 10월 한달 간 성공적으로 운영했다고 18일 밝혔다.

그동안 SK텔레콤은 앤트로픽 등 해외 주요 LLM 업체들과 협력해 텔코 LLM을 개발해왔다. 지난 1년 동안 지식정보시스템을 AI 활용에 적합한 구조로 개편하고 통신 데이터를 활용해 모델 튜닝을 진행했다.

고객센터 상담 전문가 수십명이 참여해 텔코 LLM 성능 향상을 위한 학습 데이터를 만들어왔다. 이후 테스트와 피드백을 통한 강화 학습을 반복해 통신서비스 전용 LLM과 LMM(거대멀티모달모델)을 만들었다.

LLM이 질문에 가장 정확하고 구체적인 답을 생성할 수 있도록 답변생성에 필요한 정보만을 검색하도록 고도화했다. LLM에게 제공하고 답변 품질을 증강시키는 검색증강생성(RAG)도 개발함으로써 신뢰도를 대폭 개선했다.

텍스트 외에 이미지를 이해할 수 있는 LMM도 활용해 서류 등 이미지를 학습시켜 특화된 전용 LMM을 개발했다.

AI 상담 서비스는 LLM 기반 ‘AI 지식 검색 도우미 서비스’를 통해 상담사의 업무를 돕는다. 퍼플렉시티나 ‘챗GPT’처럼 상담사가 질문을 입력하면 AI가 상담사 대신 정보를 검색해 정리해 준다. 

10월 21일부터 베타 서비스를 통해 상담사들이 현장에서 사용하고 있으며, 2025년부터는 모든 고객 상담 업무에 전면 적용할 예정이다.

또한 A.X LMM을 활용해 ‘AI 서류 자동 처리 시스템’도 구축한다. 고객센터에서 사용하는 사진과 스캔문서 등 수십종의 구비 서류를 AI가 자동으로 분류하고 처리한다. 자동 분류 시스템은 지난달 23일부터 도입했고, 향후 서류 내용을 자동 판독하는 기술도 적용될 예정이다.

12월에는 고객 상담 결과를 텔코 LLM을 활용해 자동으로 분류·요약하는 ‘상담 후속 업무 자동화 시스템도’ 도입할 방침이다.

홍승태 SK텔레콤 고객가치혁신 담당은 “업무 효율화에만 치중하지 않고 고객 개개인에 최적화된 상담을 제공하는 것을 목표로 하고 있다”며 “텔코 LLM 기반 상담업무 지원 시스템을 발판으로 다양한 AI 기술을 활용해 국내 최고 수준의 고객센터 상담 서비스를 만들겠다”고 말했다.