한국어 지시 이행과 추론 성능 향상경량화 기술 적용, 활용성 강화
  • ▲ ⓒKT
    ▲ ⓒKT
    KT가 오픈소스 모델 라마-3.3을 기반으로 한국어에 특화된 언어모델 ‘라마 K’를 출시했다고 30일 밝혔다.

    이번에 선보인 ‘라마 K 74B’는 740억 파라미터 규모의 언어모델로 한국어 기능을 강화한 것이 특징이다. 특히 한국어 지시 이행 능력과 추론 능력이 개선돼 복잡한 한국어 명령어도 정확하게 이해하고 실행할 수 있다.

    KT는 독자적으로 개발한 한국어 리워드 모델 기반의 학습 기법을 도입하고 한국어 고유의 문맥과 뉘앙스를 정밀하게 반영했다. 그 결과 코딩과 수학 등 한국어 기반의 복잡한 논리적 추론이 가능해져 AI 에이전트 환경에서의 활용성이 높아졌다.

    추론 비용 최적화를 위해 기본 BF16 모델 외에도 FP8, INT4 등 다양한 양자화 모델을 함께 제공한다. 이를 통해 사용자는 GPU 자원과 성능 요구에 따라 최적의 모델을 선택할 수 있으며, 제한된 하드웨어 환경에서도 고품질의 AI 서비스를 경제적으로 구현할 수 있다.

    라마 K는 KT의 ‘책임감 있는 AI’ 원칙을 반영했다. 개인정보 보호와 유해 표현 제거, 환각현상 감소를 위해 데이터 수집부터 학습·응답 생성까지 엄격한 품질 관리 프로세스를 적용했다.

    환경 친화적 AI 개발을 위한 Green AI 실현에도 주력했다. 모델 병합(Model Merge), 챗 벡터(Chat Vector) 등 GPU 연산 부담을 줄이는 기법을 도입해 학습 과정의 에너지 소비를 절감했다.

    이번 언어모델 출시는 국내 AI 기술 주권 확보와 글로벌 AI 생태계 발전에 주력하겠다는 취지로, 국내 AI 산업 발전과 디지털 전환 가속화에 기여할 것으로 기대된다.

    윤경아 KT 에이전틱 AI Lab장(상무)은 “이번 출시로 ‘믿:음 K’부터 중대형 ‘라마 K’, 초대형 ‘SOTA K’까지 한국적 AI 라인업을 확장했다”며 “특히 한국어 지시 이행은 실무에서 바로 활용할 수 있는 AI 서비스를 구현했다”고 말했다.