서강대 강석주 교수팀, 세계 최고 권위 AI학회서 'AI 모델 경량화' 주제로 논문 발표한다

서강대학교는 전자공학과 강석주 교수 연구팀이 세계 최고 권위의 인공지능(AI)학회인 '신경정보처리시스템 학회(Neural Information Processing Systems, NeurIPS)'의 올해 학술대회에서 AI 모델 경량화와 관련해 논문을 발표하게 됐다고 23일 밝혔다.

1987년부터 시작된 NeurIPS는 AI와 기계학습 분야의 발전을 이끌어 왔다. NeurIPS 2025는 다음 달 30일부터 12월 7일까지 미국 샌디에이고와 멕시코시티에서 열릴 예정이다.

강 교수팀이 발표하게 될 논문은 'QSCA:단안 깊이 추정을 위한 자체 보정 보조 양자화 방법(QSCA: Quantization with Self-Compensating Auxiliary for Monocular Depth Estimation)'이다. 한 장의 이미지로부터 깊이 정보를 추정하는 단안 깊이 추정(monocular depth estimation) 모델에 특화한 양자화(quantization·모델 경량화를 위해 연산이나 파라미터 값을 정밀도가 낮은 값으로 변환하는 과정) 프레임워크를 제안한다.

연구팀은 기존의 AI 모델 경량화 기술이 이미지 분류(image classification), 언어 모델링(language modeling) 등의 기초적인 작업에 최적화돼 있다 보니 단안 깊이 추정, 의미 분할(semantic segmentation) 등의 심화 작업에선 성능이 심각하게 떨어진다고 지적했다.

연구팀은 논문에서 단안 깊이 추정 모델에 양자화를 적용했을 때 발생하는 블록 단위의 오차를 보상해 주는 자체 보상 보조(Self-Compensating Auxiliary, SCA) 모듈을 제안했다.

연구팀은 단안 깊이 추정 모델에서의 블록별 양자화 민감도를 분석했고, 민감도가 높은 블록에 선택적으로 오차를 보상해 주는 SCA 모듈을 추가함으로써 추가적인 연산 부담(overhead)은 낮추면서 성능 하락을 억제했다. SCA 모듈은 사전 학습에 사용된 데이터의 5%만을 정답 레이블 없이 사용해 양자화 모델과 원본 모델의 오차를 최소화하도록 학습된다. 연구팀은 학습 과정에 특징 수준 손실(feature level loss), 스케일 불변 로그 손실(SILog loss) 등의 손실 함수를 채택해 양자화 모델의 성능을 높였다.

연구팀이 제안한 QSCA 기술은 AI 모델을 더 작고 효율적으로 만들어 산업 현장에 적용하는 데 기여할 것으로 기대된다. 높은 정확도를 유지하면서도 기기 부담을 줄일 수 있어 자율주행, 로보틱스, 증강·가상현실(AR·VR) 등 미래 핵심 산업의 기술 상용화를 앞당기는 데 중요한 역할을 할 전망이다.

양진철 연구원은 "이번 개발로 AI 모델 경량화 기술이 더 폭넓게 활용될 수 있는 기술적 토대가 마련됐다"고 말했다. 강석주 교수는 "QSCA는 새로운 양자화 프레임워크를 제안한 기술"이라며 "자율 주행, 로보틱스 등의 발전에 이바지할 것"이라고 부연했다.

이번 연구 논문은 양진철 석박통합과정, 최재민 석사과정, 마티 진케(Matti Zinke) 석사과정이 공동 제1저자, 강석주 교수가 교신저자로 각각 참여했다.

이번 연구는 과학기술정보통신부와 정보통신기획평가원의 대학ICT연구센터사업과 차세대지능형반도체기술개발 사업의 지원을 받아 수행됐다.