서강대 김종락 교수팀, 암호·양자통신 등에 활용 가능한 새 수학적 코드 무더기로 발견

서강대학교는 수학과 김종락 교수(수리과학 및 데이터사이언스 연구소장) 연구팀이 유전자 알고리즘(Genetic Algorithm, GA)을 개선한 새로운 진화 탐색 기법으로

133종 이상의 새로운 4진(Quaternary·0, 1, 2, 3 네 숫자를 사용하는 체계) 에르미트(Hermitian) LCD(Linear Complementary Dual·선형보완이중) 부호를 발견했다고 5일 밝혔다. 에르미트 LCD 부호는 특수한 수학적 구조를 가진 오류 정정 부호로 알려져 있다. 즉 이번 연구는 기존 알고리즘을 업그레이드해 데이터 전송·암호·양자통신 등에 쓰일 수 있는 새로운 형태의 수학적 코드를 대거 발견했다는 얘기다.

이번 연구는 이화여자대학교 수학과 이윤진 교수팀과 함께 진행했다.

유전자 알고리즘은 생물의 진화 원리(적자생존)를 모방해 최적의 해(답)를 탐색하는 대표적인 소프트 컴퓨팅 기법의 하나다. 복잡한 최적화 문제를 효율적으로 해결하는 도구로 알려졌다. 하지만 이를 에르미트 LCD 코드의 구성 문제에 직접 적용하는 것은 기존 방식으로는 불가능했다. 일반적인 돌연변이(mutation·변형)나 교차(crossover·혼합) 연산이 수학적으로 복잡한 에르미트 LCD 조건을 위배하기 때문이었다.

김 교수팀은 이런 문제를 해결하기 위해 '반복검색 알고리즘(Iteration Search Algorithm) I·II'라는 두 가지 변형된 GA를 새롭게 고안했다. 이들 알고리즘은 돌연변이, 교차, 수정 교차, 보수(complement) 등의 연산을 에르미트 LCD 조건에 맞게 재정의해 탐색 공간을 효율적으로 줄였다. 기존의 무작위 탐색 접근 방식보다 기하급수적으로 메모리를 절약할 수 있다는 장점이 있다.

에르미트 LCD 코드는 단순한 오류정정 부호를 넘어 양자 정보통신 분야에서도 중요한 역할을 한다. 특히 최대 얽힘 보조 양자 오류정정 부호(Maximally Entanglement-Assisted Quantum Error-Correcting Codes)의 구성에 직접 응용될 수 있어 양자 부호 이론의 실질적 확장에도 이바지할 것으로 기대된다. 연구진은 오픈소스 수학 소프트웨어인 SageMath를 이용해 새로 발견한 부호들의 생성 행렬(generator matrices)을 공개·검증했으며, 앞으로 관련 데이터베이스를 국제 공동연구자들과 공유할 계획이다.

김종락 교수는 "이번 연구는 유전자 알고리즘을 단순히 최적화 도구로 사용하는 수준을 넘어 수학적 제약이 강한 부호이론 문제에 성공적으로 접목했다는 점에서 의미가 크다"며 "이는 복잡한 탐색 문제를 다루는 다른 수학·공학 분야에도 소프트 컴퓨팅이 효과적으로 적용될 수 있음을 보여준다"고 말했다.

이번 연구 성과는 인공지능·계산지능 분야의 권위 있는 국제 학술지 '어플라이드 소프트 컴퓨팅(Applied Soft Computing·응용 소프트 컴퓨팅)'에 지난달 19일 온라인 게재됐다. 서강대 원병선 박사가 제1저자, 김종락 교수와 이윤진 교수가 교신저자로 각각 참여했다.

이번 연구는 교육부의 두뇌한국(BK)21 FOUR와 과학기술정보통신부의 개척연구 지원을 받아 이뤄졌다.