고려대 왕건욱 교수팀, 고성능·저전력 차세대 AI 칩 핵심기술 개발

고려대학교는 고려대-한국과학기술연구원(KU-KIST) 융합대학원·융합에너지공학과 왕건욱 교수 연구팀이 서로 다른 회로 소자를 수직으로 쌓는 '모놀리식 3D 방식'으로 멤리스터(전류가 지나간 이력을 기억해 저항 상태를 유지할 수 있는 차세대 메모리 소자)를 집적해 고밀도·고성능 인메모리 컴퓨팅을 위한 새 기술 플랫폼을 제시했다고 16일 밝혔다. 이번 연구는 광주과학기술원(GIST) 이병근 교수 연구팀이 함께 진행했다.

인공지능(AI) 기술이 발전하면서 데이터 처리량이 급격히 늘고 있다. 하지만 기존 방식의 컴퓨터 구조로는 속도와 에너지 효율 저하 문제가 발생한다. 메모리 내에서 연산을 수행하는 인메모리 컴퓨팅이 주목받는 이유다.

특히 메모리와 연산 기능을 동시에 수행할 수 있는 멤리스터를 크로스바 어레이(수직·수평 방향의 전극이 교차하는 지점마다 멤리스터를 배치하는 배열 구조)로 배열하면 병렬 연산이 가능해 AI 신경망 연산에 적합한 기술로 기대를 모은다. 하지만 멤리스터를 대규모로 배열하면 선택하지 않은 셀로 전류가 흘러 들어가는 오류가 발생한다.

연구팀은 문제를 해결하기 위해 180나노미터(㎚) CMOS 공정으로 제작한 트랜지스터 기반 셀렉터(1TS) 위에 정보를 저장할 수 있는 산화티타늄(TiOx) 멤리스터(1M)를 수직으로 쌓는 모놀리식 3D 집적 방식을 적용했다. 트랜지스터 기반 셀렉터는 멤리스터 소자에 흐르는 전류를 선택적으로 제어하기 위한 구성 요소로, 일종의 전기 스위치 역할을 한다. 원치 않는 전류 경로를 효과적으로 차단할 수 있다. 연구팀은 이렇게 1킬로비트(kbit) 용량의 구조를 구현했으며, 이 구조가 최대 1.14테라비트(Tbit) 수준의 초대형 AI 연산 시스템으로 확장 가능하다는 것을 확인했다.

또한 이 구조(1TS-1M)는 기존 산화물 기반 멤리스터 구조보다 전력 소모가 획기적으로 낮았다. 인공 신경망의 핵심 연산인 벡터-행렬 곱셈(VMM) 수행 중 발생하는 불필요한 전력을 기존의 0.5마이크로와트(㎼) 수준에서 70펨토와트(fW) 수준으로 줄이며, 1000만 배쯤의 전력 효율을 개선했다.

연구팀은 개발한 구조를 이미지 분류 AI 모델에 적용해 성능을 검증했다. CIFAR-10과 UTK face 데이터에 적용한 결과, 합성곱 신경망(CNN·이미지 인식 AI 모델) 구조에서 높은 인식 정확도를 기록하며 우수한 성능을 보였다.

왕 교수는 "이번 연구는 멤리스터 기반 인공 신경망 기술이 고밀도·고성능 AI 연산 시스템으로 실현될 가능성을 보여준다"며 "에너지 효율이 높고 확장성이 뛰어나 차세대 AI 반도체 플랫폼 개발로 이어질 수 있다"고 말했다.

이번 연구 결과는 나노·에너지 분야의 저명한 국제 학술지 '나노 에너지(Nano Energy)'에 지난달 10일 온라인 게재됐다. 왕 교수와 이 교수가 공동 교신저자, 고려대 KU-KIST 융합대학원 안연서 석사후연구원과 GIST 김도원 박사과정이 공동 제1저자로 각각 참여했다.

이번 연구는 과학기술정보통신부가 추진하는 한국연구재단 기초연구사업, 나노·소재기술개발사업, 반도체디스플레이 국제공동연구, 신개념 PIM 기초기술 개발사업, 한국과학기술연구원(KIST) 융복합개방형연구의 지원을 받아 수행됐다.