생성은 10초, 탐지는 5분… 쫓기도 버거운 딥페이크와의 전쟁 '딜레마'

생성형 인공지능(AI)을 활용한 '딥페이크' 기술이 날로 고도화되고 있다. 딥페이크 사진·영상을 만드는 데 걸리는 시간은 10초 남짓인 반면, 이를 탐지하고 찾아내는 기술은 5분 가량 소요되는 것으로 파악됐다. 

딥페이크 음란물 제작 속도를 탐지 속도가 따라잡지 못하면서 사실상 원천 차단이 불가능한 상황이다. 매일 진화하는 생성형 AI 기술을 통제할 법제화 도입과 당국의 기술 투자가 이뤄져야 한다는 지적이 나오는 이유다. 

딥페이크는 '딥러닝(Deep learning)'과 '가짜(Fake)'의 합성어다. AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다. 특히 오픈소스(개방형) AI 모델로 누구나 손쉽게 이용할 수 있다.

실제 구글플레이 스토어에 딥페이크 키워드로 검색하면 수십 개의 해당 앱들이 존재한다. 적게는 수십만명에서 많게는 수억명이 딥페이크 앱을 다운로드 받은 기록이 남아있다.

제작 과정은 손쉽다. 앱을 실행하면 기본적으로 제공되는 사진들과 영상들의 목록이 나열돼 있다. 이 가운데 사진 혹은 영상을 배경으로 선택한 뒤 갤러리에 있는 사진을 고르는 것으로 작업은 끝이다. 이후 얼굴 바꾸기(생성) 버튼을 누르면 10~15초의 짧은 광고 뒤에 사진·영상 제작이 끝난다. 심지어 성별을 뒤바꾼 이미지 생성도 가능하다.

유료화 결제를 진행할 경우 광고 시청을 할 필요 없어 시간은 더욱 절감된다. AI 코딩 지식이 없어도 앱 설치부터 사진 선정, 제작까지 길어도 1분이 넘지 않는다. 익숙한 이용자들은 단 몇 초 만에도 딥페이크 영상을 제작할 수 있는 셈이다.

글로벌 빅테크를 중심으로 딥페이크를 탐지하는 기술이 나오고 있지만, 이마저도 걸음마 수준이다. 인텔이 선보인 '페이크캐처'의 딥페이크 여부를 96%까지 식별하지만, 인종 등 실험 조건이 통제된 상황에서만 가능하다. 

국내 AI 스타트업인 딥브레인AI의 '딥페이크 탐지 솔루션'은 딥러닝 기반의 음성 추출 방식을 사용해 빠르면 5분 내로 딥페이크 여부를 판별한다. 하지만 10초에 한 번 꼴로 생성되는 딥페이크를 막기에는 역부족이다.

딥페이크 탐지 기술은 진짜와 가짜 데이터를 모두 학습해야 한다. 때문에 딥페이크 생성 속도보다 뒤처질 수 밖에 없는 구조다. 명확한 수익 모델도 없어 기업들의 투자도 더디다.

여기에 딥페이크 음란물이 텔레그램방, 다크웹 등 폐쇄적인 SNS를 통해 유통되는 것도 원천 차단의 발목을 잡고 있다. 글로벌 보안업체 노드VPN에 따르면 SNS, 텔레그램 등을 통해 유출된 노출 사진이나 영상에 댓글이 평균 1850개 달리는 등 딥페이크 영상물의 주요 확산 통로로 지목되고 있다.

업계에서는 딥페이크 음란물 확산에 대응하는 게 늦은감이 있다는 의견이다. 때문에 AI 생성물에 워터마크 혹은 메타데이터를 의무화한 AI 법제화 도입이 필요하다고 입을 모은다. 정부 차원에서 딥페이크 탐지 고도화 및 생성 억제 기술에 대한 투자를 더욱 늘려야 한다는 지적도 있다.

대표적으로 국회에 계류된 AI 기본법은 AI에 대한 개념 규정과 산업 육성, 안전성 확보를 위한 방향성을 담은 법안이다. 21대 국회에서 7개 법안이 상정됐지만 국회 임기 만료로 폐기됐다. 22대 국회에서도 6개 AI 법안이 상정된 상태다.

업계 관계자는 "영국과 미국에서는 딥페이크 피해에 대한 처벌 수위를 높이고 있다"며 "우리나라도 AI 법제화를 통한 강력한 규제 장치를 마련하고, 탐지 기술 고도화를 위해 투자를 늘려야 할 것"이라고 말했다.