세계는 '딥페이크'와 전쟁 중… 한국은 AI 규제 사각지대 [N-경제포커스]

생성형 인공지능(AI)이 만든 '딥페이크' 영상이 사회적 문제로 떠오르면서 세계 각국에서 규제 강화에 열을 올리고 있다. 총선을 앞둔 우리나라의 경우 기업들 차원에서 AI 자율규제 대응에 나서고 있지만, 법적 효력이 없어 무방비에 노출됐다는 지적이 나온다.

딥페이크는 '딥러닝(Deep learning)'과 '가짜(Fake)'의 합성어다. AI 기술을 기반으로 만들어낸 가짜 사진, 동영상, 음성물 등을 의미한다. 

지난해 미국에서는 조 바이든 대통령의 가짜 목소리와 도널드 트럼프 전 대통령의 체포 사진 등이 유포돼 논란이 일었다. 최근에는 딥페이크를 활용해 세계적인 팝스타 테일러 스위프트의 얼굴이 합성된 음란물이 유포되면서 AI 규제가 필요하다는 목소리가 높아졌다.

미국 시민단체 '퍼블릭 시티즌'의 로버트 와이스먼 회장은 "딥페이크 콘텐츠가 혼란을 심고, 사람들을 계속 속일 수 있는 많은 방법을 갖고 있다"며 "정책 입안자들은 서둘러 보호 장치를 마련해야 한다"고 촉구했다.

메타, 구글, 틱톡 등 글로벌 빅테크들은 딥페이크 확산을 막기 위해 AI 생성 이미지에 '디지털 워터마크(라벨, 꼬리표)'를 붙이는 등 자체적인 안전장치를 마련한 상태다. 생성형 AI 아버지인 오픈AI 역시 자사의 AI로 생성한 이미지에 워터마크를 삽입한다는 방침이다.

미국과 유럽에서는 정부 차원에서 딥페이크 규제 법안 마련에도 나섰다. 미국 정부는 AI 기술 개발과 관련한 행정명령을 통해 워터마크(식별 표식)를 넣도록 했다. 유럽연합(EU)은 AI로 생성한 콘텐츠에 워터마크를 의무화하는 'AI 규제법'을 통과시켰다.

우리나라의 경우 중앙선거관리위원회는 지난달 29일부터 딥페이크 영상을 활용한 선거운동을 금지했다. 지난 대선에서 'AI 윤석열', 'AI 이재명'을 선거 홍보에 활용했지만, 이번 총선부터는 불가능해진 것. 

네이버, 카카오는 중앙선관위와 손잡고 총선 댓글과 딥페이크 등 신규 어뷰징 패턴을 분석해 감시하는 역할을 수행하기로 했다. 또한 비가시성 워터마크 도입, 암호화 알고리즘 등 AI 콘텐츠 식별 기술 등을 통해 자체적인 대응을 마련 중이다.

다만, 플랫폼 업체의 자율 규제가 '최소한의 규제'라는 점에서 급증하는 딥페이크를 차단하기에는 역부족이라는 지적이 나온다. 유명인이 아닌 일반인도 딥페이크의 표적이 되는 데다가, 총선을 앞둔 상황에서 확산 속도를 제지하기 쉽지않다는 것. 

방송통신심의위원회에 따르면 국내 딥페이크 성적 허위 영상물에 대한 시정 요구 건수는 2020년 473건에서 2023년 5996건으로 12배 이상 급증했다. 기존 '성폭력처벌법' 제14조의2(허위영상물 등의 반포 등)에 따라 적용되지만, 유포 목적과 사실 입증이 어려워 처벌까지 이뤄지지 않는 경우가 많은 실정이다.

전문가들은 AI 활용에 따른 부작용에 선제 대응하기 위해 강력한 규제 법안이 필요하다고 강조한다. AI 기본법 등 핵심 AI 인프라를 구축하고, 범국가 혁신 제도 및 문화를 정착해야한다는 얘기다. 현재 국회에 발의된 AI 관련 법안은 7건으로, 모두 1년 넘게 계류 중이다. 

윤두현 국민의힘 의원은 "챗GPT를 비롯해 선진국들은 AI 분야 산업 육성과 함께 법·제도 마련에 속도를 내고 있다"며 "날로 격화되는 AI 기술 경쟁에서 주도권을 잡고 AI 산업을 육성하기 위해 법 제정이 시급하다"고 강조했다.