딥페이크 처벌 법제화, 규제 사각지대 해소 ‘기대’

딥페이크 성착취물도 처벌할 수 있는 법안이 통과됐다. 유통 방지 차원에서 플랫폼 자율규제가 이뤄지고 있지만, 법안을 통해 규제 사각지대를 해소할 수 있다는 기대가 나온다.

국회는 26일 본회의에서 딥페이크 성범죄 방지법을 통과시켰다.

개정안은 딥페이크 성착취물에 대한 처벌에 초점을 맞춘 만큼, 업계에서는 딥페이크 범죄를 예방하기 위한 노력이 병행돼야 한다는 목소리가 높아지고 있다. 동시에 플랫폼에 유통 방지를 위한 의무부과에 힘이 실리면서, 국내 AI산업 발전에 저해되지 않도록 주의가 필요하다는 주장도 제기된다.

앞서 방송통신위원회는 12일 방송통신심의위원회, 시청자미디어재단과 딥페이크 성범죄 대응 방안을 모색하기 위한 전문가 토론회를 개최했다. 토론회에서는 처벌 강화뿐만 아니라 미디어 리터러시 교육을 강화하는 등 예방에 초점을 맞춰야 한다는 의견이 표출됐다.

전문가들의 의견은 플랫폼에 확산방지 의무를 부과하는 지점에서 엇갈린다. 일정 의무를 플랫폼에 부과하고 위반할 경우 제재와 처벌을 가해야 한다는 의견과 플랫폼 사업자들이 적극적으로 자율규제를 할 수 있는 환경을 조성해야 한다는 주장이 맞서는 모습이다.

국내 플랫폼은 이미 자체적으로 딥페이크에 대응하기 위한 자율규제 노력을 기울이고 있다. 네이버, 카카오는 앞서 총선 시기에 맞춰 딥페이크 등 신규 어뷰징 패턴을 분석해 감시하는 역할을 수행하기로 했다. 또한 비가시성 워터마크 도입, 암호화 알고리즘 등 AI 콘텐츠 식별 기술 등을 통해 자체 대응책을 마련하고 있다.

방통위와 방심위는 국내 플랫폼보다 텔레그램 기반 딥페이크 음란물 제작·유포가 확산되는 점을 인지하고 있다. 김태규 방통위원장 직무대행은 28일 국회 과학기술정보방송통신위원회 전체회의에서 “텔레그램이 ‘비밀 채팅방’으로 이뤄지고 있으나 일부 공개되는 영역에 대해서는 삭제나 유통방지 등 제재를 가할 수 있는지 검토해보겠다”고 말했다.

방심위는 삭제와 차단을 요구할 수 있는 권한이 있고, 시정 요구에 대해 정상적으로 이뤄지지 않으면 방통위가 시정명령을 하고 형사고발 조치를 할 수 있는 권한이 있다는 설명이다.

딥페이크 법안 통과로 AI기본법 제정 추진에도 탄력이 붙을 것으로 보인다. 연내 AI기본법 제정을 목표로 대통령 직속 국가 AI위원회가 출범했다. AI기본법에는 AI 발전을 제도적으로 뒷받침함과 동시에 딥페이크와 같은 부작용을 방지하기 위한 내용이 담길 것으로 예상된다.

국내와 해외 플랫폼간 ‘비대칭 규제’로 일어나는 역차별을 우려하는 목소리도 나온다. 불법 딥페이크 성착취물이 주로 유통되는 텔레그램 등 SNS에 대한 처벌은 미약하지만, 관련 규제가 시행되면 국내 플랫폼 사업자에는 직접적인 영향을 주기 때문이다.

한편, 개정안은 딥페이크 성착취물에 대한 소지·시청죄를 신설해 3년 이하 징역 또는 3000만원 이하 벌금형을 부과하는 내용이 골자다. 유포 목적이 입증되지 않더라도 제작자를 처벌할 수 있게 됐고 형량도 불법촬영물 유포(징역 7년 또는 5000만원 이하 벌금)와 동일한 수위로 높였다. 허위 영상물을 이용한 협박, 강요에 대해 징역 1년 이상을 구형할 수 있는 처벌 규정도 담겼다.