딥페이크 강경 대응 필요하지만… "교각살우 우(愚)는 피해야"

딥페이크 기술을 악용한 디지털 범죄 피해에 대해 사회적 경각심이 높아지며 강경 대응에 힘이 실리고 있다. 다만, 일각에서는 관련 법안과 제재가 도입되면서 생성형 AI 산업 발전에 미칠 악영향과 해외 기업과의 역차별 등 부작용을 우려하는 목소리도 나온다.

2일 업계에 따르면 정부는 ‘딥페이크 성범죄 대응 범정부 대책회의’를 열고 관계부처와 협업을 통해 실질적 제재 방안을 논의했다. 국가안보실이 발표한 ‘국가 사이버 안보 기본계획’에도 딥페이크 문제를 포함한 사이버 공격에 대응하는 실천 과제가 담겼다.

방송통신심의위원회(이하 방심위)도 24시간 신고접수 채널 개설과 집중 모니터링 등 내용을 담은 ‘딥페이크 성범죄영상물 10대 종합대책’을 발표했다. 딥페이크 성범죄가 텔레그램 등 주로 해외 플랫폼을 통해 성행하는 것을 감안, 글로벌 플랫폼 사업자들과 예방·협력을 위한 간담회를 마련했다.

정부가 딥페이크 엄정 대응에 나서자, 국회에서도 대책 마련에 속도를 내고 있다. 특히 AI 기본법 제정 등을 통한 입법 공백 해소를 예고했다. 국회에 상정된 관련 법안 중에서는 AI 생성물에 워터마크나 메타데이터를 포함토록 하고, 플랫폼 기업들은 표식이 없는 AI 생성물 삭제를 의무화하는 내용 등이 담겼다.

딥페이크 관련 대응이 가해자 제재와 유통 방지 등 사후대책에 초점이 맞춰지는 이유는 원천 차단이 사실상 불가능하기 때문이다. 딥페이크 저작물을 기술적으로 걸러내는 기술이 오픈소스 AI를 활용한 손쉬운 생성·유통 속도를 따라가지 못하면서 유통을 막고 처벌 수위를 높이는 데 집중하는 상황이다.

특히 플랫폼이 사전 차단과 유통 방지를 위한 책임을 떠안고 있는 추세다. 개인간 사적 대화로서 익명성 보장을 우선하며 제재하는데 한계가 있는 SNS(사회관계망서비스)와 달리 플랫폼은 공적 영역으로 분류돼 책임 소재가 분명하기 때문이다.

해외에서는 이미 플랫폼에 법적 의무를 부과하는 규제를 마련하고 있다. 플랫폼의 유해 콘텐츠 검열 의무를 규정한 EU(유럽연합)의 ‘디지털서비스법’이 대표적이다. 독일과 프랑스 등 EU 회원국은 별개로 플랫폼의 감시 책임을 강화하는 법안을 마련하고, 플랫폼 사업자에 서비스 중지 명령을 내리는 권한을 부여하고 있다.

국내에서도 플랫폼에 딥페이크 유통 차단 의무를 부과하는 법적 근거를 마련하기 위한 움직임이 일고 있다. 22대 국회에 상정된 AI 기본법 내용에는 플랫폼 기업들이 표식없는 AI 생성물을 삭제하는 것을 의무화하는 내용이 담겼다. AI 생성물에 워터마크 또는 메타데이터(이미지 파일에 담긴 정보)를 의무화한 법안 도입이 필요하다는 의견도 제기된다.

주요 플랫폼들은 이미 딥페이크 저작물 유통 방지를 위한 AI 기술을 고도화하고, 자율규제를 강화하고 있다. 네이버는 AI 음란물 필터링 기술 ‘클로바 그린아이’를 통해 불법 합성물을 실시간 탐지·삭제하고, 카카오는 생성형 AI 이미지에 표식을 남기는 비가시성 워터마크 기술을 도입한 바 있다. 방심위가 전용 신고배너 설치 협조를 요청하자 즉각 신고채널을 개설하고 안내하기도 했다.

플랫폼 업계에서는 딥페이크 유통에 대한 책임을 물어 법적 의무를 부과할 조짐을 보이자, 우려의 목소리를 내고 있다. 자율규제를 촉구하는 데 그치지 않고 법제화하면 생성형 AI를 기반으로 성장하는 스타트업 생태계 조성에 악영향을 미칠 수 있다는 점에서다. 중소 플랫폼에서는 워터마크를 부착하는 것도 기술적으로 어려움이 있다고 토로한다.

해외 플랫폼 기업과의 역차별 문제도 거론된다. 딥페이크 저작물 유통의 온상으로 지적받은 텔레그램 등 해외 기업에는 법의 효력이 미치지 않고, 국내 기업들에게만 부담으로 작용할 가능성이 높다는 것이다.

업계 관계자는 “현재는 플랫폼에 자율규제를 촉구하는 정도의 논의가 이뤄지지만, 딥페이크 특성상 유통 방지를 위해 해외처럼 강력한 규제에 힘이 실릴 수 있다”며 “제재 방안의 실효성에 대한 논의가 우선 돼야 하고, AI 산업과 생태계 발전을 저해하지 않는 선에서 법제화가 이뤄져야 할 것”이라고 말했다.