과방위 주최 긴급 토론회 개최, 여야 한 목소리자율규제만으로 대응 불가, 규제 도입은 ‘신중’관련 법안 다수 발의, 실효성있는 법제화 추진
  • ▲ ⓒ뉴시스
    ▲ ⓒ뉴시스
    생성형 AI를 악용한 딥페이크 문제해결을 위해 여야가 뭉쳤다. 플랫폼 규제 강화로 이어지는 것에 대해서는 한계가 있을 것이라는 지적이 나왔다. 해외기업 역차별과 법안 실효성을 고려해야 한다는 주장에 힘이 실렸다.

    6일 업계에 따르면 국회 과학기술정보방송통신위원회(이하 과방위)는 지난 5일 딥페이크 성범죄 근절 긴급 토론회를 개최했다.

    그동안 과방위는 개원 이후 전체회의에서 방송법과 방송통신위원장 탄핵, 청문회로 대립해왔다. 정책 논의가 사라지면서 과방위에서 방송과 과학기술을 분리해야 한다는 식의 비판이 이어졌다.

    최근 딥페이크 범죄는 중대한 사회 문제로 떠오르면서 입법을 통한 대안 마련이 절실해졌다. 소관 상임위원회인 과방위도 이런 흐름을 의식해 긴급 토론회를 개최하는 데 여야 의견이 합치된 모습이다.

    현행 성폭력처벌법상 딥페이크 성범죄는 배포 목적이 입증되지 않으면 제작했더라도 처벌이 불가능한 상황이다. 영상물을 소지하거나 구입, 시청하는 행위도 처벌되지 않는 만큼 입법을 통해 보완해야 한다는 목소리가 제기돼 왔다.

    사전 예방과 기술적 차단이 사실상 불가능한 만큼, 유통경로로 주로 활용되는 플랫폼에 책임과 처벌을 의무화하는 법안 마련에 초점이 맞춰지는 분위기다. 토론회에서는 플랫폼 기업들의 자율규제만으로는 딥페이크 성범죄를 막기 어렵다는데 공감대가 형성됐다.

    이소은 국립부경대 미디어커뮤니케이션학부 교수는 “딥페이크 관련 대응 사례를 보면 대체로 플랫폼의 책무를 강화한다는 점은 긍정적이나, 현재로서는 이용자 신고에 의존하는 한계가 있다”며 “자율규제는 사업자마다 기준이 상이하다는 점도 고려돼야 한다”고 말했다.

    해외에서는 생성형 AI로 인한 위험을 막기위해 플랫폼에 법적 의무를 강화하는 추세다. EU의 AI법은 플랫폼의 유해 콘텐츠 검열 의무를 부과했다. 디지털서비스법(DSA)은 콘텐츠 유통과 서비스에 관여하는 사업자에게 콘텐츠 관련 위험을 해소할 것을 명시했다.

    다만, 플랫폼에 과도한 법적 의무가 지워지는 것을 경계해야 한다는 목소리도 나왔다. 해외 기업과 역차별 문제와 더불어 법안 실효성에 대한 점검이 필요하다는 점에서다.

    김명주 서울여대 정보보호학부 교수는 “딥페이크 기술을 규제하거나 플랫폼에 책임을 부여하고 처벌을 강화하는 행위로 생기는 부작용을 고려해야 한다”며 “국내 플랫폼이 1위가 아닌 상황에 동등한 규제를 받으면 역차별을 받을 우려도 있다”고 전했다.

    이 교수도 “플랫폼 책무 부과가 산업계에 미치는 부작용을 고려할 필요가 있다”며 “최근 발의된 법안들이 해외법률에 근거를 두고 있지만 대응책이 실제로 효과가 있는지에 대한 연구결과가 없다”고 지적했다.

    현재 국회에는 딥페이크 관련 법안이 33건 발의돼 있다. 성범죄 영상의 제작·유포자만 아니라 소지하거나 시청한 경우도 처벌토록 하는 등의 규정이 눈에 띈다. 피해가 발생했을 경우 영상 삭제 등 사후 처리 방안을 명시하거나, 유통 채널인 플랫폼에 수사 협조 의무를 부과하는 내용의 법안도 상정돼 있다.

    텔레그램 메신저가 딥페이크 성범죄 영상물 유통의 온상으로 지적받은 만큼, 국내는 해외와 달리 메신저 서비스에 대한 처벌 규정이 없다는 문제점도 부각 됐다. 영국 등 해외 국가는 SNS 플랫폼만 아니라 메신저 애플리케이션도 규제 대상에 포함하고 있다. 국내는 정보통신망법이 적용되다 보니 상대적으로 규정이 미비한 상황이다.

    최진웅 국회입법조사처 과학방송통신팀 입법조사관은 “메신저 앱을 규제 대상에 포함한 국가는 정부에서 시정명령을 내린 뒤 이행하지 않으면 벌금을 물리고, 지속 위반 행위에는 차단 조치를 내린다”며 “정보통신망법은 메신저 앱 대상 처벌이 미흡하다. 전기통신사업법 조차도 해당 규정이 미비하다”고 진단했다.

    다만 토론회를 통해서는 성착취물을 소지하거나 시청하는 것에 대한 처벌죄 신설에 회의론도 나왔다. 신고가 위축될 수 있다는 부분과, 생산·유통에 형사처벌을 집중하는 것이 더 유효하다는 점에서다.

    여야는 토론회를 통해 언급된 딥페이크 대응 대책을 구체화해 법안 마련에 속도를 내겠다는 입장이다. 

    최형두 국민의힘 간사는 “딥페이크 기술의 피해사례는 남녀노소를 가리지 않고 급속도로 확산되고 있다”며 “사회적 공감대 조성을 위해 여야가 함께 나설 것”이라고 말했다.