네이버와 구글, 카카오 등 국내외 인터넷 사업자들이 지난해 딥페이크 성범죄물 등 불법 촬영물 18만건을 삭제‧차단한 것으로 확인됐다.
방송통신위원회는 4일 ‘2024년도 불법 촬영물 등의 처리에 관한 투명성 보고서’를 공개했다.
보고서는 국내외 주요 부가통신사업자를 포함한 81개 인터넷 사업자가 성적 허위 영상물, 아동‧청소년 성 착취물 등 불법 촬영물 등을 처리한 내용을 담았다.
사업자별로 ▲불법 촬영물 등 신고접수와 처리결과 ▲유통방지를 위해 기울인 노력 ▲유통방지 관련 절차 마련‧운영 ▲유통방지 책임자의 배치와 교육에 관한 사항을 투명성 보고서를 통해 확인할 수 있다.
보고서 제출 대상은 SNS와 커뮤니티, 인터넷 개인방송, 포털 등의 부가통신사업자 중 매출액 10억원 이상 또는 일평균 이용자 10만명 이상인 사업자와 웹하드 사업자다.
지난해 한 해 인터넷 사업자들은 이용자와 대리신고‧삭제 기관과 단체로부터 성적 허위 영상물, 아동‧청소년 성 착취물 등 불법 촬영물 23만1261건을 신고‧접수 받아 18만1204건을 삭제‧차단했다.
이는 전년도 대비 신고건 8만6448건(59.7%), 삭제‧차단건 9만9626건(122.1%)이 증가한 것이다. 디지털 성범죄물에 대한 사회적 경각심이 높아짐에 따라 신고 자체가 늘었고, 사업자가 해당 정보의 삭제 등 유통방지 조치를 보다 적극적으로 취한 결과로 분석된다.
방통위는 디지털 성범죄 피해를 최소화하기 위해 인터넷 사업자의 불법 촬영물 등 유통방지 책임자 대상 교육과 필터링 등 기술적‧관리적 조치 이행 여부에 대한 현장점검 등을 지속 추진한다는 계획이다.
이진숙 방통위원장은 “AI 서비스의 급격한 발전에 따라 딥페이크 성범죄물 등 디지털 성범죄 피해가 급증하고 있어 2차 피해를 예방하기 위해서는 인터넷 사업자의 유통방지 노력이 중요하다”며 “앞으로도 사업자들이 투명성 보고서를 충실히 작성해 안전한 사회를 조성하기 위한 사회적 책무를 다해주길 바란다”고 말했다.
방송통신위원회는 4일 ‘2024년도 불법 촬영물 등의 처리에 관한 투명성 보고서’를 공개했다.
보고서는 국내외 주요 부가통신사업자를 포함한 81개 인터넷 사업자가 성적 허위 영상물, 아동‧청소년 성 착취물 등 불법 촬영물 등을 처리한 내용을 담았다.
사업자별로 ▲불법 촬영물 등 신고접수와 처리결과 ▲유통방지를 위해 기울인 노력 ▲유통방지 관련 절차 마련‧운영 ▲유통방지 책임자의 배치와 교육에 관한 사항을 투명성 보고서를 통해 확인할 수 있다.
보고서 제출 대상은 SNS와 커뮤니티, 인터넷 개인방송, 포털 등의 부가통신사업자 중 매출액 10억원 이상 또는 일평균 이용자 10만명 이상인 사업자와 웹하드 사업자다.
지난해 한 해 인터넷 사업자들은 이용자와 대리신고‧삭제 기관과 단체로부터 성적 허위 영상물, 아동‧청소년 성 착취물 등 불법 촬영물 23만1261건을 신고‧접수 받아 18만1204건을 삭제‧차단했다.
이는 전년도 대비 신고건 8만6448건(59.7%), 삭제‧차단건 9만9626건(122.1%)이 증가한 것이다. 디지털 성범죄물에 대한 사회적 경각심이 높아짐에 따라 신고 자체가 늘었고, 사업자가 해당 정보의 삭제 등 유통방지 조치를 보다 적극적으로 취한 결과로 분석된다.
방통위는 디지털 성범죄 피해를 최소화하기 위해 인터넷 사업자의 불법 촬영물 등 유통방지 책임자 대상 교육과 필터링 등 기술적‧관리적 조치 이행 여부에 대한 현장점검 등을 지속 추진한다는 계획이다.
이진숙 방통위원장은 “AI 서비스의 급격한 발전에 따라 딥페이크 성범죄물 등 디지털 성범죄 피해가 급증하고 있어 2차 피해를 예방하기 위해서는 인터넷 사업자의 유통방지 노력이 중요하다”며 “앞으로도 사업자들이 투명성 보고서를 충실히 작성해 안전한 사회를 조성하기 위한 사회적 책무를 다해주길 바란다”고 말했다.