악의적 선거 사용 방지 위한 취지자율 협의체 구성, 기업간 협력
  • ▲ ⓒ한국인터넷기업협회
    ▲ ⓒ한국인터넷기업협회
    총선을 앞두고 네이버, 카카오, SK커뮤니케이션즈가 딥페이크 방지 등 선거의 공정성과 신뢰성 확보를 위해 공동선언문을 발표했다.

    한국인터넷기업협회는 8일 자발적으로 구성한 협의체 활동의 일환으로 ‘악의적 선거 딥페이크 사용 방지를 위한 공동선언’을 채택했다.

    이번 공동선언은 국회의원 선거 기간 동안 참여 기업 간 긴밀한 협력 기조를 세우기 위해 마련됐다.

    공동선언문에는 ▲악의적 선거 딥페이크의 위험을 낮추기 위한 탐지와 신속한 조치 노력을 기울이고 ▲대응 정책 공개를 통해 대응 투명성을 높이며 ▲확산 방지를 위한 지속적 논의와 정보, 의견 교류 활성화를 추구한다는 내용이 담겼다.

    또한 시민단체, 학계 등 외부 전문가와의 지속적 교류와 논의를 주도하고, 악의적 선거 딥페이크에 대한 대중들의 인식을 높이기 위한 노력도 병행하자는 취지다.

    채택 기업들은 공동선언문 발표를 계기로 인공지능(AI) 생성 콘텐츠에 대한 플랫폼 운영 기조와 자율규제의 중요성을 공고히 하며 다양한 방안을 마련하고 있다.

    네이버는 콘텐츠의 출처 정보를 확인할 수 있는 ‘글로벌 기술 표준(C2PA) 채택 추진’과 ‘비가시성 메타 정보 피처 반영 및 생성 콘텐츠를 탐지하는 기술’ 확보를 목표로 연구개발하고 있다. 카카오는 생성형 AI로 작성한 기사에 AI 적용 사실을 표시하고, 이미지 생성 AI모델 ‘칼로’에 ‘비가시성 워터마크를 부착하는 기술’ 도입을 준비하고 있다. SK커뮤니케이션즈는 AI를 이용한 이미지 생성 시 주요 정치인의 성명에 관한‘검색어 제한 조치’를 통해 선거 관련 딥페이크 제작을 방지한다.

    한편, 구글코리아, 메타(페이스북코리아), 엑스(구 트위터코리아) 등 해외 기업들도 기술협정에 따라 국내 기업들과의 자율협의체 활동에 참여하며 선거 기간동안 적극 대응할 예정이다.