이미지 훼손없이 생성된 이미지 정보임을 알 수 있어허위 조작정보 유의 안내, 신고채널 도입·즉각조치
  • ▲ ⓒ카카오
    ▲ ⓒ카카오
    카카오는 총선을 앞두고 AI를 활용한 딥페이크 근절을 위해 이미지 생성 모델 ‘칼로’에 비가시성 워터마크 기술을 도입했다고 13일 밝혔다.

    카카오는 카카오톡 채널인 ‘칼로 AI 프로필’ 기능에 비가시성 워터마크를 먼저 도입했다. 이달 내 이미지생성 웹기반 전문가 툴 ‘칼로 AI’에도 도입 예정이다.

    비가시성 워터마크란 일반 사용자의 눈에는 보이지 않는 워터마크를 적용하는 기술로, 이미지 가시적 훼손 없이 칼로로 생성된 이미지라는 정보를 담을 수 있다. 비가시성 워터마크는 사용자가 이미지를 일부 편집하더라도 비가시성 워터마크가 제거되거나 훼손되지 않는다.

    또한 언론사에서 AI를 이용해 생성한 기사는 사용자가 쉽게 인지할 수 있도록 상단에 해당 사실을 표기한다. 해당 기사에는 ‘자동생성 알고리즘에 의해서 작성된 기사’라고 노출해 바로 인지할 수 있다.

    카카오 공식 채널을 통해 딥페이크 근절을 위한 이용자 유의 사항을 발송해 이용자들이 딥페이크를 악용한 허위 조작 정보를 주의할 수 있도록 한다. 카카오 나우 배너를 통해 딥페이크 악의적 이용에 유의하도록 안내하고 있으며, 오픈채팅 탭에서도 딥페이크 근절을 위한 캠페인 배너 광고를 진행할 예정이다. 

    카페 게시글, 티스토리, 카카오스토리, 브런치 스토리 등 웹 게시글과 댓글 및 카카오 TV 게시물, 뉴스 댓글 등 위반사항이 발견되면 이용자가 신고할 수 있도록 하며, 빠른 조치를 위해 중앙선거관리위원회 신고센터로 바로 연결된다. 게시물의 임시조치는 중앙선거관리위원회의 결정에 따라 빠르게 조치될 수 있도록 한다.

    추가적으로 다음에 딥페이크 관련 키워드 검색시 딥페이크 기술 접근과 활용에 있어 법령에 위반되거나 권리 침해가 일어나지 않도록 유의해야 한다는 내용의 안내문을 상단에서 확인할 수 있다.

    카카오 관계자는 “앞으로 남은 선거 운동기간 동안 악의적인 딥페이크를 비롯한 허위 조작 정보를 담은 콘텐츠가 유통되지 않도록 관계 당국과도 긴밀하고 적극적인 협의를 지속 이어나갈 방침”이라고 말했다.