AI 기술로 1분기 내 악성댓글 감지, 알림 기능 강화 방침보도권고 기준 마련, 언론사 자동중단 기능 제공 검토
  • ▲ ⓒ네이버
    ▲ ⓒ네이버
    네이버가 대형참사와 인명사고 보도에서 발생하는 악성댓글 감지와 알림 기능을 강화한다.

    네이버는 24일 공식 블로그를 통해 인명사고 탐지 AI 기술을 ’클린봇 옵저버‘에 1분기 내로 적용해 고도화할 예정이라고 전했다.

    클린봇 옵저버는 악플 작성 시도 비율을 계산해 감지 대상 기사를 자동으로 선별하고, 해당 기사를 언론사에 알려주는 서비스다. 언론사들은 이전보다 빠르게 댓글 제공 중단 필요성을 확인하고 즉각 중단을 결정할 수 있다.

    네이버는 뉴스 댓글 본래의 순기능이 강화될 수 있도록 다양한 운영적, 기술적 보완책을 고민하며 고도화하고 있다. 자살 보도를 탐지해 댓글, 추천 스티커 기능을 제외한 것이 대표 사례다. 무안국제공항에서 발생한 여객기 참사 보도 때도 약 30개 언론사가 네이버 뉴스 댓글 중단 기능을 이용했다.

    2019년 업계 최초로 네이버는 인공지능 기반의 악플 탐지 ‘클린봇’을 선보였다. 문장 맥락을 파악해 선정적·폭력적·차별적·비하적 표현도 스스로 탐지해서 필터링하는 등 지속 개선 중이다.

    더불어 네이버는 언론 협단체와 함께 상반기 중 ‘자살 예방 보도 준칙’과 같은 참사 보도 권고 기준과 악플 예방 문구를 마련해, 해당 보도 시 문구를 삽입하도록 협의할 예정이다. 관련 문구가 포함된 기사는 ‘자살 보도’와 마찬가지로, 언론사에 댓글 자동 중단 여부를 설정할 수 있는 기능을 제공할 수 있을 전망이다.

    이 밖에도 네이버 뉴스는 첨예한 사회적 갈등이나 의견 대립이 발생한 것으로 감지된 기사에 대한 대응도 검토 중이다. 예를 들어 댓글 내 공감, 비공감이 모두 일정 기준 이상 빠르게 올라가는 경우 언론사에 알림을 보내는 방식이다.

    네이버 관계자는 “자살 예방 캠페인에 적극 동참했던 것처럼 대형 참사를 포함한 인명사고 기사에서도 악플 근절을 위해 기술적·정책적 노력을 지속해 나가겠다”고 말했다.