네이버, ‘악플과의 전쟁’ 더 강력하게 … 조롱·생명 경시 댓글도 잡아낸다

네이버가 온라인상의 2차 가해를 원천 차단하기 위해 인공지능(AI) 탐지 기술의 수위를 한층 높인다. 단순 욕설 방어를 넘어 기사의 전체 맥락까지 파악하는 ‘지능형 필터링’ 시스템을 전면에 배치하기로 한 것이다.

네이버는 생명 경시 표현과 사건 사고 피해자에 대한 공격을 집중적으로 걸러내는 'AI 클린봇 3.0'의 고도화 작업을 마치고 본격 가동에 들어갔다고 29일 밝혔다. 

이번 업데이트의 핵심은 자살이나 신체 훼손 등 반인륜적 콘텐츠를 선제적으로 차단하고, 유족이나 피해자를 향한 악의적인 비하 발언을 엄격히 통제하는 데 있다.

특히 이번 ‘AI 클린봇 3.0’은 댓글 자체의 텍스트뿐만 아니라 해당 기사의 제목과 본문 내용을 유기적으로 연결해 분석하는 능력을 갖췄다. 단순히 특정 단어의 포함 여부를 따지는 것이 아니라, 기사 주제에 비추어 해당 댓글이 조롱이나 혐오의 의도를 담고 있는지를 종합적으로 판단하는 방식이다.

지난 2019년 첫선을 보인 AI 클린봇은 그동안 진화를 거듭해 왔다. 초기에는 금칙어 기반의 단순 필터링에 머물렀으나, 2020년 문장 맥락 파악 기능을 도입하며 욕설 없는 모욕까지 잡아내기 시작했다. 이후 성적 불쾌감 유발이나 차별적 표현, 특수 기호를 이용한 우회 악플 등으로 탐지 범위를 지속적으로 넓혀왔다.

아울러 네이버는 한국인터넷자율정책기구(KISO)의 가이드라인을 시스템에 반영하는 등 정책적 공조도 강화하고 있다. 악성 댓글 비중이 높은 기사의 댓글창을 자동으로 비활성화하거나, 특정 섹션의 댓글 서비스를 제한하는 등 건전한 소통 환경 조성을 위한 제도적 장치도 병행 운영 중이다.

김수향 네이버 리더는 “네이버는 욕설, 비속어는 물론 새롭게 생긴 혐오, 비하, 차별 표현을 탐지하기 위해 클린봇의 성능을 지속 강화하고 있다”며 “생명 경시 조장, 피해자, 유족 조롱, 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화할 예정이다”라고 밝혔다.