테러와 스팸, 혐오 게시물, 가짜뉴스 등 위반 게시물 AI가 스스로 찾아 삭제그간 허용됐던 자살 및 자해 관련 검색도 원천 차단
  • 인스타그램이 이달부터 인공지능(AI)을 활용해 가짜뉴스 등 유해 콘텐츠를 신고하는 기능을 도입한다.

    카리나 뉴튼 인스타그램 글로벌 공공정책 총괄은 9일 페이스북코리아 본사에서 열린 간담회에서 안전한 플랫폼 구축을 위한 인스타그램의 정책 및 기능을 발표했다.

    뉴튼 총괄은 "9월부터 AI 기술를 통해 유해 콘텐츠를 찾아 자동으로 신고하는 기능을 도입했다"며 "테러와 스팸, 혐오 게시물 등 가이드라인을 위반한 게시물이 대표적인 예"라고 설명했다.

    AI 자동 신고 기능으로 혐오 발언을 비롯해 집단 괴롭힘 등 폭력적인 이미지나 내용이 포함된 게시물을 허용하지 않겠다는 것. 사용자들이 직접 신고한 유해 게시물의 경우 가이드라인 위반 여부에 따라 삭제가 결정된다.

    뉴튼 총괄은 "지금까지 허용됐던 자살 및 자해와 관련한 콘텐츠도 금지된다"며 "이를 위해 한국의 자살예방센터와 협력 중"이라고 강조했다.

    이 밖에 뉴튼 총괄은 '스트라이크 아웃' 모델을 적용하고, '사이버 불링'에 대한 연구를 확대하는 등 지속적인 AI 기술 트레이닝을 지속할 것을 약속했다.