'이루다' 논란 재발 막는다… 방통위, 'AI 윤리' 대책 마련

방송통신위원회가 인공지능(AI) 윤리규범을 구체화한다. 최근 AI 채팅로봇 '이루다'를 둘러싼 논란이 커지자 이용자 보호에 직접 나선 것으로 풀이된다.

방통위는 이용자와 사업자 대상 교육‧컨설팅을 지원하고 AI윤리규범 등을 구체화해 제도개선을 추진할 계획이라고 14일 밝혔다.

최근 스타트업 스캐터랩의 AI 챗봇 '이루다'에 대한 이용자의 성희롱성 발언 등이 사회적으로 큰 논란을 일으킨 바 있다. 여기에 다른 앱에서 수집된 개인 간 카카오톡 대화 내용 등 개인정보가 심각하게 수집·유출됐다는 문제도 발생했다.

방통위는 사업자와 이용자, 정부 등 지능정보사회 구성원 모두가 AI윤리의 중요성을 인지하고 각자가 실천할 수 있는 방안을 모색해야 한다고 지적했다.

이에 AI서비스에서 이용자 보호를 가장 큰 원칙으로 삼고 이용자 교육, 사업자 컨설팅, 제도개선 등을 추진해 나간다는 방침이다.

방통위는 올해부터 이용자에게 AI서비스의 비판적 이해 및 주체적 활용에 대한 교육을 실시한다. 교육 내용으로는 이용자가 AI서비스에 활용된 알고리즘의 편향성을 파악하고 그에 따른 문제를 최소화해 서비스를 이용할 수 있는 방안 등을 담을 계획이다.

2022년부터는 신규예산을 확보해 AI윤리교육 지원대상을 이용자에서 사업자로까지 확대하고 스타트업 등을 대상으로 서비스 설계시 AI 역기능 등 위험관리 컨설팅을 지원하는 사업을 추진할 예정이다.

아울러 AI서비스 이용자 보호를 위해 규범 및 제도를 구체화할 계획이다. 방통위는 2019년 11월 '차별금지, 인간존엄성 보호' 등의 내용을 포함한 '이용자 중심의 지능정보사회를 위한 원칙'을 발표한 바 있다. 해당 원칙이 선언적 규정에 그쳐 올해부터는 이를 실천하기 위한 구체적 사례·방법 등을 공유할 예정이다. 

중장기적으로는 이용자에게 피해를 야기한 AI서비스의 책임소재 및 권리구제 절차 등이 포괄될 수 있도록 기존의 법체계를 정비해 나간다는 방침이다.

이를 위해 방통위는 지난해 1월 정보통신정책연구원(KISDI) 내에 지능정보사회 정책센터를 설립하고, 지난해 9월부터 센터 내에 법제 연구반을 구성하여 운영하고 있다.

한상혁 방통위 위원장은 "AI기술의 혜택은 골고루 누리되 부작용은 최소화할 수 있도록 사람중심의 AI를 위한 정책을 촘촘히 추진해 나갈 것"이라고 말했다.