챗GPT 성인 모드 연내 도입 거론, 글로벌 논란 확산최대 사업자인 오픈AI 결정으로 업계도 파장 예상생성형AI 규제 움직임 지속, 국내 도입 어려울 듯
  • ▲ ⓒ오픈AI
    ▲ ⓒ오픈AI
    글로벌 AI 서비스 업체들이 잇따라 성적 대화와 이미지·영상 생성을 허용하고 있다. 아동·청소년용과 구분하고 유료 이용자를 늘린다는 목표지만 AI윤리 측면에서 논란이 거세다.

    16일 업계에 따르면 챗GPT 개발사 오픈AI 샘 올트먼 최고경영자는 SNS를 통해 성인 이용자에게 허용되는 콘텐츠 범위를 확대하겠다고 발표했다.

    오픈AI는 올해 2월부터 성인 모드 출시를 예고한 바 있으며, 12월부터 성인인증 이용자들이 성애물(erotica)을 이용할 수 있도록 한다는 방침이다. 아동·청소년과 정신문제를 겪는 사람의 AI 챗봇 오용을 방지하는 것도 중요하지만, 성인 이용자가 원하는 방식으로 AI를 사용할 수 있도록 자유를 제공해야 한다는 취지다.

    이미 다른 생성형 AI 서비스들은 성적 대화와 이미지·동영상 등 콘텐츠를 매개로 이용자 저변을 확대해 온 만큼 챗GPT도 해당 흐름에 편승한 것으로 풀이된다. 대표적으로 그록은 별도 ‘스파이시 모드’를 통해 텍스트나 이미지 입력 시 성인물을 만들 수 있게 했다. 국내 AI 서비스 중 ‘뤼튼’은 AI캐릭터 채팅 서비스를 지원하는데, 성인용 대화가 이 중 상위권을 차지하고 있다.

    다만 챗GPT는 다른 생성형 AI 서비스보다 막대한 이용자 수를 보유했다는 데서 이목이 집중되는 모습이다. 사용자들에게 미치는 영향력이 가장 클뿐더러 정책 변화가 다른 플랫폼에도 영향을 미치며 업계 표준으로 자리잡을 수 있다는 점에서다. 챗GPT는 9월 기준 월 방문자 약 59억명을 보유했고, 글로벌 탑 10에 포함된 플랫폼 중 생성형 AI로는 유일하다.

    오픈AI는 성인인증을 강화하고 청소년의 접근을 차단하기 위한 안전장치를 마련한다는 복안이지만 논란은 점차 커지며 철회 요구로 이어지고 있다. 올트먼 최고경영자의 SNS 계정에는 성인물 허용을 비난하는 댓글들이 달렸다. 미국 국립성착취방지센터 헤일리 맥나마라 이사는 성명을 통해 “성적으로 대상화된 AI 챗봇은 본질적으로 위험하며 가공된 친밀감으로 정신건강에 해로운 영향을 줄 수 있다”고 비판했다.

    AI 서비스 업계에서는 지난 수년간 윤리 문제와 콘텐츠 규제 논란이 지속돼 왔다. 성인물을 비롯해 AI를 활용한 표현의 자유를 옹호하는 쪽과 영상이나 음악 등 다른 저작물처럼 규제 대상이 돼야한다는 입장이 첨예하게 갈리면서다. 규제 공백 속에서 SNS에서는 AI 합성 기술을 활용한 음란물이 확산되고 있고, 딥페이크 영상 등을 통해 사회적 문제로 확산되기도 했다.

    생성형 AI 성인물 생성은 사회적 문제로 확산되면서 주요 국가에서 법제화 논의를 거치고 있는 상황이다. 유럽연합(EU)에서는 생성형AI가 성인물 제작에 사용되는 것을 제한하는 법안을 준비 중이며, 호주에서도 AI 챗봇 사용 시 연령 인증을 의무화했다. 미국 캘리포니아 주에서는 아동·청소년의 AI 챗봇 이용을 규제하는 법안을 제정해 내년부터 발효를 앞두고 있다.

    한편, 업계에서는 성인용 챗GPT 서비스가 출시되더라도 국내에서 도입될 가능성은 낮을 것으로 예상하고 있다.

    국내에서는 성폭력특레법상 AI를 활용한 성적 이미지와 음성 합성이나 대화 생성 등을 ‘허위 영상물 편집 및 소지’ 혐의를 들어 형사처벌 대상으로 규정하고 있기 때문이다. 또한 내년 AI기본법 시행을 앞두고 선정적인 콘텐츠 생산을 제한하기 위해 생성형 AI콘텐츠 필터링과 연령인증 절차를 강화해야 한다는 목소리가 높아지고 있어서다. 

    전창배 국제인공지능윤리협회 이사장은 “오픈AI의 성인용 챗GPT 출시는 사용자 확보와 이윤 추구만을 목적으로 한 근시안적 발상”이라며 “청소년 보호 안전장치가 선행되지 않은 상태에서 성인용 버전을 출시하는 것은 굉장히 위험할 수 있으며 제도적 보완이 반드시 필요하다”고 강조했다.