인간의 통제 벗어난 AI 광고… 고객 얼굴에 나체 이미지 합성한 AI 앱 논란

전 세계 광고 업계를 뒤흔든 새로운 툴(tool)로 급부상하며 폭 넓게 활용되고 있는 인공지능(AI)이 인간의 통제를 벗어난 허점을 드러내고 있다.

8일 업계에 따르면 미국 워싱턴 주의 공공 복권인 워싱턴 복권(Washington’s Lottery)이 지난달 초 서비스를 시작한 생성형 AI 앱 '테스트 드라이브 어 윈(Test Drive a Win)'이 부적절한 이미지를 생성해 논란이 되고 있다.

해당 앱은 생성형 AI 기술을 활용해, 복권에 당첨된 후 상상해 볼 수 있는 환상적인 휴가에 관한 이미지를 생성해준다. 고객들이 셀피(selfie, 스마트폰으로 찍은 자신의 사진)를 찍거나 자신의 사진을 앱에 업로드하면 AI가 고객의 이미지를 이국적인 여행지와 합성해 복권 당첨 후의 환상적인 휴가를 미리 상상해 볼 수 있도록 지원해 많은 호응을 얻었다.

그러나 최근 한 여성 사용자가 'AI가 알몸에 가까운 이미지에 자신의 얼굴을 합쳐놓은 이미지를 생성했다'고 밝히면서 논란이 됐다. 자녀를 둔 50세 여성이라고 밝힌 사용자는 시애틀의 라디오 방송국인 KTTH에 해당 이미지를 보내면서 "이미지를 보고 충격 받았다. 우리의 세금이 이런 캠페인에 사용되고 있다는 사실이 경악스럽다"고 비판했다. 그러면서 "누구의 책임이든 (그를) 해고해야 한다"고 강력하게 요구했다.

크리에이티브 에이전시 VML 시애틀(VML Seattle)이 대행한 워싱턴 복권의 캠페인은 출시 후 한 달 동안은 문제 없이 진행했됐으나, AI가 생성한 부적절한 이미지가 논란이 되자 앱 서비스를 곧바로 중단했다. 

워싱턴 복권 측은 성명을 내고 "(해당 앱을) 출시하기 전, 이미지 생성을 통제하기 위한 엄격한 매개 변수를 설정하기 위해 AI 플랫폼 개발자들과 긴밀히 협력했다"며 "그럼에도 AI 플랫폼의 한 사용자가 가이드라인을 따르지 않는 이미지를 제공한 것을 확인하게 됐다"고 설명했다.

그러면서 "한 달 전에 론칭한 이 캠페인은 규정된 가이드라인 하에 수천 개의 이미지를 생성해냈다"며 "단 한 명의 사용자가 겪은 문제라고 해도 그 정도가 상당하다고 판단돼 서비스를 폐쇄하기로 했다"고 밝혔다. 

해당 앱을 제작한 엔터테인먼트 스튜디오 '시크릿 레벨(Secret Level)' 측은 이와 관련한 언급을 거부했다.

이번 논란은 인간의 통제를 벗어난 AI 기술이 브랜드의 안전성과 신뢰도에 실질적인 악영향을 미친 최신 사례로 주목 받고 있다. 지난해에는 영국 일간지 가디언(The Guardian)의 한 기사 옆에 AI가 생성한 부적절한 설문조사가 등장해 비판 받았다.

당시 가디언지는 호주 시드니의 한 고등학교에서 머리를 크게 다쳐 숨진 채 발견된 21세 여성에 대한 뉴스를 보도했다. 생성형 AI는 독자들에게 '살인이나 자살, 또는 사고 등 여성의 죽음의 원인을 선택해달라'는 설문을 제시했다. 설문을 본 독자들은 즉시 가디언지에 강력하게 항의했고, 가디언 측은 마이크로소프트(Microsoft)가 제공하는 자동화된 여론조사 시스템에 책임이 있다고 말하며 이로 인해 '평판을 심각하게 훼손 당했다'고 주장했다.

현재 AI는 비용 절감과 효율 극대화를 위해 광고와 마케팅 등에 폭넓게 사용되고 있으나, 이와 관련한 명확한 가이드라인이나 규제가 마련돼 있지 않아 워싱턴 복권과 가디언 사례에서 보듯, 문제 발생시 '양날의 검'이 될 수 있다는 우려가 끊이지 않고 있다.