AI 기본법 시행 첫 날, AI 워터마크는 아직 … 당분간 혼란 이어질 듯

세계 최초의 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)’이 전면 시행 됐지만 현장은 혼란 일색이다. 특히 AI 생성물에 대한 워터마크 등의 알림 표시 의무는 아직까지 미진한 상황이다.

정부가 1년간 계도기간을 거치기로 했지만 글로벌 AI 서비스에도 모두 적용되는만큼 당분간 AI 기본법을 둘러싼 혼선은 지속될 전망이다.

22일 업계에 따르면 주요 AI 기업은 AI 기본법 시행 첫날을 맞아 상황을 예의 주시 중이다.

AI 기본법은 유럽연합(EU)에 이어 두 번째로 마련된 AI 산업 관련 법안으로, 우리나라는 포괄적 기본법을 전면 시행한 세계 최초 국가가 됐다.

AI 기본법은 AI 생성물 워터마크 의무화를 비롯해 초고성능 AI한 안전성 확보 의무 등을 골자로 한다. 정부는 AI 산업 규제와 진흥을 목표로 안전한 AI 활용 기반을 만들겠다는 취지라고 밝히고 있지만 산업 현장에서는 실제 적용 기준과 집행 방식에 대한 혼란이 적지 않다.

가장 혼란이 발생하는 것은 AI 생성물에 대한 워터마크 등 표시의무다. AI 오용에 대한 국민들의 불안감을 해소 차원에서 제정됐지만 현재까지 숏폼 등 주요 AI 콘텐츠에서는 여전히 워터마크를 찾을 수 없는 AI 생성물이 대다수다. 

정부는 일반 생성물에 대해 가시적인 워터마크 외에 기계가 판독할 수 있는 비가시적 워터마크도 허용했다. 하지만 사실과 구분이 어려운 딥페이크 생성물은 가시적인 워터마크 등 사람이 인식할 수 있도록 의무화한 상황이다.

글로벌 AI모델도 해당 규제에 적용을 받지만 어디까지나 국내 법인만큼 규제 적용이 현실성 있느냐에 대한 의문이 여전하다. 

글로벌 빅테크 기업은 일찌감치 워터마크를 적용하고 있다. 현재 오픈AI의 ‘DALL·E 3’나 마이크로소프트의 ‘Bing Image Creator’, 어도비의 ‘Firefly’, 구글 ‘바나나’ 등은 생성 이미지에 눈에 보이는 워터마크를 넣고 있다. 이들은 이미지 파일 메타데이터 영역에 AI로 생성됐다는 기록을 남기는 콘텐츠 출처 및 진위 확인(C2PA) 표준을 따르고 있다. 

다만 일부 AI모델에서는 유료결제시 워터마크를 제거해주거나 아예 넣지 않는 모델도 적지 않다. 예를 들어 xAI의 AI모델 ‘그록(Grok)’은 아예 워터마크나 C2PA 표준에 대한 정책이 없는 것으로 전해진다. 특히 오픈소스 모델 기반의 AI모델은 로컬 환경에서 구동되는 만큼 워터마크가 아예 포함되지 않는 경우가 대다수다.  

무엇보다 이런 워터마크 의무를 AI 서비스를 제공하는 사업자로 한정된 것도 앞으로 풀어야 할 과제다. AI 생성물을 소비하거나 게시하는 이용자는 해당 규제에 적용받지 않기 때문에 유통 자체를 막기는 쉽지 않을 것이란 전망이 지배적이다.

업계에서는 AI 기본법을 둔 혼란이 당분간 이어질 것으로 예상했다.

업계 관계자는 “현재 해외 AI모델이 기하급수로 늘고 있는 상황에서 이들에게 AI 기본법을 적용할 수 있을지도 불투명하다”며 “특히 하루가 다르게 AI모델이 늘어나고 있고 오픈소스 AI모델도 급증하고 있다는 점에서 1년의 규제유예도 짧다”고 전했다.