AI 생성물 안정성 확보 골자, 22일 시행 예정고영향 AI, 워터마크 표기 등 기준 모호 비판유예기간 필요 공감대…세부 가이드라인 관건
  • ▲ ⓒGoogle gemini
    ▲ ⓒGoogle gemini
    AI기본법 시행을 앞두고 산업계 혼란과 우려가 커지고 있다. 정부는 최소한의 규제로 진흥 중심 정책 기조를 약속했지만, 모호한 정의와 고위험 AI에 대한 부담이 커지는 양상이다.

    2일 업계에 따르면 국회 본회의를 통과한 AI기본법은 오는 22일 시행을 앞두고 있다. 앞서 EU(유럽연합)는 2021년 4월 포괄적인 AI 규제를 담은 ‘AI법’을 선보였지만, 전면 적용 시점은 8월 2일로 유예를 뒀다. 시행 시점으로 보면 한국이 세계 최초로 전면적인 AI기본법을 적용하는 국가가 된 셈이다.

    AI기본법은 AI 진흥과 규제에 대한 방향성을 수립하고, 국가 차원의 AI 육성 방안에 대한 포괄적 내용을 담았다. 산업 측면에서는 AI 생성물에 대한 안정성과 투명성을 확보하는 내용을 골자로 한다.

    업계에서는 AI 저작권과 윤리 원칙, 고위험 AI 범위 등 기준을 수립해야 한다는 점에서 조속한 통과를 요구해 왔다. 국가 AI 경쟁력 제고를 통해 AI 주요 3개국(G3) 도약 목표를 실현하기 위해서도 법 제정이 필요하다는 목소리가 높았다.

    정부는 AI기본법이 필요 최소한의 규제만 적용하며, 최소 1년 이상 계도 기간과 규제 유예를 적용하겠다는 입장이다. 지난달 24일 열린 AI 기본법 시행령 설명회에서 과학기술정통부는 “AI 기본법은 규제법이 아니라 AI G3를 지향하는 우리나라의 생태계를 조성하기 위한 법”이라며 “법의 상당 부분이 지원과 진흥 관련 부분이고 아주 일부만 AI 사회에 있어서 규범으로서 필요한 조항”이라고 말했다.

    다만 산업계에서는 AI기본법 시행에 대한 우려를 거두지 않는 모습이다. AI 생성물에 대한 워터마크 표기 의무화 등 투명성 관련 조항과 고영향 AI에 대한 부담이 여전하기 때문이다.

    AI 기본법이 시행되면 AI를 개발하거나 이용하는 사업자는 모든 AI 생성물에 대해 AI로 제작됐다는 사실을 안내하는 사전고지 문구나 워터마크 등을 추가해야 한다. AI로 제3자를 사칭하는 딥페이크 범죄를 예방하고 이용자의 알 권리를 보장하자는 취지다.

    산업계에서는 규제 대상이 지나치게 포괄적이라며 반발하고 나섰다. 법 조항을 엄격하게 해석하면 자동 번역이나 스마트폰 사진 애플리케이션의 ‘AI 지우개’ 등 일상적인 기능에도 워터마크를 붙여야 하기 때문이다. AI 사업자에게는 표기 의무가 비용 부담으로 작용하며, 이용자에게는 서비스 몰입도를 떨어뜨리는 요소로 작용할 수 있다는 지적이다.

    또한 사업자에게는 고영향 AI에 대한 위험관리체계 구축과 관리·감독 등의 책무가 강화된다. 고영향 AI는 생명·안전·기본권에 중대한 영향을 미치거나 그럴 우려가 있는 AI 시스템을 의미한다.

    고영향 AI를 두고 ‘중대한 영향’의 기준에 대해서는 이견이 생길 가능성이 적지 않다. 기준이 정량화돼 있지 않고, 기술이 아닌 영향이 중심이기 때문에 신용평가나 고객 분류, 채용 보조 시스템 등이 모두 고영향 AI로 분류될 수 있는 여지가 있다는 점에서다. EU가 AI를 ‘저위험’부터 ‘제한적 위험’ ‘고위험’ ‘수용 불가능’ 등 위험 수위에 따라 4단계로 분류한 것과 대비되는 지점이다.

    고영향 AI로 분류되면 받게 되는 규제에 대한 우려도 높아지고 있다. 고영향 AI 사업자는 AI위험 관리 방안을 수립하고 미칠 영향에 대한 모니터링을 수행해야 하며, 결과를 도출한 기준을 설명할 의무도 지게 된다. 투자 여력이 부족한 스타트업이나 중소기업으로서는 대응하기 어려운 부분이다.

    스타트업얼라이언스가 발간한 'AI 기본법과 스타트업: AI 스타트업이 겪는 현실'에 따르면 AI 기본법에 대한 기업들의 대응 현황은 매우 부족한 실정이다. 응답 기업의 98%가 실질적인 대응 체계를 갖추지 못한 것으로 조사됐고, 대응 계획을 수립하고 준비 중이라고 답변한 기업은 2%에 불과했다.

    전문가들은 딥페이크 등 문제를 해결하고 저작권 등 AI 데이터 사용 관련 문제를 해결하기 위해 AI 기본법 시행 자체를 미룰 수는 없다고 말한다. 다만 산업계에 제도가 안착하기 위해 충분한 유예기간을 두고 실효성과 예측가능성을 높이는 논의를 이어가야 한다는 입장이다.

    업계 관계자는 “외국계 기업들은 법 시행 이후 민사소송이 제기될 수 있다는 부분 등에 있어서 민감하게 반응하고 있다”며 “정부에서 스타트업을 위한 지원센터를 만들고 세부 가이드라인을 공개한다고 한 만큼 지켜볼 필요가 있다”고 말했다.