세계 최초 AI 규제법 내달 유럽 시행 … 유럽 수출 AI 의료기업도 적용 대상

유럽에서 세계 최초의 AI(인공지능) 규제법이 오는 8월2일부터 시행된다. 다만 의료기기나 중요 인프라는 고위험 기기로 분류돼 2년 뒤인 2026년 8월2일부터 보다 엄격한 규제가 적용될 전망이다.

16일 한국바이오협회에 따르면 EU(유럽연합)에 법인이 없더라도 한국에서 AI 의료기기를 개발해 EU에 수출하는 기업도 AI 규제법 적용 대상이다.

AI 규제법은 AI 기술의 잠재적 위험과 영향을 규제해 안전하고 신뢰할 수 있는 AI 시스템을 개발하고 EU 시민들의 권리를 보호하기 위해 제정됐다. 제품 출시 전 연구 또는 테스트 활동에는 적용되지 않는다.

전문가들로 구성된 과학 패널이 기술 및 윤리적 가이드라인을 제시하는데 AI 규제법을 위반하게 되면 최대 3500만유로(528억원) 또는 글로벌 매출의 7%를 벌금으로 내야 한다.

AI 규제법은 자연인의 원격 생체인식을 활용한 AI 시스템의 기술적 부정확성은 연령, 민족, 인종, 성별 또는 장애 등과 관련해 편향된 결과를 초래할 수 있다는 점을 근거로 개인 생체인식 데이터를 고위험으로 분류하고 있다.

이에 AI가 적용되는 의료기기 및 체외진단의료기기는 물론, 임상시험에 사용되는 AI 기반 시스템 대부분은 고위험 기기에 해당될 가능성이 높다는 게 업계의 중론이다.

고위험 기기로 분류되면 해당 업체는 제품 수명 주기 전반에 걸쳐 위험 관리시스템을 구축하고 데이터에 오류가 없음을 증명하기 위해 데이터 거버넌스를 수행해야 한다. 제품이 AI 규제법을 따르고 있다는 점을 증명하는 기술 문서도 제출해야 한다.

한국바이오협회 관계자는 "EU에 진출하려는 AI 관련 의료기기 개발기업의 주의가 필요하다"고 설명했다.