금융권 AI 활성화·신뢰 제고 위한 가이드라인 마련…연내 시행

금융권 AI(인공지능) 활용을 활성화하고 AI 기반 금융서비스의 신뢰 제고를 위한 가이드라인이 마련됐다. 금융당국은 충분한 준비기간을 거쳐 연내 가이드라인을 시행할 계획이다. 

금융당국은 8일 제 1차 '디지털금융협의회 데이터 분과회의'를 개최하고 AI 기반 금융 서비스 개발을 위한 '금융분야 AI 가이드라인'을 발표했다.

AI 가이드라인은 ▲금융산업의 책임성 강조 ▲AI 학습용 데이터의 정확성·안전성 확보 ▲AI 금융서비스의 투명성·공정성 담보 ▲융소비자 권리의 엄격한 보장 등 4가지 핵심가치를 구현하고자 했다. 

우선 AI 서비스의 책임있는 운영을 위해 AI 윤리 원칙 마련, AI 조직 구성, 위험관리정책 수립의 3중 내부 통제장치가 마련된다. 

금융회사는 회사별 가치, AI 활용 상황 등에 따라 AI 서비스 개발·운영 시 준수해야할 원칙·기준을 수립한다. AI의 잠재적 위험을 평가·관리할 구성원의 역할·책임·권한을 서비스 전단계에 걸쳐 구체적으로 정의한다.

AI 서비스 자체 평가·관리정책을 마련하고, 개인권리에 중대한 위험을 초래할 수 있는 서비스에는 강화된 위험관리를 적용한다. AI 의사결정이 개인의 금융거래계약의 체결·유지에 중대한 영향을 가져오는 경우, 이에 대한 내부통제·승인절차 등을 마련하고 별도 책임자를 지정한다.

AI 개발·학습단계에서 질 좋은 데이터가 활용되도록 하고, 개인신용정보 오·남용이 없도록 정보보호 강화에 나선다.

AI 학습에 사용되는 데이터의 출처·품질·편향성·최신성 등을 조사·검증하고 개선노력을 지속한다.

AI 개발 과정에서 개인신용정보 오·남용을 방지하고, 불필요한 개인신용정보 처리를 최소화하는 시스템을 마련한다. 특히 사생활정보 등 민감정보를 활용하고자 하는 경우, 비식별 조치 등 안전한 정보 활용을 위한 충분한 조치를 거친다. 해당 정보 미사용시 AI 시스템에 성능 저하가 발생하는지, 해당 정보 사용시 효과와 혜택을 보는 집단은 누구인지 등 정보활용 필요성을 면밀히 평가하고 재식별·유출 등을 방지한다.

AI 활용결과 불합리한 소비자 차별 등이 나타나지 않도록 서비스 특성별로 위험요인을 통제하고, 서비스 공정성 제고에 주력한다.

AI 시스템 운영과정에서 나타날 수 있다는 다양한 위험요인을 서비스 특성에 맞게 합목적적으로 통제한다.

AI에 따른 집단간 차별 등 기본권 침해행위가 발생하지 않도록 서비스 특성별 공정성 기준을 설정·평가한다. 금융소외계층에 대한 금융접근성 제고를 목적으로 한 정책금융상품 등 결과적 평등이 중요한 금융상품의 경우, 집단간 대출 승인율 등 인구통계적 동등성 지표를 기준으로 공정성을 평가한다.

금융소비자가 AI 서비스에 대한 충분한 설명을 듣고, 자신의 권리를 충분히 행사할 수 있도록 지원할 계획이다.

금융소비자에게 AI가 활용된다는 사실을 사전고지하고, 소비자의 권리 및 이의신청·민원제기 등 권리구제 방안 등을 알기 쉽게 안내한다. 특히 AI를 통해 신용평가, 보험가입 등 금융거래·계약체결 여부 결정 등을 한 경우 ‘설명요구·정정요구권’이 있음을 고지한다.

아울러 AI 서비스 외부위탁 개발·운영 시에도 금융회사가 직접 개발·운영할 때와 똑같이 안전한 개발·운영이 가능하도록 할 방침이다. 

AI 서비스로 인한 소비자 피해 발생시 조속한 피해구제가 가능하도록 명확한 손해배상 처리 절차 등을 마련한다. 

금융당국은 금융업권 및 기능·서비스별 특성을 고려해 가이드라인을 구체화한 세부 실무지침도 3분기 내 마련할 계획이다.

금융권 AI 활용을 촉진·지원하기 위한 'AI 인프라 정비 방안'도 3분기 중 발표할 계획이다. AI 개발 데이터를 제공하는 '데이터 인프라(Data Library)'와 소규모 핀테크 회사 등도 손쉽게 AI 서비스를 개발하고 검증할 수 있도록 지원하는 'AI 테스트베드' 등이 구축될 예정이다.