"기업용 AI 신뢰성 확보"... IBM, '왓슨x. 거버넌스' 공개

한국IBM은 14일 한국IBM 사무실에서 기자간담회를 열고 왓슨x. 거버넌스를 공개했다.

김현정 한국IBM 컨설팅 대표는 "기업들은 대규모언어모델(LLM)을 넘어 다양한 사례 기반의 생성형 AI와 파운데이션 모델 적용을 검토하고 있다"며 "AI를 본격적으로 중요한 서비스에 접목하고 전사적으로 확산한다고 했을 때 수많은 리스크를 어떻게 가져갈 것이냐가 우선순위가 높은 경영과제로 떠오르고 있다"고 설명했다.

IBM에 따르면 환각(hallucination)과 편향성, 오류 등 비즈니스에 엄청난 손실을 끼칠 수 있는 AI 위험 요소로 인해 AI의 비즈니스 활용이 여전히 쉽지 않은 것으로 파악됐다.

이에 김 대표는 AI를 도입·확장하는 데 있어 대표적인 도전과제로 ▲자사 데이터 및 기밀 유출, 데이터 품질 문제 ▲AI 모델에 대한 신뢰, 편향성·투명성·환각 문제 ▲유럽 및 북미를 시작으로 한국 정부까지 확대되고 있는 AI의 안전성과 신뢰성에 대한 법제화 및 기업에 대한 징벌적 규정 구체화 등 세 가지를 꼽았다.

그는 "이 세 가지를 해결해야 AI가 가져올 가치가 진정으로 구현될 수 있다"며 "투자자본수익률(ROI)을 만들어내고 신뢰할 수 있는 AI는 세 가지 관점이 동시에 이뤄져야 된다"고 강조했다.

또 "기업들이 성공적으로 AI를 비즈니스에서 활용하기 위해 AI를 위한 데이터, AI 모델 그리고 AI 도입 및 확장 과정에서 신뢰성을 확보하는 AI 거버넌스에 대한 고려가 AI 도입 검토 시 처음부터 고려돼야 한다"고 첨언했다.

이지은 한국IBM 최고기술책임자(CTO) 전무는 기업들이 AI 위험 요소를 줄이고, AI 거버넌스를 수립할 수 있도록 지원하는 왓슨x.거버넌스와 관련 기술을 소개했다. 

왓슨x. 거버넌스의 주요 기능은 ▲AI 생애주기 거버넌스 ▲AI 위험 요소 관리 ▲규제 준수로, 기업이 신뢰할 수 있는 AI를 운영할 수 있도록 지원한다.

이 전무는 "식품에 표기되는 영양성분표와 같이 AI 팩트시트를 제공해 어디서, 어떻게 만들어졌는지 상세한 내용을 확인할 수 있도록 하고 관리와 승인 절차를 갖췄다"며 "각 나라 별로 규제안이 생기고 있는데 이를 자동으로 탐지하고 문제되는 부분이 있는지 확인할 수 있다"고 말했다. 

그러면서 "왓슨x.거버넌스는 다양한 LLM과 머신러닝 모델을 배포하고 관리하는 데 어려움을 겪고 있는 기업을 위한 원스톱 솔루션"이라며 "기업이 여러가지 AI 모델에 대한 거버넌스 프로세스를 자동화하고 모니터링하며 시정 조치를 취하는 데 필요한 도구를 가시성과 함께 제공한다"고 강조했다.

이어 "한국을 포함한 각국 정부에서 AI 거버넌스에 대한 규제가 증가하고 있는 상황에서 신뢰성과 투명성을 높일 수 있도록 돕는 왓슨x. 거버넌스의 역량은 그 어느 때보다 기업에 더욱 필수적인 요소로 자리 잡게 될 것"이라고 덧붙였다.

최근 IBM은 페이스북 모회사 메타(Meta) 등 50여곳과 함께 개방형(오픈소스) AI 분야의 협력을 위해 'AI얼라이언스'를 창설했다.

김 대표는 "대형 모델 하나가 모든 것을 다 해결할 수 있지 않다"면서 "(인공지능을) 경제적이고 유의미하게 활용하기 위해선 생태계 파트너십이 중요하고, (자체 모델과 함께) 같이 가져가는 가는 형태로 전략적 선택을 하고 있다"고 했다.

한편, 현재 왓슨x. 거버넌스는 한국을 포함한 전 세계에서 정식 버전(GA)을 사용할 수 있다.