시리 개인정보 수집 의혹, AI 에이전트 보안성 확보 관건비식별 처리, 온디바이스 방식과 암호화 기술 등 적용업계 경쟁 치열…“보안과 신뢰성이 성패 가를 것”
  • ▲ ⓒ애플
    ▲ ⓒ애플
    애플 아이폰에 탑재된 챗봇 ‘시리’가 개인정보를 수집했다는 의혹이 제기되면서 AI 에이전트의 개인정보 관리 부작용에 이목이 집중되고 있다.

    13일 업계에 따르면 애플은 시리를 통해 개인정보를 몰래 모았다며 제기된 미국 내 집단 소송에서 소비자들에게 9500만 달러(약 1400억원)를 지급하는 데 동의했다.

    애플은 법적 책임을 인정하는 것이 아닌 소송을 빠르게 끝내기 위한 수단이라는 점을 강조했다. 이례적으로 입장문을 발표해 설계 초기부터 시리가 개인정보를 보호하도록 설계됐으며, 어떤 목적으로도 타인에게 판매된 적이 없다고 덧붙였다.

    업계에서는 이번 사태가 최근 앞다투어 출시되는 AI 에이전트에도 시사하는 바가 큰 것으로 보고 있다. 

    AI 에이전트는 음성 비서에서 발전된 형태이며, 문답 형식에서 벗어나 자율적으로 작업을 처리할 수 있는 고도화된 시스템이다. 대화 내용을 바탕으로 한 일정 관리와 금융정보를 활용한 결제까지 구현하기 위해 개인정보 의존도가 높다.

    AI 에이전트는 오픈AI와 구글 등 빅테크를 비롯해 SK텔레콤과 카카오 등 국내 ICT 기업들이 역량을 쏟는 분야다. 글로벌인포메이션에 따르면 AI 에이전트 시장은 2023년 41억 달러(약 6조364억원)에서 연평균 40%가 넘는 성장율을 보이며 2030년 618억 달러(약 90조9881억원) 규모에 달할 것으로 예상된다.

    그동안 거대언어모델(LLM) 개발에 투입됐던 연구개발 비용 회수를 위한 수익화 방안으로도 각광받고 있다. 구독을 통해 안정적인 수익을 마련할 수 있고, 자사 서비스와 연계성을 강화한 ‘락인(Lock-in) 효과’도 기대할 수 있기 때문이다.

    개인정보와 보안 관련 이슈가 AI 에이전트에 치명적인 이유다. 서비스 고도화를 위해서는 개인정보 수집과 활용이 필수 요소이기 때문이다. 앞서 대화형 AI ‘이루다’가 서비스 과정에서 개인정보가 유출되며 과징금 처분까지 받은 것은 대표적인 실패 사례로 꼽힌다.

    앞서 SK텔레콤의 AI 통화녹음 서비스 ‘에이닷’도 과도한 개인정보 수집 문제를 지적받은 바 있다. 성능 향상을 위해 통화 내용뿐만 아니라 콘텐츠 이용 이력과 외부 서비스 로그인 토큰값 등을 수집 대상으로 약관에 명시했다는 점에서다. 이용약관에는 서비스 탈퇴 이후에도 2년까지 개인정보를 보관한다는 내용이 포함돼 논란이 됐다.

    AI 에이전트가 미래 먹거리로 부상하면서 국내 ICT 업계는 개인정보 유출 차단과 보안 조치에 역량을 집중하고 있다. SK텔레콤은 에이닷에서 수집하는 음성과 텍스트에 대해 개인정보를 삭제 후 비식별 형태로 처리한다는 입장이다. 비식별은 사용자를 특정할 수 있는 성별과 나이 등의 정보를 제거한다는 의미다.

    LG유플러스의 AI 통화비서 ‘익시오’는 온디바이스 환경에서 작동해 개인정보 유출 위험성을 사전에 차단했다. LG유플러스에 따르면 익시오는 약 75% 기능이 온디바이스로 구현된다. 서버나 클라우드를 거치지 않으면 데이터 보안 측면에서 유리하다는 입장이다.

    카카오에서 출시를 앞둔 AI 에이전트 ‘카나나’는 개인정보 암호화에 초점을 맞췄다. 대화 내용을 담은 텍스트와 음성 데이터를 암호화해 서버에 저장하는 대신, 암호 키를 개인 기기에 저장하는 방식이다. 암호 키를 가지고 있는 사용자만 메시지를 복호화해서 볼 수 있다는 설명이다.

    각종 보안조치에도 AI 에이전트의 보안과 신뢰성에 대한 문제제기는 지속되고 있다. 특정 프롬프트를 통해 의도하지 않은 행동을 유도하는 방식인 ‘탈옥’이 대표적이다. 사용자 요구와 다르게 AI 에이전트가 데이터를 유출하거나 시스템 오작동을 일으킬 위험성이 존재한다는 것이다.

    업계 관계자는 “AI 수익화 방식이 퍼스널 에이전트로 집중되면서 글로벌 빅테크들간 경쟁이 치열해지고 있다”며 “서비스 고도화를 위해 개인정보 수집이 필수적인 만큼 보안 조치를 통해 안전성을 확보하는 것이 관건이 될 전망”이라고 말했다.