‘딥시크 포비아’의 역설 … 성능보다 중요해진 AI ‘보안’

 “AI의 안전성과 AI의 역량은 이제 따로 분리되는 것이 아닙니다. 제품 개발 과정의 핵심입니다.”

샘 울트먼 오픈AI 최고경영자(CEO)가 지난 4일 한국에서 기자간담회를 진행했을 때 수차례 강조한 말이다. 그가 말하는 안전성은 AI 윤리부터 사용자 보호, 보안을 통합하는 개념이다. 최근 ICT 업계에서는 이 말이 다시 회자되고 있다. 

중국 딥시크의 AI모델 ‘딥시크 R1’이 그야말로 전세계에 기피 대상이 되고 있기 때문이다. 우리 정부부처와 기업들도 앞다퉈 ‘딥시크’를 차단하면서 ‘딥시크 포비아’라는 신조어까지 만들어지고 있다. 이 일련의 사태의 핵심에는 AI 성능 이상으로 중요 해진 안전에 대한 위기감이 자리하고 있다.

7일 ICT 업계에 따르면 ‘딥시크’는 공개 당시의 뜨거운 관심과 호응 이상으로 차단 AI 1순위로 꼽히고 있다. 

이미 우리나라 국방부·외교부·통일부·산업통상자원부·과학기술정보통신부 등 주요 부처가 딥시크를 차단했으며 IT기업부터 금융사까지 모두 딥시크 자제령을 내린 상태다. 이는 우리나라만의 문제가 아니다. 이미 호주·일본·대만 등의 국가에서 정부 소유 기기에서 딥시크 사용을 금지시켰다. 미국에서는 일부 연방기관의 차단에 이어 연방의회도 정부 기관에서 딥시크를 사용하지 못하게 하는 법안을 발의할 예정이다. 

공개되던 때만 해도 높은 효율의 AI모델로 꼽히며 전세계의 이목을 끌던 ‘딥시크’가 불과 보름만에 전세계의 골칫거리로 전락한 셈이다. ‘딥시크’의 이런 추락의 배경에는 바로 보안 이슈가 자리하고 있다.

‘딥시크’는 기존 다른 AI 모델보다 지나치게 많은 정보를 수집한다는 지적을 받고 있다. 이용자가 프로프트에 입력하는 정보 말고도 개인 기기의 정보와 일련번호, IP주소, 쿠키 정보를 비롯해 키보드 입력 패턴과 리듬까지 수집한다. 키보드 입력 리듬과 패턴까지 수집하는 AI는 딥시크가 유일하다. 이 데이터는 개인을 식별하는 수단으로 활용될 수도 있다. 

심지어 ‘딥시크’는 이용자가 입력한 데이터를 품질 개선 목적으로 사용하는 것에 대해 거부하는 ‘옵트아웃(Opt-out)’ 옵션도 지원하지 않고 있다. 챗GPT 역시 초기에는 이 옵션을 지원하지 않았지만 소비자의 요구가 커지자 현재는 해당 기능을 제공하고 있다.

최근 AI를 업무에 활용해 요약 및 정리, 자료 찾기 등으로 활용한다는 점에서 이같은 취약점은 업무 내용이 고스란히 노출될 위험성을 내포하고 있다는 지적을 받는다.

대규모 정보를 수집하는 것치고는 보안도 허술하다. 클라우드 보안 기업 위즈(Wiz)는 ‘딥시크’ 사용자의 채팅 기록 및 API 인증키, 시스템 로그 등 100만 건 이상의 정보가 유출되는 사고가 있었다고 밝히기도 했다. 해당 데이터는 비밀번호 없이 누구나 접속이 가능했다고 한다. 

딥시크는 이후 보안 취약점을 수정했지만 근본적인 위협은 여전하다. ‘딥시크’ 내 정보는 모두 중국 내 서버에 저장되는데, 이는 중국 정부에 언제든 노출 될 수 있다는 위험이 있다. 중국의 국가정보법은 정부가 자국의 기업이 보유한 민간 데이터를 요청할 경우 협력하도록 하고 있기 때문이다. 각 정부기관에서 앞다퉈 ‘딥시크’를 차단했던 것도 이와 무관하지 않다. 

이와 관련 궈자쿤 중국 외교부 대변인은 지난 6일 정례 브리핑에서 “중국 정부는 데이터 프라이버시와 안전을 고도로 중시하고 법에 따라 보호한다”며 “지금껏 기업 혹은 개인에 위법한 형식으로 데이터를 수집·저장하라고 요구한 적도 없고 요구하지도 않을 것”고 밝혔다.

이런 해명에도 불구하고 당분간 중국 정부의 신뢰가 ‘딥시크’의 신뢰를 흔드는 상황은 계속될 전망이다. AI 악용에 대한 우려도 여전하다.

미국의 IT기업 시스코(Cisco)는 ‘딥시크 R1’을 포함해 ‘라마’, ‘GPT-4o’, ‘제미나이 1.5 프로’ 등 6개 LLM을 대상으로 사이버범죄, 허위정보, 화학 무기 등 총 7가지 항목의 악성 프롬프트(명령 문구)를 구성해 실험한 결과를 공개하기도 했다. ‘딥시크’는 이번 연구에서 100% 공격 성공률을 보여주면서 취약성을 드러냈다.

시스코는 “딥시크가 높은 성능을 보여준 것은 인정하지만 이들이 제시한 새로운 추론 패러다임이 보안 측면에서 문제를 일으키지 않을지 심도 있게 고민할 필요가 있다”고 지적했다.

업계에서는 최근 ‘딥시크 포비아’ 사태가 AI 대중화 시대에서 보안의 중요성을 역설하는 사례로 남을 전망이다. AI의 성능 경쟁이 치열하게 전개되고 있지만 이에 못지 않게 보안이 AI모델에 대한 신뢰와 경쟁력을 좌우하게 된다는 분석이다.

김두현 건국대 컴퓨터공학부 교수(국가AI위원회 인재·인프라 분과위원)는 최근 ‘딥시크’ 사태에 대해 “‘딥시크’를 파악하기 위해 가입하고 몇 번 써봤는데, 현재는 모두 삭제한 상황”이라며 “우리나라를 비롯해 미국, 중국 AI 모두 기술 격차가 크지 않은 상황에서는 보안이 최종 짐검승부의 포인트가 될 것으로 보인다. 보안을 마지막까지 잘해내는 곳이 성공할 수 있을 것”이라고 전망했다.