AI 에이전트 통제장치 우회해 외부 시스템 침해글로벌 빅테크 100여곳 AI 사이버위협 공동 대응中 해커, 美 핵심 인프라 넘어 한국 기업까지 겨냥
  • ▲ ⓒ챗GPT
    ▲ ⓒ챗GPT
    인공지능(AI) 확산과 함께 사이버 공격의 양상도 빠르게 변화하고 있다. AI 에이전트가 통제 장치를 우회해 실제 외부 시스템을 침해하는 사건이 발생한 데 이어 중국 정부를 배후에 둔 해킹 조직은 정부기관과 통신·전력 등 핵심 인프라를 겨냥하고 있다. 사이버 공격이 자동화·고도화되는 동시에 국가안보 영역으로 확산되는 모습이다.

    31일 업계에 따르면 오픈AI는 지난 26일(현지시간) 지난달 내부 사이버보안 평가 과정에서 발생한 허깅페이스 보안사고에 대한 조사 결과를 공개했다.

    당시 여러 오픈AI 모델은 인터넷 접근을 차단하기 위해 마련된 통제 장치를 우회하고 오픈AI 내부 연구 인프라와 허깅페이스 시스템 일부를 침해했다. 허가되지 않은 경로를 통해 서로 정보를 교환하고 공유 인프라의 취약점을 이용해 인터넷 접속 권한을 확보한 뒤 외부 시스템에 접근한 것으로 조사됐다.

    특히 모델들은 별도의 지시 없이 공유 인프라를 이용해 서로 통신했다. 오픈AI는 충분한 안전장치가 없는 상황에서 고성능 AI 에이전트가 여러 컴퓨터 시스템의 보안 취약점을 찾아내고 이를 악용할 수 있다는 점을 이번 사고를 통해 확인했다고 설명했다.

    오픈AI는 이번 사건을 AI 안전과 사이버보안에 대한 '경고 신호'로 평가했다. 이에 연구 인프라의 격리 수준을 높이고 인터넷 접근과 모델 가중치 접근을 제한하는 한편 AI의 사고 과정을 감시하는 데 투입하는 컴퓨팅 자원도 확대하기로 했다.

    AI를 활용한 사이버 위협에 대한 글로벌 기술업계의 경계도 높아지고 있다.

    오픈AI와 앤트로픽, 구글, 마이크로소프트(MS), 아마존 등 100곳 이상의 기술·금융·보안 관련 기업과 기관은 지난 27일 AI 기반 사이버 위협에 대한 공동 대응을 촉구하는 공개서한을 발표했다.

    이들은 AI 모델의 성능 향상에 따라 AI를 활용한 사이버 공격이 더욱 광범위하고 정교해질 것으로 내다봤다. 특히 병원과 정수시설, 인터넷을 뒷받침하는 인프라 등 필수 서비스가 공격 대상이 될 가능성을 경고했다.

    공격자가 AI를 활용하는 만큼 방어에도 AI를 적극 도입해야 한다는 게 이들의 주장이다. 각국 정부와 기업에 사이버 방어 체계를 강화하고 국가 간 협력을 확대하는 동시에 주요 인프라 방어 조직이 첨단 AI 모델을 활용할 수 있도록 지원할 것을 주문했다.

    AI가 새로운 사이버 공격 수단으로 떠오르는 가운데 국가 지원 해킹 조직의 공격 대상도 핵심 인프라로 확대되고 있다.

    미국 법무부와 연방수사국(FBI)은 지난 26일 중국 정부 지원 해킹 조직이 사용해온 해킹 플랫폼 '큐스캔(QScan)'과 '큐티라우터(QTRouter)'의 핵심 도메인을 압류해 작동을 중단시켰다고 밝혔다.

    미 당국에 따르면 중국 기반 업체 난징 신주웨이 네트워크 테크놀로지가 운영하는 해킹 조직 'QTFY'는 큐스캔을 통해 전 세계 사물인터넷(IoT) 기기를 자동으로 찾아 감염시켰다. 감염된 기기는 큐티라우터 네트워크에 편입돼 실제 공격 출발지를 숨기는 데 활용됐다. 중국에서 시작된 공격을 다른 국가나 공격 대상 인근에서 발생한 것처럼 위장하는 방식이다.

    공격 대상에는 미 항공우주국(NASA)을 비롯해 연방준비제도(Fed), 에너지부, 법무부, 보건복지부, 국립보건원(NIH), 상원 등이 포함됐다. 미 당국은 QTFY의 악성 사이버 활동이 적어도 2018년까지 거슬러 올라가는 것으로 파악했다.

    공격 범위는 미국에 국한되지 않았다. 외신에 따르면 관련 해킹 활동은 전 세계 130여개국의 정부와 군, 기업 등을 대상으로 이뤄졌다. 한국 기업도 표적에 포함된 것으로 전해졌다. 로이터는 미국과 한국 기업 4곳이 공격 대상에 포함됐다고 보도했으며 구체적인 기업명은 공개되지 않았다.

    QTFY는 중국 국가안전부와 인민해방군 등을 대상으로 해킹 서비스를 제공한 것으로 조사됐다. 미 법무부와 FBI는 악성코드 통신과 인증에 필수적으로 사용되는 도메인을 압류해 큐스캔과 큐티라우터를 작동 불능 상태로 만들었다.

    국내에서도 통신과 플랫폼 등을 대상으로 보안사고가 이어지는 가운데 중국 배후 해킹 조직의 공격 대상에 한국 기업까지 포함된 것으로 알려지면서 사이버 위협에 대한 경계가 커지고 있다. 특히 AI와 클라우드, 데이터센터, 통신망 등 주요 정보통신 인프라의 연결이 확대되면서 관리해야 할 보안 영역도 넓어지는 추세다.

    기업들의 AI 에이전트 활용이 확대되는 것도 새로운 변수다. AI가 기업 내부 데이터와 계정, 업무 시스템 등에 직접 접근하는 사례가 늘면서 AI 모델 자체뿐 아니라 접근 권한과 연결된 시스템에 대한 보안 관리 중요성도 커지고 있다.

    보안업계도 AI를 활용한 이상행위 탐지와 위협 분석, 자동 대응 기술을 확대하고 있다. AI를 이용해 취약점을 탐색하고 공격 과정을 자동화하는 방식이 등장하면서 공격과 방어 양쪽에서 AI 활용이 본격화되는 모습이다.

    업계 관계자는 “AI 활용 범위가 넓어지면서 사이버 공격 역시 기존보다 빠르고 복잡한 형태로 나타날 가능성이 커지고 있다”며 “AI 모델뿐 아니라 데이터와 클라우드, 네트워크 등 연결된 인프라 전반을 함께 살펴보는 보안 체계가 중요해지고 있다”고 말했다.