오픈AI·앤트로픽, 고성능 보안 AI 제한 공개 확대취약점 분석·침투 테스트 등 고위험 기능 중심 접근 통제 강화
  • ▲ ⓒ챗GPT
    ▲ ⓒ챗GPT
    생성형 인공지능(AI) 경쟁이 챗봇과 검색을 넘어 사이버보안 영역으로 빠르게 확장되고 있다. 다만 보안 특화 AI는 기존 생성형 AI 서비스처럼 누구나 자유롭게 사용하는 방식이 아니라, 검증된 기관과 전문가에게만 제한적으로 제공하는 ‘승인 기반’ 운영 체계가 새로운 흐름으로 자리잡고 있다.

    11일 업계에 따르면 오픈AI와 앤트로픽 등 글로벌 AI 기업들은 최근 고성능 AI 모델의 사이버보안 활용 범위를 넓히는 동시에 접근 권한은 제한하는 전략을 강화하고 있다. 취약점 분석과 침투 테스트, 악성코드 탐지, 패치 검증 등 방어 목적의 보안 업무에는 AI 활용을 확대하되, 외부 시스템 공격이나 무단 침투로 이어질 수 있는 기능은 통제하겠다는 것이다.

    오픈AI는 최근 검증된 보안 담당자와 개발자를 대상으로 한 ‘Trusted Access for Cyber(TAC)’ 프로그램을 확대 적용하고, 핵심 인프라 방어 조직을 위한 ‘GPT-5.5-Cyber’ 제한 프리뷰를 시작했다. TAC는 취약점 분석과 패치 검증, 악성코드 탐지, 리버스 엔지니어링 등 보안 업무 수행에 활용할 수 있는 고성능 AI 기능을 승인된 사용자에게만 제공하는 프로그램이다.

    특히 GPT-5.5-Cyber는 일반 이용자를 위한 공개형 모델이 아니라 레드팀 운영과 침투 테스트, 통제된 취약점 검증 등 고위험 보안 업무를 수행하는 조직 중심으로 제공된다. 오픈AI는 계정 단위 접근 제어와 오용 모니터링 체계를 함께 운영하며, 외부 시스템 공격이나 무단 침투 시도 등 실제 피해를 유발할 수 있는 요청은 차단한다는 방침이다.

    앤트로픽 역시 보안 특화 AI 모델 운영을 강화하고 있다. 최근 보안 취약점 탐지와 침투 경로 분석 기능을 갖춘 AI 모델 ‘미토스(Mythos)’를 공개하며 일부 보안 파트너 중심의 제한적 접근 체계를 운영하고 있다. 또 보안 협력 프로그램인 ‘프로젝트 글래스윙(Project Glasswing)’을 통해 글로벌 기술 기업 및 보안 조직과 협력 범위를 확대하고 있다.

    이처럼 글로벌 AI 기업들이 보안 특화 AI를 제한 공개 형태로 운영하는 것은 AI의 양면성 때문이다. 기업 보안팀 입장에서는 AI가 취약점 탐지와 침해 대응 속도를 높일 수 있지만, 같은 기능이 공격자에게 넘어갈 경우 공격 자동화와 고도화에 활용될 가능성도 커진다. 실제 보안 업계에서는 최신 AI 모델의 보안 활용 범위가 빠르게 확대되고 있다는 평가가 나온다.

    과거 생성형 AI 경쟁이 더 많은 이용자 확보와 범용 서비스 확대에 초점을 맞췄다면, 최근에는 고위험 기능을 중심으로 접근 대상을 제한하는 흐름도 나타나고 있다. 업계에서는 공개형 서비스 중심이던 생성형 AI 경쟁이 제한적 접근 체계 중심으로 이동하고 있다는 분석도 나온다.

    국내에서도 관련 논의가 이어지고 있다. 과학기술정보통신부는 최근 AI 기반 사이버 위협 대응 방향을 논의하기 위해 산학연 전문가들과 비공개 간담회를 진행했다. 간담회에서는 AI 활용 취약점 검증 사례와 함께 AI 보안 대응 체계, 정보 관리 범위, 민관 협력 방향 등이 논의된 것으로 알려졌다.

    과기정통부는 이날 류제명 2차관과 마이클 셀리토 앤트로픽 글로벌 정책 총괄 간 회동을 진행하고 AI 기반 보안 대응 협력 방안 등을 논의할 예정이다. 업계에서는 정부가 그동안 미토스 접근권 확보 필요성을 검토해온 만큼, 앤트로픽의 보안 협력 프로그램인 프로젝트 글래스윙 참여 가능성 등도 주요 의제로 다뤄질 가능성이 있다는 관측이 나온다.

    업계 관계자는 “AI가 공격과 방어 양쪽에서 모두 활용될 수 있는 만큼 강력한 모델일수록 승인 기반 운영 체계가 확대될 가능성이 크다”며 “기존 보안 체계 역시 AI 환경에 맞춰 재정비가 필요한 시점”이라고 말했다.