생성형 AI 악용한 해커 공격에 '골머리'… 개인정보 탈취 등 사이버위협 정교해진다

생성형 인공지능(AI)이 일상으로 파고든 가운데, 이를 악용한 사이버 보안 위협이 더욱 늘어날 전망이다. 광범위하고 정교화된 수법으로 개인정보는 물론, 국가 간 해킹 시도가 급증할 것이란 우려가 나온다.

3일 보안 업계에 따르면 2025년에는 해커들이 생성형 AI 활용을 본격화하면서 기밀정보나 개인정보 유출의 위험성이 대두되고 있다.

대표적으로 챗GPT를 활용해 맞춤형 스피어피싱 메일을 작성하거나 '딥페이크(Deepfake)' 영상을 이용해 피해자 협박에 사용하는 사례가 증가할 전망이다. 다크웹 등을 통해 FruadGPT(사기), WormGPT(악성코드 생성)와 같이 사이버 범죄에 특화된 악성 AI 모델을 악용한 사이버 위협이 고조되고 있다.

실제 최근 국제올림픽위원회(IOC) 토마스 바흐 위원장을 사칭한 소셜 미디어 계정(SNS)이 다양한 고위 인사에게 접근한 것으로 드러나기도 했다. IOC에 따르면 사칭 계정들은 AI를 활용해 바흐 위원장을 가장한 딥페이크 음성을 사용했다. 이를 통해 고위 정치인이나 올림픽 무브먼트 관계자 등의 민감한 데이터에 접근하려는 시도가 발각됐다.

천정부지로 치솟은 비트코인 등 암호화폐의 가격 상승에 따른 해킹 공격도 증가할 전망이다. 랜섬웨어 및 마이너 악성코드를 통한 공격이 지속되고, 암호화폐 거래소 및 개인 지갑을 목표로 한 공격도 늘어날 것으로 예상된다.

사물인터넷(IoT) 기기에 대한 사이버 위협이 꾸준히 증가하고 있다. 공격자는 보안이 취약한 IoT 기기를 탐색한 후 악성코드를 감염시키고 디도스(DDoS) 공격과 같은 사이버 공격에 봇넷(Botnet)으로 악용하는 방식이다. AI 기술과 결합해 클라우드 환경에서 자동으로 트래픽을 조정하고 분산하는 방식으로 더욱 지능화될 것이라는 우려가 높다.

아울러 지정학적 갈등이 사이버 공간으로 확장되면서 국가 주도의 사이버 공격이 계속해서 증가할 것으로 예상된다. 국가 간 갈등은 지속될 것이며, 사이버전 능력을 통한 전략적 우위를 확보하려는 국가들의 공격이 확대될 가능성이 크다. 오픈AI에 따르면 북한과 러시아, 중국 등 일부 국가에서 인터넷상 여론 조작과 정치 선전을 위해 챗GPT를 사용한 것으로 나타났다. 

전문가들은 기업·기관에서는 보안 동향을 주시하고 보안 솔루션 도입 및 보안교육 등으로 전반적인 보안수준을 높여야 한다고 입을 모은다. 개인 역시 SW의 보안패치를 최신으로 유지하는 등 기본 보안수칙의 생활화 해야 한다고 조언한다.

보안업계 관계자는 "해커들의 지능화된 사이버 위협은 더욱 활발히 전개될 것"이라며 "사용자 부주의로 인한 내부 기밀정보 및 개인정보 유출 위험성이 높아질 수 있다"고 지적했다.