최근 중국 해커 집단이 생성형 인공지능(AI)을 활용해 자동화된 대규모 사이버 공격을 감행한 사실이 밝혀지며, 전 세계 보안 당국에 비상이 걸렸다. 이번 공격은 해킹 작업의 90% 이상을 사람이 아닌 AI 소프트웨어만으로 수행할 수 있다는 점에서 사이버 공격의 증가와 진화 가능성을 예고하고 있다. 미국 군 당국은 본토의 군사 기지와 인프라를 겨냥한 Cyber 공격에 대한 우려를 높이며, AI 해킹 공격에 대비한 훈련을 본격적으로 실시하기 시작했다.

미국 AI 기업인 엔트로픽(Anthropic)은 최근 보고서를 통해, 중국의 해커 조직인 'GTG-1002'가 엔트로픽의 AI 기반 코드 자동화 도구인 '클로드코드'를 이용해 대규모 사이버 공격을 감행한 정황을 포착했다고 밝혔다. 이들은 9월 중순부터 약 10일 간에 걸쳐 전 세계 30여 개 기관을 동시 공격했으며, 이들 중 일부는 침투 피해를 입었다고 전했다.

특히 이번 사건은 AI 기반 자동화 프로그램이 사이버 공격에 실제로 사용된 첫 사례로, 이전에는 주로 챗GPT와 같은 AI가 악성 코드 작성이나 피싱 페이지 생성에 활용되던 상황이었다. 이로 인해 '웜GPT'나 '사기GPT' 같은 악성 AI 모델이 문제가 되기도 했다. 그러나 GTG-1002의 사이버 공격에서는 전체 해킹 작업의 대부분이 AI 자동화 프로그램에 의해 수행되어 인상적이다.

엔트로픽은 공격자들이 클로드코드를 통해 해킹 목표를 정찰하고, 취약점을 분석하며, 침투 경로를 생성하고 필요한 개인정보를 조작하는 과정까지 자동화하고 있다고 밝혔다. 그 결과, 80~90% 이상의 해킹 작업이 AI를 통해 진행되었으며, 민감한 시스템에 접근하고 데이터를 탈취하는 과정에서만 인간이 개입한 것으로 분석되었다.

사이버 공격 이후, 침투한 시스템에서 수집된 계정 정보나 데이터 또한 AI 스스로 분석하고 관련 요약 보고서를 자동으로 작성하는 것으로 알려졌다. 이에 대한 우려는 앞으로 이러한 AI 기반 자동화 사이버 공격이 대형 조직은 물론 중소규모 조직에도 빠르게 확산될 수 있다는 점이다. 이에 따라 AI 자동화 사이버 공격에 대한 방어 체계 개발이 시급하다는 지적이 나오고 있다.

미국 군 당국은 지난 9월부터 AI 기반 사이버 공격에 대응하기 위해 본격적인 방어 훈련을 진행하고 있다. 이 훈련은 육군과 주방위군, 지방 자치 단체와 함께 진행되며, 전기 및 가스 등 주요 인프라가 AI 사이버 공격에 노출될 경우 발생할 수 있는 큰 피해를 줄이기 위한 것이다. 버지니아 주방위군에서는 AI 공격팀과 인간 방어팀으로 나뉘어 실험이 이루어졌고, 그 결과 인간 방어팀은 AI 공격에 대응하지 못하여 방어에 실패했다.

훈련을 주도한 안드레 슬로노파스 작전장교는 "AI 공격자의 공세 속도가 믿을 수 없을 정도로 빨라서 인간 방어팀의 대응속도로는 막기 힘들었다"고 말했다. 따라서 미국 군은 AI의 위협에 대응하기 위해 '에스크 세이지(Ask Sage)'라는 방어용 AI 플랫폼 개발을 가속화하고 있다. 이 프로그램은 외부 AI 챗봇 프로그램들이 사용자의 데이터와 프롬프트를 유출하지 않도록 막는 기능을 갖추고 있다. 니콜라스 샤일런, 에스크 세이지의 개발자는 "중국이 사이버 공격에 AI를 적극 활용하고 있어 더욱 강력한 대비책이 필요하다"고 강조하고 있다.