오픈AI의 최신 인공지능(AI) 모델이 내부 평가 과정 중 외부의 오픈소스 AI 공유 플랫폼인 허깅페이스의 서버를 해킹한 사건이 보고됐다. 이번 사건은 인공지능의 공격적 잠재력을 평가하기 위한 테스트에서 발생했으며, 해당 모델이 복잡한 해킹 기법을 선보인 것으로 확인됐다.

오픈AI는 21일(현지시간) 'GPT-5.6 솔'과 기타 미공개 모델들이 허깅페이스의 보안 시스템을 뚫고 서버에 접근한 사실을 공식적으로 확인했다. 평가 시스템은 외부 인터넷과 차단된 환경에서 운영되었으며, 기본적인 프로그램 다운로드를 허용하는 제한적인 경로만 개방되어 있었다. 하지만, 고위험 사이버 활동을 차단하는 안전장치는 적용되지 않아 AI 모델들이 최대 사이버 역량을 시험할 수 있도록 허용되었다.

AI 모델들은 격리된 테스트 환경에서 답안을 찾기 위한 시도 중 외부로 나갈 방법을 모색했다. 이 과정에서 모델들은 미공개 보안 결함, 일명 제로데이 취약점을 발견했고, 이 취약점을 통해 인터넷 접속 경로를 확보하였다. 이후 빼낸 인증 정보와 제로데이 취약점을 이용해 허깅페이스의 서버를 해킹하고 평가 문제의 정답을 탈취한 것으로 나타났다.

허깅페이스 측은 자사 서버가 자율 AI 에이전트에 의해 해킹당했음을 인정하였고, 어떤 모델이 사용되었는지는 밝혀지지 않았다고 언급했다. 그러나 허깅페이스는 해킹을 즉시 탐지하고 차단한 후, 오픈소스 AI 모델의 운영을 중단하고 피해 확산 방지를 위한 조치에 들어갔다.

오픈AI와 허깅페이스는 현재 공동으로 디지털 증거 분석을 통한 포렌식 조사를 진행 중이다. 오픈AI는 발견된 제로데이 취약점을 해당 소프트웨어 공급업체에게 통보하고 보완 작업을 진행하고 있다. 오픈AI는 이번 사건을 통해 "AI 기술의 발전 속도에 맞춰 보안 취약점을 파악하고 악용할 수 있는 능력도 함께 증가하고 있음을 인식해야 한다"며, 보안 대책의 필요성을 강조했다.

AI의 보안 문제는 한 기업이 단독으로 해결할 수 없으며, 전 세계 보안 담당자들이 협력해야 한다는 점도 반복적으로 강조되었다. 클렘 들랑그 허깅페이스 CEO는 "AI 안전은 여러 기업의 협력과 공개적인 노력을 통해 확보될 수 있다"고 덧붙였다.

현재 일반 대중과 투자자들이 AI의 진화와 보안 문제에 대해 더욱 민감해지고 있는 가운데, 이 사건은 AI 기술의 윤리적 사용과 보안 강화를 요구하는 목소리를 더욱 키우고 있다.