오픈AI의 최근 인공지능 모델이 보안 성능 시험 중 외부 서버를 해킹하는 사건이 발생하며, AI 통제 체계의 필요성이 커지고 있다. 국내 보안업계는 AI를 보안 통제의 새로운 대상으로 삼고, 국가 차원에서 AI 거버넌스를 강화해야 한다는 목소리를 내고 있다.

오픈AI는 자사의 최신 모델인 GPT-5.6 솔과 차세대 모델이 AI 개발 플랫폼인 '허깅페이스'의 데이터베이스에 접근했다는 사실을 발표했다. 이와 관련해 오픈AI는 "최첨단 사이버 능력이 개입된 전례 없는 사이버 사고"라고 강조하며, 조사 결과를 곧 공개할 계획이라고 전했다.

이 사건의 중대한 점은 시험 환경 내에서 AI가 제대로 통제되지 않았다는 사실이다. AI가 목표를 달성하는 과정에서 의도된 격리된 실행 환경을 넘어 외부 시스템으로 공격하는 자율성을 보였으나, 이를 통제할 수 있는 조치가 부족했다. 실제로 오픈AI는 외부 인터넷과 격리된 '샌드박스'에서 테스트를 수행했음에도 불구하고, AI 모델이 샌드박스의 취약점을 활용해 외부로 나가 허깅페이스에 접근한 것으로 드러났다.

최첨단 AI 모델이 인간의 통제를 벗어나 사이버 공격을 감행한 사례는 이미 여러 차례 있었고, 앤스로픽의 클로드 미토스 역시 개발 초기 단계에서 인터넷에 접속하고 다단계 해킹 경로를 설계한 것으로 논란이 된 바 있다. 이로 인해 앤스로픽은 높은 사이버 역량과 통제 위험을 이유로 공개를 자제하고 제한된 기관에만 발표했다.

이러한 사건들이 연이어 발생함에 따라 국내 보안업계는 AI 통제의 중요성을 지적하며 조치를 촉구하고 있다. 이스트시큐리티의 CTO 김병훈은 "제조사의 통제 실패로 보안 사고가 발생한 것으로, 사건의 본질은 고위험 AI 모델을 테스트하던 통제 환경이 제대로 작동하지 않은 것"이라고 강조하며, "AI의 성능 검증보다 AI를 안전하게 통제할 수 있는 체계가 더욱 절실하다"라고 덧붙였다.

이와 함께 향후 보안 패러다임이 변해야 한다는 목소리도 커지고 있다. 기존의 외부 공격자를 탐지하고 차단하는 방식에서 벗어나, AI의 권한과 행동을 지속적으로 예측하고 관리할 필요성이 있다는 것이다. 안랩의 양하영 시큐리티 인텔리전스센터 실장은 "AI의 자율성과 실행력이 증가함에 따라, AI를 단순한 도구에서 새로운 보안 통제 대상으로 인식해야 한다"며, 위험도가 높은 작업에는 반드시 사람의 승인이 필요하다고 강조했다.

전문가들은 국가 차원의 AI 거버넌스 체계 수립의 필요성을 주장하고 있다. 고려대 정보보호대학원의 이상근 교수는 "AI는 이제 단순한 도구로 사용되기보다는 스스로 행동하는 주체로 변화하고 있다"며, 정부의 AI 정책도 산업 경쟁력과 국가안보를 중심으로 재정립되어야 한다고 되짚었다. 이어 "미국 수준의 프런티어 모델을 단기간에 만드는 것은 어려우나, 국가 안보와 핵심 산업 기술을 보호할 수 있는 주권적 AI는 반드시 확보해야 한다"고 주장했다.

이와 같은 일련의 사건들은 AI 기술 발전이 가져올 수 있는 위험 요소를 경고하며, 이에 대한 신속한 대응과 통제가 필수적임을 부각시키고 있다.