최근 미국의 한 고등학교에서 인공지능(AI) 총기 탐지기가 오작동하여 경찰이 출동하는 사건이 발생했다. 메릴랜드주 볼티모어 카운티의 켄우드 고등학교에서 학생이 감자 칩 봉지를 들고 있었으나 AI 시스템이 이를 총기로 오인한 것이다. 이 사건은 AI 탐지기의 신뢰성 문제를 제기하며, 미국 내 학교 안전 문제에 대한 논란을 일으키고 있다.

2021년 이후 미국 학교에서 총기 사건이 급증하고 있는 가운데, 많은 학교들이 AI 탐지기를 도입하고 있다. 볼티모어 카운티의 켄우드 고등학교에서도 지난해 총기 탐지 시스템을 설치했으며, 이 시스템은 무기로 보이는 물체를 감지하여 자동으로 경고를 발송하도록 설계되어 있다. 그러나 이번 사건에서 AI가 과자 봉지를 총기로 착각하면서 경찰의 출동 사태를 불러일으킨 것이다. 경찰은 사건을 확인하기 위해 학생을 제압하고 수색했으나, 결국 과자 봉지와 관련된 상황이 밝혀져 민망한 상황을 초래했다.

학생 타키 앨런은 “나는 단지 도리토스 봉지를 들고 있었고, 손가락 하나가 나와 있었는데 그것이 총처럼 보였다고 경찰이 말했다”라고 전했다. 이 사건은 AI 시스템 공급업체인 옴닐런트가 "시스템은 설계된 대로 작동했으며, 잠재적 위협을 신속히 감지한 것"이라고 반박하는 상황으로 이어졌다. 그럼에도 불구하고 인공지능 시스템에 대한 불신이 커지고 있다.

미국 내에서 총기 사건 예방을 위한 AI 탐지기의 도입에 대한 여론은 분분하다. 일부는 학생 인권을 침해한다고 주장하는 반면, 다른 일부는 총기 사건을 사전에 막기 위한 필요성을 강조하고 있다. 'K-12 학교 총격 데이터베이스'에 따르면, 2021년 이래로 미국의 학교 총격 사건과 희생자는 10년 전과 비교해 4배 증가했다. 특히 2024년에는 325건의 총격 사건이 보고되었으며, 2023년에도 349건으로 역대 최다 기록을 갱신한 상태다.

이러한 배경 속에서 AI 탐지기의 도입은 여러 문제를 내포하고 있으며, 사건 방지를 위한 노력조차도 논란의 여지가 있는 상황이다. 학교 안전을 위한 현대 기술의 도입이 가져온 불안전성이 교육 현장에 미치는 영향은 앞으로의 논의에서 중요한 주제가 될 것으로 보인다.