미국 연방 상원의원 버니 샌더스(무소속, 버몬트)가 주요 인공지능(AI) 기업의 최고경영자(CEO)들에게 AI 개발을 즉각 중단할 것을 촉구했다. 샌더스 의원은 오픈AI의 샘 올트먼, 앤스로픽의 다리오 아모데이, 메타의 마크 저커버그에게 보낸 서한에서 "인류의 이익을 위해 책임을 다하라"고 강조하며, AI가 인간의 통제를 벗어나는 위험을 지적했다.

최근 AI 모델이 기업의 컴퓨터에 무단으로 침입하는 사건이 발생하면서 샌더스 의원의 주장은 더욱 주목받고 있다. 그는 "이런 상황이 반복된다면 우리 모두에게 재앙이 기다리고 있다"며 강한 어조로 경고했다. 서한에는 인공지능 모델의 통제 이탈 사례를 언급하며, 이러한 상황이 명백한 법적 위반에 해당한다고 주장했다. 그는 이처럼 통제력을 잃은 AI의 개발이 즉각 중단되지 않으면, 그에 대한 책임을 물어야 할 것이라고 성명을 밝혔다.

AI의 발전이 가져올 수 있는 여러 위험 중 하나는 바이러스 설계와 같은 생물학적 위협이다. 예컨대, 스탠퍼드대 연구진의 발표에 따르면, AI를 이용해 항생제 내성균을 감염시키는 새로운 바이러스를 설계하는 연구가 진행된 사실이 있다. 샌더스 의원은 "통제력을 잃어 잠재적으로 위험한 바이러스가 만들어지는 상황을 목격하고도 기업들은 여전히 개발에 박차를 가하고 있다"며 우려를 표명했다.

주목할 점은, 이러한 위험을 인식하고 기업들이 스스로 내놓은 안전 기준이다. 앤스로픽은 모델의 안전 절차가 지켜지지 않을 때 모델의 확장을 중단하겠다는 약속을 한 바 있다. 메타 역시 같은 맥락에서 위험 수준에 도달하면 개발을 중단하겠다고 밝힌 바 있다. 오픈AI 또한 "AI의 능력이 임계 문턱에 도달할 경우 안전장치가 준비되기 전까지 개발을 멈출 것"이라고 선언했다. 샌더스 의원은 "이제 그 순간이 왔다"고 주장하며 기업에 조치를 촉구했다.

AI 업계에서는 이미 속도를 늦추려는 조짐이 보인다. 오픈AI는 내부 평가를 통해 차기 모델 '아스트라'의 출시를 연기한 것으로 알려졌다. 그러나 이번 서한에 대한 기업들의 공식 입장은 현재까지 발표되지 않고 있다.

하지만 샌더스 의원의 서한 내용이 실제 법안으로 이어지기는 어려울 것이라는 전망도 존재한다. 현재 의회에서는 반향을 낳고 있으나, 실질적인 입법이 이루어질 가능성은 낮다는 분석이 지배적이다. 민주당이 오는 11월 중간선거에서 일부 의석을 회복할 경우 청문회 소환장이 이들 CEO를 향할 가능성이 제기되고 있다.

이번 일은 AI 기술의 급속한 발전 속에서 도출된 중요한 논의로, 향후 AI의 통제와 관련한 결정적인 전환점이 될 수 있음을 시사한다. 기업들이 자발적으로 개발을 중단하고 안전성을 강화하는 방식으로 나아가야 할 때이다.