글로벌 인공지능(AI) 기업인 앤스로픽이 최근 AI의 비약적인 발전 속도에 대해 우려를 표명하며, 기술 발전 속도를 조절해야 한다고 주장했다. 이들의 주장은 AI가 스스로 진화하는 "재귀적 자기 개선" 단계에 가까워지고 있다는 인식에서 비롯된 것으로, 이러한 변화를 막기 위한 윤리적 논의가 필요하다는 것이다.

앤스로픽의 공동창립자인 잭 클라크와 마리나 파바로는 블로그에서 이같은 우려를 담은 보고서를 발표하며, "AI 발전 속도를 조절할 수 있는 국제적 합의체와 이를 준수하는 시스템이 구축되어야 한다"고 강조했다. AI 시스템이 인간의 개입 없이 스스로 알고리즘과 코드를 개선할 수 있는 가능성이 커지면서, 사회적 제도와 AI의 정렬 연구가 기술 발전에 발맞춰 나가는 것이 필수적이라고 지적했다.

이와 관련하여, 다른 AI 기업인 오픈AI는 프로그래밍 모델인 '코덱스'(Codex)가 스스로 결함을 찾고 이를 해결한다고 밝혀 AI가 개발하는 수준의 급속한 발전을 시사하고 있다. 앤스로픽 역시 자사의 모델이 생성한 코드를 바탕으로 새로운 AI 모델을 개발하는 과정에 있다는 점에서 더욱 심각성을 더하고 있다.

AI가 인간 사회에 미칠 수 있는 부정적인 영향에 대한 우려도 커지고 있으며, 이에 대한 윤리적 논의가 활발하게 이루어지고 있다. 교황 레오 14세는 AI를 통제하고 무장해제할 필요성을 강조하며, "기술이 가진 자가 AI를 통치 수단으로 활용하는 것은 거부되어야 한다"고 밝혔다. 그는 지난달 교황청에서 발표한 회칙 '마니피카 후마니타스'에서 인류가 또 다른 바벨탑을 건설하는 것을 포기해야 한다고 경고했다.

앤스로픽은 교황의 주장에 공감하며 이를 지지하는 메시지를 전했다. 크리스토퍼 올라 공동창립자는 "AI 연구소는 옳은 일과 이익 간에 충돌하는 환경에 놓여 있으며, 이익에서 벗어난 외부 감시가 중요하다"고 말하며 윤리적 목소리가 필요하다고 강조했다. 이러한 긴급한 논의는 결국 AI 기술이 사회에 미칠 수 있는 영향을 찾아내고, 올바른 방향으로 나아가기 위한 필수적인 과정으로 여겨지고 있다.