앤스로픽은 최근 인공지능(AI) 연구소들이 AI 개발 속도를 늦추는 방안을 신중히 고려해야 한다고 주장하고 있다. 본사는 AI의 급속한 발전이 곧 인간의 개입 없이 스스로를 개선하는 단계로 이어질 가능성이 있으며, 이로 인해 사회적인 위험이 증가할 수 있다는 우려를 표명했다.

작성자는 앤스로픽의 블로그에서 'AI가 스스로를 구축할 때'라는 제목의 글을 통해 자사의 최첨단 AI 모델이 향후 '재귀적 자기개선' 단계로 나아갈 수 있음을 경고했다. 이는 AI가 인간의 개입 없이 스스로의 성능을 지속적으로 향상할 수 있는 가능성을 시사하는 것으로, 이 단계에 도달할 경우 심각한 사회적 격변과 위험을 초래할 수 있다는 주장이 제기되고 있다. 앤스로픽은 현재 이 단계가 현실화되지 않았지만, 그 가능성이 예상보다 더 빨리 도래할 수 있다고 지적했다.

앤스로픽은 "기술 진화의 속도에 걸맞춰 사회적 제도와 연구가 동반 발전할 수 있도록, AI 개발을 늦추거나 일시적으로 중단할 수 있는 선택권이 필요하다"고 강조하며, 이를 실현하기 위해 국제적으로 합의된 시스템의 필요성을 제안했다. 이와 유사하게 과거 중거리핵전력(INF) 조약처럼 AI 개발 일시 중단이나 속도 조절이 널리 준수될 때 의미가 커질 것이라고 역설했다. 앤스로픽은 특히 AI 관련 논의가 AI 기업 외부에서도 포괄적으로 이루어져야 한다고 주장했다.

앤스로픽의 CEO인 다리오 아모데이 및 경영진은 지난 몇 년간 AI의 전반적인 사회적 영향에 대해 경고의 목소리를 높여왔다. 그러나 일부 업계 관계자들은 앤스로픽의 경고가 마케팅 전략의 일환이라는 시각도 내비쳤다. 이선 몰릭 펜실베이니아대 교수는 이와 관련된 SNS의 의견에서 "앤스로픽의 주장에는 자기 성찰과 마케팅적 요소가 섞여있지만, 이들이 AI의 미래에 대한 그들의 견해를 드러내고 있다"고 언급했다.

이와 같은 경고가 AI 기술의 균형 있는 발전을 위한 중요한 신호로 작용할 수 있으며, 전문가들 사이에서도 이러한 논의가 활발히 진행될 것으로 예상된다. 실제로 AI의 비약적인 발전은 기술적 진보가 가져올 수 있는 사회적 변화를 염두에 두어야 한다는 점에서, 앤스로픽의 주장은 주목할 만한 의미를 지닌다.