앤스로픽은 최근 자사 AI 모델 클로드(Claude)의 결과물이 중국의 AI 기업들에 의해 무단으로 추출된 사실을 발표했다. 해당 기업들은 딥시크, 문샷AI, 미니맥스 등이며, 이들 회사를 통해 약 2만4000개의 가짜 계정이 생성되어 클로드와의 대규모 상호작용이 발생했다. 이는 총 1600만 건이 넘는 대화를 통해 이루어졌으며, 딥시크는 약 15만 건, 문샷AI는 340만 건, 미니맥스는 무려 1300만 건 이상의 상호작용을 통해 데이터를 수집한 것으로 전해졌다.

앤스로픽은 이번 사건이 이용 약관과 각 지역의 접근 제한을 위반한 것이며, 불법적인 '증류(distillation)' 기법을 사용한 기술 역량 추출로 판단하고 있다. 증류 기법은 다른 AI 모델의 응답을 학습 재료로 활용하여 유사한 기능을 가진 모델을 개발하는 방법이다. 이러한 기술은 AI 기업들이 자사의 고급 모델에 필적하는 경량 하위 모델을 만드는 데 유용하게 사용되지만, 경쟁사의 모델을 무단으로 사용하여 대규모로 데이터를 활용하는 것은 도용이나 탈취로 간주될 수 있다.

회사는 이번 탐지 결과를 다른 AI 연구소와 공유하면서 인증 절차를 강화하고, 새로운 안전 장치를 개발하는 작업에 착수했다고 밝혔다. 그러나 이러한 문제를 해결하기 위해서는 AI 업계와 클라우드 서비스 제공업체 및 정책 입안자들 간의 협력이 필요하다고 강조했다. 앤스로픽의 경고는 기존에 오픈AI가 미 하원 중국특별위원회에 제출한 메모와도 연관이 있다. 이 메모에서도 딥시크와 같은 중국 기업들이 미국 AI 모델의 결과물을 추출하는 증류 기법 사용에 대한 우려가 제기된 바 있다.

AI 기술의 윤리적 사용에 대한 논의는 그 어느 때보다 중요한 시점에 있으며, 이로 인해 AI 기업들은 더욱 엄격한 책임의식을 가지고 기술 개발에 나설 필요성이 커지고 있다. 기술의 발전과 함께 법적, 윤리적 기준도 함께 발전해야 한다는 점이 계속해서 부각되고 있다.