퀄컴(Qualcomm·$QCOM)이 스페인 인공지능(AI) 기업인 멀티버스 컴퓨팅(Multiverse Computing)과 손잡고 데이터센터용 AI 모델의 경량화 작업에 착수했다. 이번 협력의 주요 목표는 대규모 언어 모델(LLM)의 부피와 실행 요구사항을 줄여 추론 효율성을 증대시키는 것이다.

멀티버스 컴퓨팅은 본사 홈페이지를 통해 경량 AI 모델을 퀄컴의 드래곤플라이(Dragonfly) AI200 및 AI250 가속기에 맞춤형으로 최적화하겠다고 밝혔다. 해당 협업을 “효율적인 AI 모델을 데이터센터에 도입하기 위한 긴밀한 공동 작업”이라고 지칭하며 그 의도와 중요성을 강조했다.

이 협력의 핵심 기술은 멀티버스 컴퓨팅의 모델 압축 기술인 CompactifAI다. 이 기술은 양자컴퓨팅에서 응용되는 수학적 접근 방식을 바탕으로 한 텐서 네트워크를 활용해 LLM의 크기와 메모리 사용량을 대폭 줄이는 기능을 갖고 있다. 멀티버스 컴퓨팅은 CompactifAI를 통해 압축된 모델이 추론 비용을 50~80% 줄이고, 추론 속도를 최대 2배로 향상시킬 수 있기를 목표로 하고 있다. 또한, 이 기술은 원본 모델의 정확도를 거의 100% 유지할 수 있다는 설명이다.

이 수치는 멀티버스 컴퓨팅이 자사 서비스에서 달성하고자 하는 목표로, 실제 상용 환경에서 이 같은 효과를 내는지는 향후 고객 배포 사례와 독립적인 벤치마크를 통해 확인해야 할 사항이다.

이번 협력은 퀄컴이 AI 추론용 데이터센터 시장에 진출하는 전략과 밀접하게 관련되어 있다. 퀄컴은 지난 6월에 드래곤플라이 포트폴리오를 공개하며 AI200, AI250, AI300 모델에 대한 추론 가속기 로드맵을 제시한 바 있다. 특히 AI250 모델은 HBC Gen 1 기반으로 설계되어 카드는 133TB/s의 유효 메모리 대역폭을 제공하는 것을 목표로 하고 있으며, 이 수치는 AI200의 18배에 해당한다.

AI 인프라 경쟁은 이제 모델 학습 성능에서 추론 효율로 다각화되고 있다. 챗봇, AI 에이전트, 검색 보조 도구와 같은 반복적으로 호출되는 서비스는 응답을 생성할 때마다 추론 비용이 누적되는 경향이 있기 때문에, 모델 압축은 이 과정에서 필수적인 메모리와 전력 소모 그리고 응답 지연을 줄일 수 있는 방법을 제공한다.

멀티버스 컴퓨팅은 2025년 6월까지 CompactifAI가 LLM의 크기를 최대 95%까지 줄일 수 있으며, 성능 또한 유지될 것이라는 주장을 하고 있다. 이날 1억8900만 유로 규모의 투자 유치도 발표되었으며, 이는 여러 초경량 환경의 PC, 휴대전화, 차량, 드론 등에서도 적용될 수 있다고 강조하고 있다.

다만, 현재 발표에서 블록체인 인프라, 채굴 장비 등의 직접적인 연관성은 밝혀지지 않았고, AI 데이터센터의 전력 효율과 추론 비용 절감이 탈중앙 AI나 검증 가능한 AI 연산, 온디바이스 AI 지갑 등으로 미치는 구체적 영향 또한 아직 명확하지 않다.

퀄컴과 멀티버스 컴퓨팅은 CompactifAI 기반 모델을 드래곤플라이 AI200 및 AI250에 최적화할 예정이며, 이를 통한 비용 절감과 성능 유지의 정도는 실제 고객 배포와 독립적인 벤치마크가 공개된 이후에 보다 면밀히 평가될 것이다.