메타(Meta·$META)는 소비자용 단일 그래픽카드에서 실행할 수 있는 300억 매개변수 인공지능(AI) 모델인 '뮤즈 글리머(Muse Glimmer)'를 10일 공개하였다. 이 모델은 대규모 클라우드 서버를 통하지 않고 개인용 컴퓨터에서 에이전트형 작업을 처리하도록 설계된 오픈웨이트 모델로, 제로헤지는 해당 모델의 가중치가 모델 저장소인 허깅페이스(Hugging Face)를 통해 공개되었다고 보도하였다. 라이선스는 수정 및 재배포를 허용하는 아파치 2.0이 적용되며, 사용자는 저작권 및 관련 조건을 준수해야 한다.

이번 출시는 메타가 개인용 컴퓨터에서 실행 가능한 경량의 오픈웨이트 AI 모델을 선보이는 기조의 일환이다. 오픈웨이트는 AI가 입력을 처리하고 결과를 생성하기 위해 사용하는 계산값인 가중치를 다운받을 수 있도록 공개하는 방식으로, 오픈소스와는 다른 공개 범위를 지닌다. 즉, 모델의 가중치가 공개되더라도 학습 데이터와 소스 코드, 전체 개발 과정이 공개되는 것은 아니다.

뮤즈 글리머는 메타의 대형 AI 모델인 뮤즈 스파크(Muse Spark)를 기반으로 하여 학습되었고, '증류'라는 기법을 통해 큰 모델의 출력과 학습 결과를 바탕으로 작은 모델의 성능을 향상시켰다. 일반적으로 300억 매개변수 모델은 약 55GB 이상의 메모리를 요구하지만, 메타는 수치 정밀도를 낮추는 압축 기술을 적용하여 모델 크기를 20GB 미만으로 줄이는 데 성공하였다. 이로 인해 24GB 또는 32GB 용량의 그래픽카드에서 다른 구동 요소와 함께 사용할 수 있게 되었다.

추론 속도를 높이기 위해 '추측 디코딩' 방식이 도입되었으며, 이는 작은 보조 모델이 다음 문장 조각을 미리 예측하고 본 모델이 다수의 예측을 동시에 확증하는 구조로 되어 있다. 메타의 내부 시험에서, 뮤즈 글리머는 RTX 5090에서 3.1배, M5 맥스에서 1.8배, M4 맥스에서 1.5배 빠른 성능을 발휘한 것으로 나타났다. 그러나 이 수치는 메타의 자체 시험 결과로, 외부의 독립적인 검증은 아직 이루어지지 않았다.

뮤즈 글리머는 코딩, 행정 업무, 외부 도구 호출 등 여러 단계를 거치는 에이전트형 작업에 초점을 맞추었으며, 사용자의 지시를 수행하는 것에 그치지 않고 작업을 분산하고 도구를 활용하여 결과를 완성하는 모델이다. 메타는 이 모델을 구글의 젬마4-31B 및 알리바바의 큐원3.6-27B와 경쟁할 수 있는 모델로 제안하고 있으며, 실제 코드 오류 수정, 외부 도구 호출 및 작업 실패 후 복구 능력에서 경쟁력을 갖추었다고 밝혔다.

마크 저커버그(Mark Zuckerberg) 메타 CEO는 "미국 오픈소스 모델이 장기적으로 경쟁력을 유지하기 위해서는 미국 정책이 이러한 추가적인 마찰을 줄여야 한다"고 주장하였다. AI의 잠재력을 소수의 기관에 집중시키기보다 개인 및 개발자에게 널리 배포해야 한다는 그의 소신을 드러낸 것이다.

이번 발표는 구글, 알리바바, 미스트랄, 딥시크 등 다수의 기업들이 소형 공개 모델을 출시하는 가운데 이루어졌다. 자체 장비에서 모델을 실행하면 사용자가 환경을 제어하고 조정할 수 있는 장점이 있지만, 이를 위한 구동 장비와 운영 능력은 사용자가 직접 준비해야 한다.

AI 모델의 로컬 구동이 확대되면서 그래픽카드와 개인 컴퓨팅 자원의 수요가 증가할 것으로 예상된다. 이러한 수요가 암호화폐 AI 섹터와 탈중앙화 컴퓨팅 분야로 이어질 것인지는 추가적인 관찰이 필요하며, 관련된 토큰 가격이나 거래량에 미치는 직접적인 영향은 아직 확인되지 않았다. 메타는 앞으로 몇 주 내에 뮤즈 스파크의 오픈웨이트 버전을 공개하고, 이후 더 큰 모델도 출시할 예정이다. 뮤즈 글리머의 실제 성능은 가중치를 다운받은 외부 개발자들의 독립적인 검증을 통해 명확히 밝혀질 것으로 기대된다.