메타, 소비자용 그래픽카드에서 작동 가능한 300억 매개변수 AI 모델 ‘뮤즈 글리머’ 공개

메타(Meta·$META)가 10일, 단일 소비자용 그래픽카드에서 운영할 수 있는 300억 매개변수 인공지능(AI) 모델 ‘뮤즈 글리머(Muse Glimmer)’를 공개했다. 이 모델은 대형 클라우드 서버에 의존하지 않고도 개인용 컴퓨터에서 에이전트형 작업을 수행할 수 있도록 설계된 오픈웨이트 모델이다.

뮤즈 글리머의 가중치는 모델 저장소인 허깅페이스(Hugging Face)에 이미 공개되었으며, 라이선스는 수정 및 재배포를 허용하는 아파치 2.0이 적용되어 있다. 사용자는 저작권 및 라이선스 고지와 같은 조건을 준수해야 한다.

이번 발표는 메타가 개인용 컴퓨터에서 실행할 수 있는 경량 오픈웨이트 AI 모델을 선보인 이전 흐름의 연장선상에 있다. 오픈웨이트 모델은 AI가 입력 데이터를 처리하고 결과를 생성할 때 사용하는 계산값인 가중치를 사용자에게 내려받을 수 있도록 열어주는 배포 방식이다. 오픈웨이트는 오픈소스와 다르며, 모델의 가중치가 공개되더라도 학습 데이터, 소스 코드, 개발 전체 과정이 공개된다는 것은 아니다.

뮤즈 글리머는 메타의 더 큰 모델인 뮤즈 스파크(Muse Spark)를 기반으로 학습되었으며, 큰 모델의 출력과 학습 결과를 활용하여 작은 모델의 성능을 향상시키는 ‘증류’ 기법을 채택하고 있다. 일반적으로 300억 매개변수 모델은 정밀도를 유지할 경우 55GB 넘는 메모리를 요구하지만, 메타는 수치 정밀도를 낮추는 압축 기술을 적용하여 모델 크기를 20GB 미만으로 줄였다.

압축된 모델은 24GB 또는 32GB급 그래픽카드에서 다른 운영 요소와 함께 실행할 수 있도록 설계되어 있으며, 클라우드 비용이나 외부 서버와의 연결 없이도 자체 장비에서 운용할 수 있는 구조다. 이를 통해 개발자는 원하는 환경에서 모델을 직접 사용할 수 있게 된다.

추론 속도를 높이기 위해 ‘추측 디코딩’ 기법이 도입됐다. 작은 보조 모델이 다음 문장 조각을 예측하고, 본 모델이 여러 예측을 검증하는 방식이다. 메타의 자체 시험 결과에 따르면 뮤즈 글리머는 RTX 5090에서 3.1배, M5 맥스에서 1.8배, M4 맥스에서 1.5배 빠른 성능을 보였다. 그러나 비교 기준 및 성능 수치는 메타의 자체 평가 결과이며, 외부에서의 독립적인 검증은 아직 없다.

뮤즈 글리머는 코딩, 행정 업무, 외부 도구 호출 등 여러 단계를 포함한 에이전트형 작업에 중점을 두고 있으며, 이는 사용자 요청에 대한 답변 생성뿐 아니라 작업을 나누고 도구를 활용하여 결과를 완성하는 모델로 구체화된다. 메타는 뮤즈 글리머를 구글의 젬마4-31B와 알리바바의 큐원3.6-27B에 상응하는 모델로 제시하며, 실제 코드 오류 수정 및 외부 도구 호출과 작업 실패 후 복구 능력에서 경쟁력을 강조하고 있다.

마크 저커버그(Mark Zuckerberg) 메타 CEO는 ‘미래는 모두를 위한 것(The Future Is for Everyone)’이라는 글에서 "미국의 오픈소스 모델이 장기적으로 앞서가려면 정책적으로 추가적인 마찰을 줄여야 한다"며, AI 역량이 소수의 기관에 집중되지 않고 개인 및 개발자들에게 널리 제공되어야 한다고 지적했다.

이번 공개는 구글, 알리바바, 미스트랄, 딥시크 등이 경량 모델을 출시하는 가운데 이루어졌다. 사용자들은 모델을 자신의 장비에서 실행함으로써 환경을 통제할 수 있지만, 구동에 필요한 하드웨어와 운영 역량은 사용자가 준비해야 한다. AI 모델의 로컬 구동 확장은 그래픽카드에 대한 수요를 증가시킬 것이며, 그 결과 암호화폐 AI 부문 및 탈중앙화 컴퓨팅 분야에 미치는 영향도 주목할 필요가 있다.

메타는 앞으로 수주 안에 뮤즈 스파크의 오픈웨이트 버전을 공개할 계획이며, 이후 더 큰 모델도 선보일 예정이다. 뮤즈 글리머의 성능은 가중치를 내려받은 외부 개발자들의 독립적인 테스트를 통해 검증되고 구체화될 전망이다.