메타, 816B 파라미터 뮤즈 스파크 오픈 공개 — 1M 컨텍스트, 맥 스튜디오 2대로 구동

뉴스 요약

메타가 8160억 개의 파라미터를 가진 멀티모달 모델인 뮤즈 스파크 오픈의 가중치를 공개했다. 메타는 이 모델을 현재까지 미국 개발사가 공개한 가장 강력한 오픈 가중치 모델이라고 설명한다. 발표는 메타 연구 사이트에 2026년 10월 15일자로 게시됐으며, 메타는 발표 시각을 명시하지 않아 정확한 시간대는 확인할 수 없다. 이 모델은 토큰당 420억 개의 활성 파라미터를 사용하는 전문가 혼합(MoE) 설계를 채택했으며, 최대 100만 토큰의 컨텍스트를 수용할 수 있다. 코딩과 장기 실행 에이전트 작업을 겨냥한 모델이다.

메타가 공개한 것

뮤즈 스파크 오픈은 총 8160억 개의 파라미터를 보유하지만, 각 토큰을 처리할 때 활성화되는 파라미터는 약 420억 개에 불과하다. 이것이 전문가 혼합(MoE) 모델의 핵심 개념이다. 수많은 전문 하위 네트워크가 존재하고, 라우터가 각 단계마다 그중 작은 부분집합을 선택한다. 그 결과 동일한 크기의 밀집 모델보다 토큰당 계산 비용이 훨씬 낮으면서도 매우 큰 지식 용량을 확보할 수 있다. 이 모델은 기본적으로 멀티모달로 설계되어, 텍스트와 이미지를 함께 처리하도록 훈련됐으며(이후에 비전 기능을 추가로 덧붙인 것이 아님), 100만 토큰 컨텍스트 창을 지원해 대규모 코드베이스나 수 시간 분량의 전사 자료를 한 세션에 담을 수 있다.

가중치는 허깅 페이스의 meta-models/Muse-Spark-Open-816B-A42B 저장소에 BF16 정밀도로 등재되어 있으며, 메모리 사용량을 줄인 별도의 NVFP4(4비트 부동소수점) 빌드도 제공된다. 메타는 또한 아마존 세이지메이커 AI, 구글 클라우드 모델 가든, 마이크로소프트 파운드리 모델스를 통한 다운로드도 지원한다.

코딩과 에이전트에 초점

메타는 이 모델을 소프트웨어 엔지니어링, 다단계 추론, 장기 지평 에이전트 작업(모델이 계획을 세우고 도구를 호출하며 여러 단계에 걸쳐 계속 작업을 수행하는 방식)에 적합하다고 설명한다. 메타의 코딩 도구인 뮤즈 코드(이 모델 기반)를 사용한 두 가지 시연이 공개됐다. 첫 번째 시연에서는 오픈소스 마스토돈 클라이언트인 iOS용 아이스 큐브스에 변경 사항을 적용했다. 두 번째 시연에서는 다빈치 리졸브에서 엔드투엔드 비디오 편집을 처리했는데, 프레임별로 영상을 검토하고 가장 강렬한 장면을 잘라 세로형 클립으로 만들었다.

책상 위에서 프런티어급 모델 구동하기

가장 눈에 띄는 주장은 로컬 배포다. 메타는 이 모델이 애플의 MLX 프레임워크를 사용해 애플 M5 울트라 맥 스튜디오 2대로 구동된다고 말한다. 각 머신은 통합 GPU에 최대 512GB의 통합 메모리를 제공하며 1.2TB/s의 메모리 대역폭을 지원하므로, 두 대를 합치면 CPU와 GPU가 공유하는 약 1TB의 메모리를 확보할 수 있다. 대규모 모델에서 통합 메모리가 중요한 이유는 가중치를 별도의 시스템 메모리와 그래픽 메모리 사이에 복사할 필요가 없기 때문이다. 메타는 이를 "미래는 모두를 위한 것"이라는 신념의 일부로 설명하며, 고급 모델을 가정에서 구동할 수 있게 하는 방안으로 제시한다.

이 주제가 처음인 독자를 위해 설명하면, 양자화가 이를 가능하게 하는 핵심이다. NVFP4 빌드처럼 각 가중치를 더 적은 비트로 저장하면 메모리 사용량이 줄어들지만, 보통 작업에 따라 달라지는 정확도 손실이 어느 정도 발생한다.

접근, 도구, 속도

호스팅 API 접근은 바세텐, 파이어웍스 AI, 그록, 모달, 네비우스, 오픈라우터, 투게더 AI를 통해 제공된다. 지원되는 추론 엔진으로는 SGLang, vLLM, TensorRT-LLM, 허깅 페이스 트랜스포머스, 애플 MLX, llama.cpp, 언슬로스가 있으며, AMD, 애플, 인텔, 엔비디아 하드웨어에 대한 최적화가 포함된다. 미세 조정은 파이토치와 토치타이탄을 통해 지원된다.

성능 엔지니어링 측면에서 메타는 SGLang의 커스텀 자동 튜닝 헬리온 GPU 커널이 엔비디아 및 AMD GPU에서 1.03배에서 3.95배의 커널 수준 속도 향상을 제공하고, AMD MI350 하드웨어에서는 엔드투엔드 3% 속도 향상을 제공한다고 말한다. 커널은 하나의 핵심 연산을 수행하는 작은 GPU 프로그램이므로, 커널 수준의 속도 향상은 전체 모델 처리량에 일부만 반영된다. 그래서 엔드투엔드 수치가 더 작은 것이다.

라이선스와 안전성

이 모델은 뮤즈 모델 라이선스로 배포된다. 메타는 이 라이선스가 제한적인 상업 조건을 포함해 많은 개발자가 무료로 사용할 수 있게 한다고 설명한다. 독립 보도에 따르면 이 라이선스는 모델의 사용, 수정, 미세 조정, 증류, 재배포를 허용하지만, 기존 오픈소스 라이선스에는 없는 조건을 추가하므로 "오픈 가중치"가 "오픈소스"보다 더 정확한 표현이다. 이 모델을 기반으로 제품을 만들기 전에 라이선스 전문을 읽어야 한다.

메타는 이 모델이 추가적인 안전성 사후 훈련을 거쳤으며, 자체 메타 슈퍼인텔리전스 스케일링 프레임워크에 따라 평가되어 프레임워크의 릴리스 기준을 충족했다고 밝혔다. 메타의 자체 요약에 따르면 "결과는 측정된 위험 범주 전반에 걸쳐 강력한 안전장치를 입증한다"고 한다. 자세한 결과는 모델 카드에 있으며, 더 포괄적인 평가 보고서는 곧 공개될 예정이다.

맥락: 메타 모델 라인업에서의 위치

메타는 2026년 4월 뮤즈 스파크를 독점 모델로 출시하면서 향후 버전을 오픈할 계획이라고 밝혔다. 2차 보도에 따르면 2026년 8월 아파치 2.0 라이선스로 300억 파라미터의 오픈 모델 뮤즈 글리머가 출시됐고, 메타 리더십은 이후 더 새로운 뮤즈 스파크 버전의 가중치도 공개하겠다고 말했다. 뮤즈 스파크 오픈은 그 시퀀스에서 대규모 단계에 해당한다. 2차 매체들은 더 새로운 호스팅 뮤즈 스파크 버전도 보도하고 있으므로, 오픈 모델이 메타의 최신 독점 릴리스와 동일하다고 가정해서는 안 된다.

주의해서 볼 점

메타의 연구 페이지에는 핵심 벤치마크 섹션과 평가 방법론 보고서 링크가 있지만, 이번 보고서에서는 벤치마크 수치를 추출할 수 없었으며, 업계 보도에 따르면 독립적인 평가가 아직 메타의 성능 주장을 확인하지 못했다. "가장 강력한 미국 오픈 가중치 모델"이라는 설명은 메타 자체의 표현이다. 맥 2대 구성에서의 실제 속도, 양자화 빌드의 품질, 긴 컨텍스트에서의 동작 같은 실질적인 문제는 커뮤니티가 가중치를 테스트하면서 답이 나올 것이다.

학습자에게 중요한 이유

학생과 개발자에게 이번 릴리스는 프런티어급 전문가 혼합 모델을 직접 연구할 기회다. 구조를 살펴보고, 오픈 도구로 실행하고, 더 작은 변형을 미세 조정하고, 양자화 트레이드오프를 비교할 수 있다. 또한 대용량 통합 메모리를 갖춘 하드웨어가 데이터 센터 밖에서 실행할 수 있는 범위를 어떻게 바꾸고 있는지 보여준다.

출처

메타 리서치(research.meta.ai/blog/muse-spark-open); 허깅 페이스 모델 카드 및 컬렉션; 2026년 10월 15일경의 MarkTechPost, Unite.AI, Analytics India Magazine, iGeeksBlog, DEV Community 보도; 이전 뮤즈 모델 맥락에 대한 The Register 및 Constellation Research.