Meta 的 Muse Glimmer 將完整代理式 AI 帶到單一筆電 GPU

新聞摘要

Meta 超級智慧實驗室於 2026 年 8 月 10 日（美東時間）發布了 Muse Glimmer，這是一個 300 億參數的開放權重代理式 AI 模型，設計為完全在單一消費級 GPU 上執行。Glimmer 是從 Meta 較大的 Muse Spark 模型蒸餾而來，專為持續在線的本地工作流程而設計，例如排程、訊息草擬、檔案整理與自主編碼輔助，並以寬鬆的 Apache 2.0 授權提供，同時附上開發者文件與硬體夥伴整合。

Muse Glimmer 是什麼

Muse Glimmer 是一個因果語言模型，搭配專用的感知編碼器，提供文字與影像的多模態輸入支援。Meta 將其描述為專為「更長弧線」的代理式工作而打造：跨越多次工作階段的多步驟任務，需要模型追蹤記憶、從失敗中恢復，並在重新啟動等中斷後繼續執行。該模型支援超過 100 種語言，並提供可控的推理努力等級，讓開發者能根據任務在延遲與推理深度之間進行取捨。

訓練方法

Meta 透過三階段流程訓練 Glimmer。預訓練階段依賴從較大的 Muse Spark 教師模型產生的輸出進行 logit 蒸餾。中期訓練則轉向更長上下文、代理密集的資料，並加入推理軌跡，教導模型規劃與執行多步驟工具呼叫。後期訓練結合了監督式微調、同策略蒸餾與強化學習，精煉模型精確使用工具並在任務中途診斷自身失敗的能力。

在消費級硬體上執行

主要的賣點是效率：在約 4 位元量化下，Muse Glimmer 的記憶體佔用從約 55 GB 降至 20 GB 以下，且準確度損失極小，能輕鬆容納在現今消費級 GPU 常見的 24–32 GB 記憶體範圍內。Meta 表示，該模型已在 Apple 的 MacBook M4-Max 與 M5-Max 晶片以及 Nvidia 的 RTX-5090 桌上型 GPU 上完成驗證。為了提升回應速度，Meta 為 Glimmer 搭配了一個名為 DFlash 的推測解碼「草稿」模型，Meta 報告指出，這在 RTX-5090 上帶來 3.1 倍的速度提升，在 M5-Max 上為 1.8 倍，在 M4-Max 上為 1.5 倍。

基準測試表現

Meta 將 Muse Glimmer 定位於與同尺寸的開放模型競爭，包括 Gemma4-31B 與 Qwen3.6-27B，並宣稱在 DeepSearch QA、MCP-Atlas、τ-Bench 與 SWE-Bench 等代理式基準測試中具有優勢，同時在編碼、一般推理、多模態評估與安全評估上也有更強的結果。Meta 將這些結果視為證據，證明強大的代理式行為不再需要雲端規模的基礎設施，而一個蒸餾良好的 300 億參數模型現在就能處理先前保留給更大系統的工作負載。

可用性與生態系統支援

Muse Glimmer 的權重已發布在 Hugging Face 上，採用 Apache 2.0 授權，並附上用於建置自訂代理的開發者文件。該模型在發布時即獲得廣泛的本地推論工具支援，包括 Ollama、LM Studio、Unsloth、llama.cpp、ExecuTorch 與 MLX，以及生產級服務框架 vLLM 與 SGLang。商業託管存取可透過 Together AI、Fireworks AI 與 OpenRouter 取得。Meta 表示，它與硬體夥伴 AMD、Arm、Dell、Intel 與 Nvidia 合作，針對各自的晶片與裝置最佳化 Glimmer，其中 AMD 與 Nvidia 都發布了在 Ryzen AI Max 與 RTX GPU 硬體上執行該模型的技術指南。

為何重要

此次發布延伸了 Meta 在 AI 模型競賽中的開源策略，為全球開發者、學生與研究人員提供了一個強大的代理式模型，他們可以在一般筆電與桌上型電腦上離線執行，而不必依賴雲端 API 存取。透過強調裝置端執行、低記憶體需求與廣泛的工具支援，Meta 旨在降低建置本地 AI 代理的門檻，以用於編碼、生產力與自動化任務，同時繼續在開放性與可及性上與其他主要 AI 實驗室的專有產品競爭。