Muse Spark Open 開源:816B 引數,雙 M5 Ultra Mac Studio 可本地執行
Meta 發布開源權重模型 Muse Spark Open,816B 總引數(42B 啟用)、1M token 上下文,稱其為迄今最強的美國開源權重模型。
找到 4 筆;也可以試試 語意搜尋
Meta 發布開源權重模型 Muse Spark Open,816B 總引數(42B 啟用)、1M token 上下文,稱其為迄今最強的美國開源權重模型。
Meta 發布開放權重模型 Muse Spark Open,採用混合專家架構,總引數約 816B、每 token 啟用約 42B,可輸入文字、影像、音訊和影片,輸出文字,上下文視窗最高 100 萬 token。模型針對 agentic coding 訓練,能閱讀程式碼庫、編寫與除錯程式碼並呼叫工具。官方提供 BF16 與 NVFP4 兩種權重,BF16 約 1.5TB,NVFP4 為 4 位精度、面向 NVIDIA Blackwell GPU。
MLX 今日發布新版本,支援用 RDMA over Thunderbolt 把多臺 Mac Studio 組成叢集:4 臺 M5 Ultra 執行近萬億引數的 Muse Spark Open(816B MoE,NVFP4 精度)解碼超過 36 tokens/s,高於人類平均閱讀速度。單臺 512GB Mac Studio 可跑 Qwen 3.8 27B 與 Mistral Medium 3.5 128B,在 65,536 上下文下分別佔用最多 68GB 和 158GB 記憶體。
推理框架 v0.32.0 發布,最值得注意的是新增 meta-models/Muse-Spark-Open-816B-A42B-NVFP4 模型支援,併為 NVFP4 量化 MoE 加入全域性縮放。同版本還新增 MiniCPM5 工具呼叫解析器、Hadamard 旋轉的 2-bit Qwen3.5(prism_hadamard_qwen35)、Qwen3.5 並行 head,並支援未轉換的模型權重。