AISpot

搜尋

找到 7 筆

Apple Machine Learning Research● 精選AI 評分85

MLX 新版發布:4 臺 Mac Studio 叢集跑 816B 模型超 36 tokens/s

MLX 今日發布新版本,支援用 RDMA over Thunderbolt 把多臺 Mac Studio 組成叢集:4 臺 M5 Ultra 執行近萬億引數的 Muse Spark Open(816B MoE,NVFP4 精度)解碼超過 36 tokens/s,高於人類平均閱讀速度。單臺 512GB Mac Studio 可跑 Qwen 3.8 27B 與 Mistral Medium 3.5 128B,在 65,536 上下文下分別佔用最多 68GB 和 158GB 記憶體。

The Verge AI● 精選AI 評分91

Meta 發布 Muse Spark 開源模型,與蘋果合作適配 MLX 本地執行

Meta 發布開放權重模型 Muse Spark,稱其為美國迄今最強的開放權重模型,也是同類中首個能借助最新 MLX 框架、在兩臺 Apple M5 Ultra Mac Studio 上本地執行的模型。Meta 與蘋果這次罕見合作並公開互相支援:扎克伯格在 X 上表示該模型在新 Mac Studio 上表現出色,蘋果新任 CEO John Ternus 回覆致賀。

LM Studio blog● 精選AI 評分88

Meta 開源 30B 模型 Muse Glimmer,LM Studio 首發支援

Meta 發布 30B 開源模型 Muse Glimmer,採用 Apache 2.0 許可,發布當天即可在 LM Studio Bionic 中下載並本地執行。該模型面向本地 agent 工作流,支援多步任務、工具呼叫與影像輸入,可在 Mac 和 PC 上執行。在 LM Studio 內部評測 BionicBench v0.1 的 18 項任務中完成率 83.3%,高於 Gemma 4 31B 與 Qwen 3.6 27B 的 77.7%。

Kimi blog● 精選AI 評分88

月之暗面開源 Kimi K2.6,主打長程編碼與 Agent 能力

月之暗面開源最新模型 Kimi K2.6,主打編碼、長程執行與 Agent 叢集能力,已上線 Kimi.ai、Kimi App、API 和 Kimi Code。官方稱其在內部基準 Kimi Code Bench 上較 K2.5 明顯提升,並給出兩個長程案例:在 Mac 上用 Zig 實現 Qwen3.5-0.8B 本地推理,經 4000+ 次工具呼叫、12 小時以上執行、14 輪迭代,吞吐從約 15 提升到約 193 tokens/秒,比 LM Studio 快約 20%;