AISpot

搜尋

找到 4 筆;也可以試試 語意搜尋

Apple Machine Learning Research● 精選AI 評分85

MLX 新版發布:4 臺 Mac Studio 叢集跑 816B 模型超 36 tokens/s

MLX 今日發布新版本,支援用 RDMA over Thunderbolt 把多臺 Mac Studio 組成叢集:4 臺 M5 Ultra 執行近萬億引數的 Muse Spark Open(816B MoE,NVFP4 精度)解碼超過 36 tokens/s,高於人類平均閱讀速度。單臺 512GB Mac Studio 可跑 Qwen 3.8 27B 與 Mistral Medium 3.5 128B,在 65,536 上下文下分別佔用最多 68GB 和 158GB 記憶體。

The Verge AI● 精選AI 評分91

Meta 發布 Muse Spark 開源模型,與蘋果合作適配 MLX 本地執行

Meta 發布開放權重模型 Muse Spark,稱其為美國迄今最強的開放權重模型,也是同類中首個能借助最新 MLX 框架、在兩臺 Apple M5 Ultra Mac Studio 上本地執行的模型。Meta 與蘋果這次罕見合作並公開互相支援:扎克伯格在 X 上表示該模型在新 Mac Studio 上表現出色,蘋果新任 CEO John Ternus 回覆致賀。