X @awnihannunAI 評分21
@awnihannun: Pretty remarkable what two M5 Ultras + MLX can do now
MLX 開發者 Awni Hannun 稱,兩臺 M5 Ultra 搭配 MLX 現在能做出相當驚人的結果。推文只有這一句,沒有給出模型、任務型別、速度或視訊記憶體資料,也沒有說明是推理還是訓練。可確認的只有硬體與框架組合:雙 M5 Ultra 加 MLX。
找到 4 筆;也可以試試 語意搜尋
MLX 開發者 Awni Hannun 稱,兩臺 M5 Ultra 搭配 MLX 現在能做出相當驚人的結果。推文只有這一句,沒有給出模型、任務型別、速度或視訊記憶體資料,也沒有說明是推理還是訓練。可確認的只有硬體與框架組合:雙 M5 Ultra 加 MLX。
Meta 發布開源權重模型 Muse Spark Open,816B 總引數(42B 啟用)、1M token 上下文,稱其為迄今最強的美國開源權重模型。
MLX 今日發布新版本,支援用 RDMA over Thunderbolt 把多臺 Mac Studio 組成叢集:4 臺 M5 Ultra 執行近萬億引數的 Muse Spark Open(816B MoE,NVFP4 精度)解碼超過 36 tokens/s,高於人類平均閱讀速度。單臺 512GB Mac Studio 可跑 Qwen 3.8 27B 與 Mistral Medium 3.5 128B,在 65,536 上下文下分別佔用最多 68GB 和 158GB 記憶體。
Meta 發布開放權重模型 Muse Spark,稱其為美國迄今最強的開放權重模型,也是同類中首個能借助最新 MLX 框架、在兩臺 Apple M5 Ultra Mac Studio 上本地執行的模型。Meta 與蘋果這次罕見合作並公開互相支援:扎克伯格在 X 上表示該模型在新 Mac Studio 上表現出色,蘋果新任 CEO John Ternus 回覆致賀。