2026 年 10 月 29 日,LM Studio 在 X 上宣布新增 oMLX 推理引擎,使用者下載該引擎後即可直接執行本地已有的 MLX 模型,無需重新下載模型檔案。據 LM Studio 介紹,這次整合由其與 Hugging Face 以及 oMLX 作者 jundotkim 合作完成。同一天發布的另一條推文進… 看完整事件
@lmstudio: oMLX is a performant and popular MLX engine for Apple Silicon, created and led by @jundotkim.
LM Studio 推薦開源 MLX 引擎 oMLX,稱其是面向 Apple Silicon 的高效能、受歡迎的推理引擎,由 @jundotkim 建立並領導。該專案開源且社群活躍,推文附有 GitHub 連結,未給出更多效能資料或安裝細節。
原標題:@lmstudio: oMLX is a performant and popular MLX engine for Apple Silicon, created and led by @jundotkim.
閱讀原文
| 評分 | 35 / 33(平均 34,門檻 60) |
|---|---|
| 狀態 | 未入選 |
相關報導
Ollama v0.40.0:Apple Silicon 預設用 MLX 執行模型
Ollama 發布 v0.40.0,在 Apple Silicon 裝置上,MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8,其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5;決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX,並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。
MLX 新版發布:4 臺 Mac Studio 叢集跑 816B 模型超 36 tokens/s
MLX 今日發布新版本,支援用 RDMA over Thunderbolt 把多臺 Mac Studio 組成叢集:4 臺 M5 Ultra 執行近萬億引數的 Muse Spark Open(816B MoE,NVFP4 精度)解碼超過 36 tokens/s,高於人類平均閱讀速度。單臺 512GB Mac Studio 可跑 Qwen 3.8 27B 與 Mistral Medium 3.5 128B,在 65,536 上下文下分別佔用最多 68GB 和 158GB 記憶體。
MLX 新增 Nemotron 3.5 Super,並修復 Nemotron 多項 bug
v0.40.5-rc1 為 MLX 後端新增 Nemotron 3.5 Super 模型支援。同一版本修復了 Nemotron 的層數推斷與分離式 MTP 量化問題,在保留舊別名的基礎上接受官方發布的層命名,並穩定 Mamba softplus、保留 FP32 視覺歸一化。
MLX v0.40.0-rc1 對齊發布方 tokenizer 語義
MLX 發布 v0.40.0-rc1,核心改動是讓本地 tokenizer 與模型發布方的語義保持一致,涵蓋預分詞階段順序、切分行為、Unicode 邊界、added token 歸一化和 BPE 合併排序,並統一處理空 added token 與空 Metaspace 輸入。同時新增 Go/Python 共享參考用例,直接拉取缺失模型並在出錯時失敗,另加配置優先順序、位元組回退與並行編碼的迴歸測試。
MLX 0.32.4 發布:Metal 新增 1-bit 仿射量化
MLX 發布 0.32.4,Metal 後端新增 1-bit 仿射量化支援,mlx.core.fft 新增 stft 與 istft 音訊變換運算元。同版本加入 Python 3.15 與 3.15t 支援、整數整除原語 FloorDivide、SDPA 與 gated delta net 的 VJP,並新增 MLX_CONV_WINOGRAD 開關以停用 conv2d 的 Winograd 實現。