2026 年 10 月 29 日,LM Studio 在 X 上宣布新增 oMLX 推理引擎,使用者下載該引擎後即可直接執行本地已有的 MLX 模型,無需重新下載模型檔案。據 LM Studio 介紹,這次整合由其與 Hugging Face 以及 oMLX 作者 jundotkim 合作完成。同一天發布的另一條推文進… 看完整事件
LM Studio 接入 oMLX 引擎,可直接執行已有 MLX 模型
LM Studio 新增 oMLX 推理引擎;使用者下載該引擎後,可直接用它執行本地已有的 MLX 模型,無需重新下載模型。該整合由 LM Studio 與 Hugging Face 以及 jundotkim 合作完成。官方未披露支援的模型範圍、硬體要求與效能表現。
LM Studio 在自有引擎之外新增第三方推理後端,已有 MLX 模型可直接切換引擎執行;對在本地用 LM Studio 跑 MLX 模型的人最有參考價值。
原標題:@lmstudio: You can now use oMLX in LM Studio!
閱讀原文
| 評分 | 72 / 58(平均 65,門檻 60) |
|---|---|
| 狀態 | 精選 |
相關報導
Ollama v0.40.0:Apple Silicon 預設用 MLX 執行模型
Ollama 發布 v0.40.0,在 Apple Silicon 裝置上,MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8,其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5;決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX,並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。
LM Studio 首日上線 Flint:40B MoE 本地編碼模型
Recursive SI 的 Flint 模型在發布首日就進入 LM Studio,可直接在本地執行。它是一個 40B 的 MoE 模型,每次僅啟用 2.5B 引數,上下文視窗為 262K token,採用 Apache 2.0 許可,專門針對本地 agentic coding 場景訓練。本地執行大約需要 24GB 記憶體,官方稱其基準測試表現相當出色。
Ollama 上線 Liquid AI LFM3 小模型家族,1.7B 支援 256K 上下文
Ollama v0.40.12 上線 Liquid AI 的 LFM3 小模型家族,面向本地 agent、工具呼叫與結構化輸出。1.7B 的 lfm3 支援 256K token 上下文,系列另有影像版 lfm3-vl、覆蓋 18 種語言語音的 lfm3-audio 與三模態的 lfm3-omni,以及 2B 的 d1 決策模型。本次 lfm3 與 d1 2b 已支援 Apple 硬體,Linux/Windows 稍後跟進。
MLX 新版發布:4 臺 Mac Studio 叢集跑 816B 模型超 36 tokens/s
MLX 今日發布新版本,支援用 RDMA over Thunderbolt 把多臺 Mac Studio 組成叢集:4 臺 M5 Ultra 執行近萬億引數的 Muse Spark Open(816B MoE,NVFP4 精度)解碼超過 36 tokens/s,高於人類平均閱讀速度。單臺 512GB Mac Studio 可跑 Qwen 3.8 27B 與 Mistral Medium 3.5 128B,在 65,536 上下文下分別佔用最多 68GB 和 158GB 記憶體。
LM Studio 的 Bionic 1.1.8 新增兩個 API,可與 LM Studio 同時執行
LM Studio 的 Bionic 更新到 1.1.8,新增對 /v1/systemone 與 /v1/decisions 兩個 API 的支援,並支援 Bionic 與 LM Studio 同時執行。LM Studio 官方在更新日誌中一併列出這兩項改動,連結為 lmstudio.ai/changelog/bionic-v1.1.8,未附更多說明。