MLX 新增 Flint 模型支援,保留工具 JSON 數值型別
MLX 後端在 v0.40.8 中加入 Flint 模型支援。為讓 Flint 在 prompt 裡保留數值型別與 schema 順序,解碼後的 API 值旁會同時保留原始工具 JSON;safetensors 匯入時會組裝 ModelOpt expert banks,並在轉換前拒絕直接建立 Flint NVFP4。
找到 6 筆
MLX 後端在 v0.40.8 中加入 Flint 模型支援。為讓 Flint 在 prompt 裡保留數值型別與 schema 順序,解碼後的 API 值旁會同時保留原始工具 JSON;safetensors 匯入時會組裝 ModelOpt expert banks,並在轉換前拒絕直接建立 Flint NVFP4。
Ollama 上線由 Recursive SI 開發的約 40B 引數 MoE 開源模型 Flint,面向端側 agentic coding 場景。官方給出短上下文下的生成速度:M4 Pro MacBook Pro 上超過 125 tps,64GB 視訊記憶體的 NVIDIA RTX Spark 上超過 150 tps。
Ollama v0.40.8 加入 Recursive 的編碼模型 Flint,執行 ollama run flint 即可執行。Flint 採用 Apache 2.0 許可,是 40B 引數的混合專家(MoE)模型,每個 token 約啟用 2.5B 引數,支援推理、多輪工具呼叫與 262K token 上下文,面向跨倉庫的程式碼理解、缺陷追蹤、功能實現與補測試。
Ollama 官方帳號在 X 上公布了 flint 的模型頁面地址 ollama.com/library/flint。該頁面位於 Ollama 官方模型庫,可用於檢視該模型的說明並通過 Ollama 獲取;公告本身未提及引數量、體積、授權或適用場景等細節。
Recursive SI 的 Flint 模型在發布首日就進入 LM Studio,可直接在本地執行。它是一個 40B 的 MoE 模型,每次僅啟用 2.5B 引數,上下文視窗為 262K token,採用 Apache 2.0 許可,專門針對本地 agentic coding 場景訓練。本地執行大約需要 24GB 記憶體,官方稱其基準測試表現相當出色。
LM Studio 的模型頁面上線了 Recursive 的 Flint 模型,使用者可以在 LM Studio 內搜尋並下載該模型,頁面地址為 lmstudio.ai/models/recursive-flint。原文未披露引數規模、量化版本、許可協議與具體能力,這些資訊需要到模型頁面確認。