Ollama 上線 Recursive Flint 40B 編碼模型
Ollama v0.40.8 加入 Recursive 的編碼模型 Flint,執行 ollama run flint 即可執行。Flint 採用 Apache 2.0 許可,是 40B 引數的混合專家(MoE)模型,每個 token 約啟用 2.5B 引數,支援推理、多輪工具呼叫與 262K token 上下文,面向跨倉庫的程式碼理解、缺陷追蹤、功能實現與補測試。
依意思最接近的 30 筆
Ollama v0.40.8 加入 Recursive 的編碼模型 Flint,執行 ollama run flint 即可執行。Flint 採用 Apache 2.0 許可,是 40B 引數的混合專家(MoE)模型,每個 token 約啟用 2.5B 引數,支援推理、多輪工具呼叫與 262K token 上下文,面向跨倉庫的程式碼理解、缺陷追蹤、功能實現與補測試。
Recursive SI 的 Flint 模型在發布首日就進入 LM Studio,可直接在本地執行。它是一個 40B 的 MoE 模型,每次僅啟用 2.5B 引數,上下文視窗為 262K token,採用 Apache 2.0 許可,專門針對本地 agentic coding 場景訓練。本地執行大約需要 24GB 記憶體,官方稱其基準測試表現相當出色。
Mistral 開始提供兩款快速、低成本的模型:DeepSeek V4.1 Flash 和 GLM 5.3 Flash。DeepSeek V4.1 Flash 處於公開預覽階段,官方稱其適合長上下文程式設計與 agentic 任務;GLM 5.3 Flash 已正式可用(GA),面向子代理、工具呼叫和程式設計任務。
llama.cpp 的 SYCL 後端放行了 GLM-4.7 Flash 的 MLA 形狀走 MKL flash attention,此前該形狀因 K/V 寬度不一致、head dim 上限 512 被排程器拒絕,預填充只能回退到更慢的 TILE kernel。在 Intel Arc Pro B70 上,pp8192 從 432.80 提升到 1292.29 tok/s(2.99 倍,+198.6%),tg256 在噪聲範圍內基本不變(45.67 對 45.65)。
llama.cpp 發布 b11518,Metal 後端加入 128 與 96 兩檔 Flash Attention 核心,並接受所有已編譯的維度組合(#30209)。該版本同時提供 macOS/iOS、Linux、Android、Windows 與 openEuler 的預編譯產物,覆蓋 CPU、Vulkan、CUDA 12/13、ROCm 10.0、SYCL、OpenVINO 及 Snapdragon 的 Adreno GPU 與 Hexagon NPU;
Ollama 上線由 Recursive SI 開發的約 40B 引數 MoE 開源模型 Flint,面向端側 agentic coding 場景。官方給出短上下文下的生成速度:M4 Pro MacBook Pro 上超過 125 tps,64GB 視訊記憶體的 NVIDIA RTX Spark 上超過 150 tps。
LM Studio 推薦開源 MLX 引擎 oMLX,稱其是面向 Apple Silicon 的高效能、受歡迎的推理引擎,由 @jundotkim 建立並領導。該專案開源且社群活躍,推文附有 GitHub 連結,未給出更多效能資料或安裝細節。
llama.cpp 建置 b11803 合併了對新模型 Flint(FlintForCausalLM)的支援,該提交由 Codex 協助完成,合作者包括 Hugging Face 的 Sigbjørn Skjæret。同版本的預編譯產物覆蓋 macOS/iOS、Linux、Android、Windows 與 openEuler,包含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端。
面壁智慧的運算元生成系統 ForgeKernel 在無原始碼、無參考實現的情況下,通過直播自進化 22.5 小時,在輝達 B200 上把 DeepSeek-V4.1 的 FlashMLA Prefill 運算元做到 472 微秒,比人類手寫的 518 微秒快 9.8%。全程 42 輪迭代、留下 32 個版本,只用了 1 張 B200 和 22 個 GPU 小時,人工編寫 0 行程式碼。它此前已登頂昇騰 CANNBench 950DT、950PR、A3 三張榜單第一,並在直播結束後開源;
Ollama v0.40.10 加入 NVIDIA Nemotron 3.5 Bolt E4B,這是 NVIDIA 基於 Gemma 4 的小型視覺語言模型,面向本地對話、影像理解與工具呼叫。它支援 128K token 上下文,並自帶 DFlash 草稿模型用於投機解碼;執行 ollama run nemotron-3.5-bolt:e4b 即可執行。
Cloudflare 發布兩個自研決策模型 Clef 與 Clef-flash,託管在 Workers AI,並以 Apache 2.0 許可在 Hugging Face 開源,同時推出新的強化學習微調平台。Clef 目前在 Jev Decision Index 上排名第一,帶視覺編碼器、64k 上下文,而 Jev 只做文字分類、上下文 32k。這類模型輸出帶機率的結構化分類,供 agent 決定路由、升級或轉人工。
llama.cpp 最新建置 b11645 為 Metal 後端的張量 API flash attention 核心加入了 BF16 變體,主要面向 Apple Silicon 上的 macOS 與 iOS。同一提交還把張量 FA 核心遷移到 kernels/fa_tensor.metal。
llama.cpp 合併 PR #29570,在 Metal 後端為 F16 KV 快取加入基於張量 API 的 flash attention 核心。該核心覆蓋 DK=DV=512、DK=576/DV=512、DK=192/DV=128 等配置,並支援 attention sinks、ALiBi 與 logit softcap。改動隨 b11362 建置發布,覆蓋 macOS Apple Silicon、iOS 及 Linux、Windows、Android 等多平台建置。
Ollama 官方帳號發布 Clef Flash 與 Clef 兩個模型,均已上線 Ollama 模型庫,地址分別為 ollama.com/library/clef-flash 和 ollama.com/library/clef。使用者可通過 Ollama 直接拉取執行,但原文未披露模型引數規模、量化版本與硬體要求等細節。
Cloudflare 推出開源權重決策模型 Clef-omni,能在一次 API 呼叫中同時接收音訊(wav/mp3)、影片(mp4/webm)、影像和文字輸入,模型基於 Qwen3-Omni-30B-A3B-Instruct 的 MoE 架構訓練 LoRA,權重已發布在 HuggingFace。官方稱純文字決策中位延遲約 130 毫秒、影像約 150 毫秒、音訊數百毫秒,含聲音的 21 秒影片約 1.5 秒。
Ollama 發布 v0.35.1,通過 /v1/systemone 介面支援 Cloudflare 新開源的決策模型 Clef(27B)與 Clef Flash(9B),兩者均為多模態,請求可在文字 state 之外附帶圖片,所有問題共享該狀態並聯合打分。同一版本把聯網搜尋上限從每次回應 3 次提高到 10 次,Modelfile 新增 CAPABILITY 宣告,並更新了 llama.cpp 與 MLX 引擎。
llama.cpp 發布 b11722,Hexagon 後端新增多流 flash attention(multistream FA)支援,驍龍平台的 Hexagon NPU 推理可用上這一加速路徑。
LM Studio 的模型頁面上線了 Recursive 的 Flint 模型,使用者可以在 LM Studio 內搜尋並下載該模型,頁面地址為 lmstudio.ai/models/recursive-flint。原文未披露引數規模、量化版本、許可協議與具體能力,這些資訊需要到模型頁面確認。
Ollama 與 MiniMax 合作,未來三天在 Ollama Cloud 上免費開放 MiniMax M3.1 Flash,無需本地算力即可呼叫。該服務由美國境內託管,並承諾零資料保留,即不儲存使用者請求資料。免費視窗僅限這三天,託管地區與資料策略是官方同時說明的兩項條件。
Cloudflare 推出新一類 System One 抽取模型,首個模型 Clairic 已在 Workers AI 上線預覽(@cf/cloudflare/clairic),並計劃近期釋出開放權重。它單次前向、不生成 token,只對輸入計費,通常一秒內返回。可從非結構化文字(最多附 4 張圖片)中抽取名稱、日期、金額、列表等帶置信度的型別化數值,也能估算與預測未來序列並給出 80% 區間;找不到答案時返回 null。
GLM-Legal 正式發布,基於 GLM-5.3-Flash 建置,官方稱其在主流法律基準上可對標前沿模型。該模型面向合同審查、證據分析、合規等真實法律工作流,技術部落格已同步上線。API 訪問需提交申請,另可通過 AutoClaw 先行試用。
DeepSeek 上線 V4.1 Flash 1017,552B 總引數 / 16B 啟用 MoE,支援 1M token 上下文,MIT 許可,API 價格維持每百萬輸入 0.30 美元、輸出 1.20 美元,閒時半價。Artificial Analysis 智慧指數升至 45(+6),在開源權重模型中與 GLM-5.3 並列第二,僅次於 MiMo-V2.6-Pro;Code Arena WebDev 與 Agent Arena 均為開源第一。
螞蟻百靈開源 Ling-3.1-flash,主打把真實工作流裡的活幹完,而非刷榜。模型總引數約 560B、每 Token 啟用約 25B,上下文視窗達 1M;混合精度量化後權重佔用從約 534GB 降至 292GB,部署所需 GPU 由 8 卡降至 4 卡。據 Artificial Analysis,其智慧指數 41,輸出速度約每秒 210 Token,混合呼叫價格約每百萬 Token 0.19 美元,辦公任務評測 GDPVal-AA V2.1 的 ELO 為 1673。
llama.cpp 發布建置 b11808,主要改動是 dflash 支援載入可選的 FC 輸入縮放(#30945),該改動由 Codex 協助完成。本版照例提供各平台預編譯包,覆蓋 macOS/iOS、Linux(含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO)、Windows、Android 與 openEuler,Snapdragon 平台同時支援 CPU、Adreno GPU 與 Hexagon NPU。
MiniMax M3.1 Flash 已在 Ollama 上線,可通過 Ollama Cloud 用 ollama run minimax-m3.1-flash:cloud 直接呼叫。官方稱該模型在美國託管、零資料保留,主打快速編碼與 agentic 工作流,支援影像理解和 100 萬 token 上下文視窗。它也能以 ollama launch claude 或 ollama launch codex 指定該模型,接入 Claude Code 與 Codex 使用。
llama.cpp 發布 b11424 建置版本,修復 Vulkan 後端 Flash Attention 的共享記憶體越界寫問題(#29988)。該版本照例提供 macOS/iOS、Linux、Windows、Android 的預編譯包,涵蓋 Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL、OpenCL 等後端,並附驍龍 CPU/Adreno GPU/Hexagon NPU 的安裝指引。
llama.cpp 發布 b11471 建置,主要變更是向詞表加入 Plamo 的 FIM(fill-in-the-middle)tokens,服務程式碼補全場景。該版本發布包覆蓋 macOS/iOS、Linux、Android、Windows 與 openEuler,後端包含 CPU、Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL,以及 Snapdragon 的 Adreno GPU 與 Hexagon NPU。
MLX 發布 v0.40.8-rc0,新增對 Flint 模型的支援。為了讓 Flint 在 prompt 中保留數值型別與 schema 順序,版本會在保留解碼後的 API 值之外,同時保留源端 tool JSON;在匯入 safetensors 時組裝 ModelOpt expert banks,並禁止在轉換前直接建立 Flint NVFP4。共享 MLX attention 新增可選的 learned sinks 與裝置端 causal mask,由 Flint 啟用;
llama.cpp 作者 Georgi Gerganov 建議使用 Qwen3.8-27B + MTP 的使用者升級到 DFlash,以獲得額外速度提升。啟用方式是在最新 llama.cpp v0.6.0 上執行 llama serve -hf ggml-org/Qwen3.8-27B-GGUF,並加上 --spec-type draft-dflash 與 --spec-draft-n-max 7 兩個引數。該提示未給出具體提速幅度,只強調必須使用最新版本。
Ollama 發布 v0.40.0,在 Apple Silicon 裝置上,MLX 執行時支援的模型架構將自動改用 MLX 執行。可用模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5,決策模型 Nimble、tev1、clef、clef-flash 也已登陸 MLX,官方稱會繼續測試並啟用更多模型。