螞蟻百靈開源 Ling-3.1-flash-1019,主攻 Personal Agent 長程任務
10 月 28 日,螞蟻集團百靈大模型開源 Ling-3.1-flash-1019,面向 Personal Agent 場景強化複雜工作流與多步驟任務,在 Artificial Analysis 智慧指數 v4.3.2 中得 44 分,比上一版高 3 分。
依意思最接近的 30 筆
10 月 28 日,螞蟻集團百靈大模型開源 Ling-3.1-flash-1019,面向 Personal Agent 場景強化複雜工作流與多步驟任務,在 Artificial Analysis 智慧指數 v4.3.2 中得 44 分,比上一版高 3 分。
螞蟻百靈於 10 月 15 日正式開源 Ling-3.1-flash,總引數約 560B、每 Token 僅啟用約 25B,上下文最高支援 1M Token,重點瞄準複雜任務與長程執行。據 Artificial Analysis 資料,其智慧指數 41,輸出約 210 Token/s,混合呼叫價格約每百萬 Token 0.19 美元;路由專家採用 MXFP4 量化後,權重從約 534GB 壓縮至 292GB,部署從 8 卡降至 4 卡。
螞蟻百靈開源 Ling-3.1-flash,主打把真實工作流裡的活幹完,而非刷榜。模型總引數約 560B、每 Token 啟用約 25B,上下文視窗達 1M;混合精度量化後權重佔用從約 534GB 降至 292GB,部署所需 GPU 由 8 卡降至 4 卡。據 Artificial Analysis,其智慧指數 41,輸出速度約每秒 210 Token,混合呼叫價格約每百萬 Token 0.19 美元,辦公任務評測 GDPVal-AA V2.1 的 ELO 為 1673。
llama.cpp 合併 PR,加入對 LiquidAI 的 LFM3-1.7B 文字模型與 LFM3-VL-2B 視覺語言模型的支援。改動包括為 LFM3 啟用迴圈狀態回滾、設定 LFM3 測試模型的 SWA rope base,並讓 LFM3-VL 的 depthwise 卷積核在量化時保持 F32 精度,同時補充 LFM3 的 Metal 融合基線測試。
llama.cpp 建置 b11803 合併了對新模型 Flint(FlintForCausalLM)的支援,該提交由 Codex 協助完成,合作者包括 Hugging Face 的 Sigbjørn Skjæret。同版本的預編譯產物覆蓋 macOS/iOS、Linux、Android、Windows 與 openEuler,包含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端。
llama.cpp 已合併對 LiquidAI LFM3-Audio-2B 與 LFM3-Omni-2B 兩個音訊模型的支援。轉換指令碼改為按模型自帶的 config.json 讀取,並按 model_type 自動識別;LFM3-Audio 的 depthformer 關閉 flash attention,編碼器卷積與 codec 保持不量化。
MiniMax M3.1 Flash 已在 Ollama 上線,可通過 Ollama Cloud 用 ollama run minimax-m3.1-flash:cloud 直接呼叫。官方稱該模型在美國託管、零資料保留,主打快速編碼與 agentic 工作流,支援影像理解和 100 萬 token 上下文視窗。它也能以 ollama launch claude 或 ollama launch codex 指定該模型,接入 Claude Code 與 Codex 使用。
llama.cpp 發布 b11518,Metal 後端加入 128 與 96 兩檔 Flash Attention 核心,並接受所有已編譯的維度組合(#30209)。該版本同時提供 macOS/iOS、Linux、Android、Windows 與 openEuler 的預編譯產物,覆蓋 CPU、Vulkan、CUDA 12/13、ROCm 10.0、SYCL、OpenVINO 及 Snapdragon 的 Adreno GPU 與 Hexagon NPU;
Recursive SI 的 Flint 模型在發布首日就進入 LM Studio,可直接在本地執行。它是一個 40B 的 MoE 模型,每次僅啟用 2.5B 引數,上下文視窗為 262K token,採用 Apache 2.0 許可,專門針對本地 agentic coding 場景訓練。本地執行大約需要 24GB 記憶體,官方稱其基準測試表現相當出色。
Ollama v0.40.12 上線 Liquid AI 的 LFM3 小模型家族,面向本地 agent、工具呼叫與結構化輸出。1.7B 的 lfm3 支援 256K token 上下文,系列另有影像版 lfm3-vl、覆蓋 18 種語言語音的 lfm3-audio 與三模態的 lfm3-omni,以及 2B 的 d1 決策模型。本次 lfm3 與 d1 2b 已支援 Apple 硬體,Linux/Windows 稍後跟進。
Liquid AI 發布 LFM3 家族,首發六個約 2B 引數的多模態模型,均源自同一 LFM3-1.7B-Base 骨幹,覆蓋文字、視覺、音訊、omni 以及兩個決策模型。基座以 22T tokens 預訓練,最後 3.5T tokens 的中期訓練將上下文擴至 256K。架構由門控短卷積、256 token 滑窗注意力與全域性注意力三混合而成,8K 上下文下比 LFM2 快約 25%。
MiniMax 正式發布 M3.1 Flash,官方稱其在 agentic 任務、coding、Computer Use 與網路安全上全面提升,使用成本較上一代降低 70%,線上推理速度提升近 3 倍。定價為每百萬 tokens 輸入 0.15 美元、輸出 0.60 美元、快取輸入 0.015 美元,日常輸出可達 200+ TPS(P50 170+ TPS)。
Liquid AI 推出 LFM3 系列,六款 2B 級模型(文字、視覺、音訊、全模態與決策)均從 LFM3-1.7B-Base 派生,可按輸入模態選型,並在單張 GPU 上微調後部署到端側。LFM3-1.7B 比 LFM2.5-2.6B 引數少 35% 卻更強,4bit 量化約 1GB,上下文 256K,8K 上下文下比 LFM2-1.2B 快約 25%。
llama.cpp 發布 b11402 版本,CUDA 後端改為優先採用整塊(whole-tile)FlashAttention 排程,以提升兩階段核心效率。
llama.cpp 發布 b11722,Hexagon 後端新增多流 flash attention(multistream FA)支援,驍龍平台的 Hexagon NPU 推理可用上這一加速路徑。
llama.cpp 發布建置 b11711,唯一程式碼改動是修復 CUDA flash attention 向量分發中觸發的 -Wtautological-compare 編譯警告(#30519),提交者為 Adrien Gallouët。
llama.cpp 作者 Georgi Gerganov 建議使用 Qwen3.8-27B + MTP 的使用者升級到 DFlash,以獲得額外速度提升。啟用方式是在最新 llama.cpp v0.6.0 上執行 llama serve -hf ggml-org/Qwen3.8-27B-GGUF,並加上 --spec-type draft-dflash 與 --spec-draft-n-max 7 兩個引數。該提示未給出具體提速幅度,只強調必須使用最新版本。
DeepSeek-V4.1-Flash-1017 已在 LM Studio Bionic 上線,支援 100 萬 token 上下文與影像輸入,官方稱其價效比很高。該模型由美國境內託管,並提供完整的零資料保留(ZDR)。LM Studio 建議將它用於 coding 任務。
llama.cpp 的 server 元件新增了 /v1/systemone API,支援 laya、julia-1、lev、openjev、kev 五個模型。該 PR 包含模型轉換、服務端程式碼、共享提示字首、視覺支援,並新增 openjev tiny 模型用於測試。建置覆蓋 macOS、Linux、Windows、Android 等平台,但明確不支援 date_facts。
MiniMax 正式發布 M3.1 Flash,即此前在 OpenRouter 匿名屠榜的 Space Bunny(玉兔)。Agents' Last Exam 得分 29.6%,位列國產模型第一;DeepSWE v1.1 拿到 73.7%,BankerToolBench 以 76.2 分與 Claude Opus 5 並列第一。
Liquid AI 的 LFM3 系列模型已可在 Ollama 本地執行,覆蓋文字、視覺、音訊、omni 與決策模型。文字模型在 4-bit 量化下僅約 1 GB,上下文視窗 256K,官方定位是可隨處執行、並能在單張 GPU 上微調的小模型。
llama.cpp 發布 b11531,主要變更是重構 chat API(#30210)。同步重新整理的預編譯產物覆蓋 macOS Apple Silicon、Ubuntu、Windows、Android 與 openEuler,包含 CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO,以及 Snapdragon 的 Adreno GPU 與 Hexagon NPU 版本。
llama.cpp 發布 b11588 建置,讓 Qwen3.8 Flash Next 模型可以接受影像嵌入(image embds)用於 MTP,該改動延續 #30257 並關閉 #30307。
DeepSeek 上線 V4.1 Flash 1017,552B 總引數 / 16B 啟用 MoE,支援 1M token 上下文,MIT 許可,API 價格維持每百萬輸入 0.30 美元、輸出 1.20 美元,閒時半價。Artificial Analysis 智慧指數升至 45(+6),在開源權重模型中與 GLM-5.3 並列第二,僅次於 MiMo-V2.6-Pro;Code Arena WebDev 與 Agent Arena 均為開源第一。
llama.cpp 最新建置 b11645 為 Metal 後端的張量 API flash attention 核心加入了 BF16 變體,主要面向 Apple Silicon 上的 macOS 與 iOS。同一提交還把張量 FA 核心遷移到 kernels/fa_tensor.metal。
llama.cpp 發布 b11384 版本,官網為 llama.app,並附 GitHub 建置證明。該版本提供 macOS、iOS、Linux、Android、Windows 及 openEuler 的預編譯包,涵蓋 Apple Silicon、CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 與 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 等後端。
llama.cpp 發布建置 b11808,主要改動是 dflash 支援載入可選的 FC 輸入縮放(#30945),該改動由 Codex 協助完成。本版照例提供各平台預編譯包,覆蓋 macOS/iOS、Linux(含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO)、Windows、Android 與 openEuler,Snapdragon 平台同時支援 CPU、Adreno GPU 與 Hexagon NPU。
llama.cpp 發布 b11424 建置版本,修復 Vulkan 後端 Flash Attention 的共享記憶體越界寫問題(#29988)。該版本照例提供 macOS/iOS、Linux、Windows、Android 的預編譯包,涵蓋 Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL、OpenCL 等後端,並附驍龍 CPU/Adreno GPU/Hexagon NPU 的安裝指引。
LM Studio 的模型頁面上線了 Recursive 的 Flint 模型,使用者可以在 LM Studio 內搜尋並下載該模型,頁面地址為 lmstudio.ai/models/recursive-flint。原文未披露引數規模、量化版本、許可協議與具體能力,這些資訊需要到模型頁面確認。
llama.cpp 發布建置 b11512,首要改動是修復 DFlash 模型的輸出頭共享問題。該版本改為從 GGUF 後設資料讀取繫結的輸出權重、共享繫結的詞嵌入後設資料,並移除 DFlash 嵌入頭回退邏輯,這幾項改動均由 Codex 協助完成。