AISpot

AISpot 日報:2026年10月25日週日

月之暗面發布 Kimi K3.1 Pro:3 萬億引數、百萬 token 上下文,網頁版、App、Kimi Code 與 API 同步上線,權重 11 月 4 日前開放。Google 開源 TorchTPU,TPU 成為 PyTorch 原生裝置,主流推理框架已接入。Ollama 開始支援語音模型,llama.cpp 新增 DeepSeek-V4.1-Flash,本地推理工具鏈同步擴容。

模型

機器之心● 精選AI 評分93

月之暗面發布 Kimi K3.1 Pro:3 萬億引數、百萬上下文

月之暗面正式推出 Kimi K3.1 Pro,這是 K3.1 系列的首個模型,引數量達 3 萬億,支援 100 萬 token 上下文。同時發布智慧水平一致、輸出速度約為普通版 2 到 3 倍的 Kimi K3.1 Pro Highspeed;兩款模型即日起上線 Kimi 網頁版、App、Kimi Work、Kimi Code 與 API,完整權重將於 11 月 4 日前發布。在 Artificial Analysis 智慧指數上,它以 55 分位列全球第四;

推薦理由:權重發布後開放權重與閉源旗艦的智慧差距將從 12 分縮到 3 分,其 Terminal-Bench 程式設計 agent 得分從 13% 躍升至 67%,對關注開源模型與 coding agent 的開發者有直接參考價值。

Ollama blog● 精選AI 評分79

Ollama 上線語音模型,首發 Phonon 文字轉語音

Ollama 0.40.11 起可直接執行語音模型,首個是 Gradium 的文字轉語音模型 Phonon,目前僅支援 Apple Silicon 的 Mac,Windows 與 Linux 稍後推出。在 M5 Max 的 MacBook Pro 上,其速度比 Gradium 自家執行時快 35%,詞錯率與 Hugging Face Transformers 參考實現持平;可用 --voice 選音色,另有法、德、西、葡等 40M 多語言版本。

推薦理由:Ollama 首次把文字轉語音納入本地推理,給出與參考實現持平的準確率和 35% 的速度優勢,讓本地跑模型的人用一條命令或 OpenAI 相容介面即可合成語音。

機器之心● 精選AI 評分79

Mercury 3 發布:擴散 LLM 跑分反超 GPT-6 Luna,速度快約 8 倍

Inception Labs 發布擴散語言模型 Mercury 3,在 NVIDIA GPU 上輸出速度達 1068 Token/s,約為 GPT-6 Luna 的 8 倍,且在 GPQA Diamond(89.23)、SWE-Bench Atlas(51.08)等基準上高於 GPT-6 Luna 與 Claude Haiku 5.5。其總引數量較 Mercury 1 擴大 40 多倍,上下文視窗從 26 萬升至 100 萬 Token。

推薦理由:擴散 LLM 首次在引數擴大 40 多倍後仍保持千 Token 級速度且基準反超主流模型,還附帶 Agent 場景實測與低價 API,對關注推理速度與成本的 Agent 開發者最有參考價值。

產品與方案

Ollama releases● 精選AI 評分65

Ollama v0.40.9:Flint 現已支援 Linux 與 Windows

Ollama 發布 v0.40.9,原本只能在 macOS 上執行的 Flint 現在也支援 Linux 和 Windows。流式 OpenAI Responses 與 Anthropic Messages 請求中途出錯時會明確報告生成失敗,不再在部分輸出後靜默結束;ollama launch 現在會把雲端模型的上下文長度與能力傳給 coding 工具,修正上下文與壓縮設定。

推薦理由:Flint 由 macOS 擴至 Linux 與 Windows,同時修掉流式請求靜默結束、雲端模型上下文長度傳遞錯誤,跨平台用 Ollama 與 coding 工具者直接受益。

開發工具

Hacker News front page● 精選AI 評分79

JetBrains 開源 ThinkRail:用 git worktree 隔離會話的 agentic IDE

JetBrains 以 Apache-2.0 開源 ThinkRail,這是一個用 git worktree 把每個 agent 會話隔離到獨立工作區的 agentic IDE。專案中的每個 workspace 都是獨立 worktree,各有分支與工作目錄,可並行執行多個 agent,檔案、diff、終端與對話都按 workspace 隔離。

推薦理由:JetBrains 把完整的 agentic IDE 以 Apache-2.0 開源,用每個會話一個 git worktree 避免並行 agent 互相汙染,並把 SPEC.md 做成 agent 可直接讀寫的圖譜,對並行跑多個 coding agent 的開發者最有參考價值。

地端推論

Hacker News front page● 精選AI 評分81

GPU-unlock 1.0.0 解鎖 RTX 30 系部分顯示卡 FP/BF16 速率

GPU-unlock 1.0.0 發布,這個 Linux 核心模組能在 NVIDIA 驅動繫結前解鎖 GA102/GA103/GA104/GA106(RTX 30 系部分顯示卡)的 FP/BF16 指令發射速率,使其達到專業卡水平。3090 Ti 實測 BF16 GEMM 從 87.50 升至 157.41 TFLOPS,FP16 從 87.46 升至 118.39,TF32 從 42.58 升至 82.61;

推薦理由:提供免逐版驅動打補丁的解鎖方式,3090 Ti BF16 GEMM 提升約 80%,LLM prefill 提升 14–36%,對本地推理與顯示卡算力挖掘有參考價值。

llama.cpp releases● 精選AI 評分76

llama.cpp 在 mtmd 中支援 Soprano TTS 語音模型

llama.cpp 合併 PR #28607,在 mtmd 中加入 Soprano TTS 語音生成支援,可載入 Soprano-80M 與 Soprano-1.1-80M。兩個模型均為 Qwen3 主幹加 Vocos 解碼器:轉換指令碼可自動識別 checkpoint,把主幹匯出為 qwen3、把 decoder.pth 匯出為 mmproj,同時新增 Soprano 預分詞器(小寫、空白摺疊、逐數字切分、[UNK] 兜底)與 Vocos 計算圖和 ISTFT。

推薦理由:把 80M 引數的 Soprano TTS 接進 llama.cpp 的 mtmd 生成式多模態框架,補齊 Vocos 解碼器與專用預分詞器實現,給本地語音合成添了一個輕量選項,對用 llama.cpp 做本地推理和語音應用的開發者最直接。

llama.cpp releases● 精選AI 評分62

llama.cpp 新增 DeepSeek-V4.1-Flash 支援

llama.cpp 建置 b11870 加入 DeepSeek-V4.1-Flash(deepseek41)模型支援,同時移除 MXFP8、把 Engram 錶轉為 BF16。同批改動把壓縮 KV 的讀取層改為在快取中只算一次,Engram 行改為圖內 gather(與 qwen4exp 一致)、去掉主機側 gather,top-k 行在稀疏 gather 前先排序,並刪除 LLAMA_DSV41_KV_MIRROR 開關;

推薦理由:在本地跑模型的人可據此確認 llama.cpp 對 DeepSeek-V4.1-Flash 的運算元級適配細節(BF16 Engram、圖內 gather、KV 快取最佳化),且預編譯包已覆蓋 Metal 到 CUDA/ROCm 多平台。

開源

機器之心● 精選AI 評分90

Google 開源 TorchTPU,TPU 成為 PyTorch 原生裝置

Google 在 PyTorch Conference 2026 上開源 TorchTPU,讓 TPU 與 GPU、CPU 並列,成為 PyTorch 的原生裝置。專案由 Google 和 Meta 聯合開發;在 Hugging Face Transformers v5 裡只需傳入 device_map="tpu" 即可部署,vLLM、SGLang、Ray、TorchTitan 等已同步接入。

推薦理由:TPU 首次作為 PyTorch 原生後端落地,不再經 XLA 轉接,官方資料顯示其與 JAX 方案的吞吐差距已進入個位數百分比,對在 PyTorch 上權衡訓練與推理硬體的團隊最有參考價值。

研究

Hacker News front page● 精選AI 評分76

GVS5H 讓五個 Qwen3.8-27B 例項協作,LiveCodeBench 達 92.4%

本地部署的開源 Qwen3.8-27B 用上 GVS5H 後,在 LiveCodeBench 最新 100 道 hard 題上的 pass@1 從 66.8% 升到 92.4%。該方法不需要訓練:同一模型開五個例項,通過共享檔案系統裡的計劃、筆記與當前解來拆解問題並協調,在固定後端上最多帶來 25.6 個百分點提升。雲端編排的 Qwen3.8 Flash Next 達到 93.0%,高於 Fable 5 的 90.4%,成本僅為其 9%。收益並不普遍,部分模型持平或變差;

推薦理由:免訓練的多例項編排把可自託管的 Qwen3.8-27B 在 LiveCodeBench 上從 66.8% 拉到 92.4%,並給出以 9% 成本追平 Fable 5 的路徑,對在本地跑開源模型、想壓低推理成本的人有直接參考。

機器之心● 精選AI 評分70

HyperQ 用 64 量子位元讓 1.1B 擴散語言模型超過 8B 模型

蒙特利爾大學、Mila 與麥吉爾團隊提出 HyperQ,把逐 Token 動態生成的量子電路接入擴散語言模型;在 64 量子位元下,11 億引數模型的六項零樣本測試平均分超過 Qwen3-8B 等 80 億引數模型。超網路根據每個 Token 的隱藏狀態生成量子門旋轉角度、耦合強度與測量方向,只訓練新增的量子分支,不改動主幹;相比凍結主幹提升 4.71 分,也超過 LoRA 微調,而指令微調資料只有後者的十分之一。

推薦理由:它給出了逐 Token 量子電路的量化收益:64 量子位元下提升 4.71 分、超越 LoRA,並在 IBM 156 量子位元硬體上驗證,對關注量子計算與大模型結合及擴散語言模型的研究者有參考價值。

機器之心● 精選AI 評分70

調研:79% 企業 GPU 過半時間閒置,七成仍計劃擴充算力

VentureBeat Intelligence 在 2026 年 7 至 9 月的三輪調研(385 名受訪者)顯示,79% 的企業表示其 GPU 至少一半時間完全閒置,這一比例三個月穩定在 77% 至 81%。但在這批企業中,70% 仍計劃未來 12 個月引入、擴充或更換 AI 計算平台;計劃採用新平台的受訪者中有 91% 拿不出經財務部門稽核的 ROI 資料。新採購意向中 90% 投向公有云與模型 API,僅 8% 考慮擴建本地私有叢集。

推薦理由:用 385 人調研量化了企業囤卡閒置卻仍加碼的錯配,並附 Claude Code 場景上下文快取可複用 85% 至 97%、多 Agent 方案成本達單 Agent 的 1.8 至 5.1 倍等數字,對權衡自建算力與 API 預算有參考價值。

機器之心● 精選AI 評分69

Scinetics 發布 ScienceRSI 科學自改進框架,8B 權重開源

Scinetics 與復旦大學、中國科學技術大學、香港科技大學的研究者發布 ScienceRSI 框架,按專業化、驗證、遷移、複用四步在模型之間傳遞科學能力,並已在 Hugging Face 開源 ScienceRSI-8b 權重。用 8B 專家向 Qwen3.5-27B 遷移後,七項基準的等權平均分從 87.3% 升至 94.0%,提高 6.7 個百分點;4B 與 8B 模型在五項科學評測上均取得對比方法中的最高分。

推薦理由:該框架給出小模型專家向 27B 模型遷移提升 6.7 個百分點、去掉驗證環節即掉 4.4 個百分點的實測證據,並開源 8B 權重,對研究科學推理訓練與模型間能力遷移的人有參考價值。

機器之心● 精選AI 評分67

港大與清華提出 VAST,讓離線 RL 自適應選擇價值跨度

香港大學與清華大學 AIR 團隊提出離線強化學習框架 VAST,讓智慧體自適應選擇價值更新的時間跨度與未來子目標,不再依賴固定步長的 n-step TD 或動作分塊。VAST 用輔助價值函式 G-function 估計從當前狀態經 k 步到某未來狀態的期望折扣回報,由拼接策略聯合挑選子目標與跨度;執行策略只依據狀態與子目標生成動作,推理時用 Q 函式拒絕取樣。

推薦理由:把自舉落點的選擇與跨度大小交給同一個拼接策略聯合學習,併為 stitching Bellman 運算元給出收縮性證明;在 OGBench 50 個任務上對比 8 個基線,對做離線 RL 與長程決策的研究者最有參考價值。