依意思最接近的 28 筆
ggml-openvino 後端更新至 2026.4.1，新增 MoE 路由融合與 GDN 歸一化融合，並預設在 GPU 上啟用 MoE 融合。在 Arc B390 上跑 gemma-4-26B-A4B，配合 q4_asym64 重新量化，pp512 從 66.16 t/s 提升到 1608.73 t/s，困惑度基本不變。同時修復了 stateful 執行下 rank-3 軸處理導致的 MoE 崩潰，並改進裝置列舉與記憶體上報。
llama.cpp 的 ggml 後端緩衝區型別介面新增 alloc_buffer_n 與 get_alloc_size_n 方法，並公開 ggml_backend_buft_alloc_buffer_n、ggml_backend_buft_get_alloc_size_n 兩個 API。預設實現負責多緩衝區分割與張量分配，Meta buffer type 提供自訂實現，按裝置建立子上下文並委託給 simple buffer type；
llama.cpp 合併 PR #27096，修復 ggml-cpu 中 GGML_OP_SOFT_MAX_BACK 在 dst 與 src1（y）別名時輸出靜默錯誤的問題。原因是原實現先覆蓋 y 再讀取，改為單次融合迴圈先讀兩個源再寫，並新增迴歸測試強制觸發該別名。CUDA 核心因先完成歸約再寫入，不受影響。
llama.cpp 合併 PR #29831，為 clef 決策模型加入純文字推理支援，並更新 gguf-py 常量。該版本覆蓋 macOS Apple Silicon、Linux、Windows、Android 等平台，其中 Apple Silicon 的 KleidiAI 加速建置被停用。
Hugging Face 後訓練團隊用 TRL 和 Harbor 框架，開源了一套在多種 coding harness 中訓練開放模型的完整指南。指南針對每個人自有的定製 harness（如 Pi 加擴充套件），給出用任意開放模型榨取最佳效能的配方，連結已公開在 Hugging Face Spaces。
Cloudflare 在 Workers AI 上線兩款由歐洲公共機構訓練的開源模型：覆蓋全部 24 種歐盟官方語言的 EuroLLM，以及瑞士 ETH Zurich、EPFL 等打造的 Apertus，今天即可申請訪問。Apertus 用逾 15 萬億 token、1500 多種語言訓練，40% 訓練資料非英語，架構、權重、資料與方法全部公開，並按 EU AI Act 與 GDPR 處理訓練退出與個人資料。
OpenAI 發布了 GPT-6 系列的模型指南，內容涵蓋模型選擇、推理強度（reasoning effort）與工具使用。該指南面向使用 GPT-6 系列的開發者，幫助其在具體場景中決定選哪個模型、投入多少推理算力以及如何呼叫工具。原文未披露具體模型型號、引數或發布時間等細節。
llama.cpp 的 PR #29184（作者 am17an）提出在 CUDA 後端把 MoE 的共享專家融合進 MMVQ 運算元，為部分 MoE 架構（例如 Qwen 35B A3B）帶來推理加速。評論區給出的初步結論是 token 生成速度最多提升約 5%，屬於穩步積累而非革命性改動。該改動僅針對 CUDA 後端、且只對部分 MoE 架構生效，Metal 等其他後端不受影響。
Google 9 月發布新前沿模型 Gemini 4 Argon，擁有業界領先的 100 萬 token 輸出上限，面向編碼、網路安全防禦、金融研究與法律起草等重負載任務；目前僅通過 Fairwind Program 向受信任的網路安全防禦者開放，尚未放開給開發者、企業和消費者。
llama.cpp 在 WebGPU 後端為 fill/set_rows 操作加入 f16 支援（PR #29897），併發布 b11382 版本。該版本覆蓋 macOS Apple Silicon、iOS、Linux、Android、Windows 等平台，其中 macOS Apple Silicon 的 KleidiAI 建置被停用。對使用 WebGPU 推理的使用者，f16 支援可減少視訊記憶體佔用並提升相容性。
Google 開始取消 Gemini Flash 和 Pro 模型的免費使用，使用者需付費訂閱才能繼續使用。Flash-Lite 仍免費，但被指能力有限，Android 預設助手、AI Mode 與 AI Overview 均依賴該模型。社群反應強烈，不少人表示將轉向 ChatGPT、Claude 或 DeepSeek。
llama.cpp 合併 PR #29844，新增對 nimble 決策模型的支援。該版本覆蓋 macOS Apple Silicon（arm64）、Ubuntu、Windows、Android 等多平台建置，其中 macOS Apple Silicon 的 KleidiAI 加速版本被標記為 DISABLED。官方發布頁為 llama.app，建置證明見 GitHub attestations。
Google DeepMind 發布了一套可快速驗證生物設計是否內建安全防護的工具，並以開放方式供研究使用。該工具面向科研人員，目的是在 AI 加速科學發現的同時，不拖慢關鍵研究進度。官方未披露具體模型名稱、效能資料或使用限制，僅提供研究用途的開放獲取連結。
llama.cpp 發布 b11352 版本，主要改動是最佳化 qwen4exp 的掩碼（mask）建置（#29824），並將同一改動應用到 GLM5-next。該版本繼續提供 macOS Apple Silicon（arm64）、iOS、Linux、Windows、Android 等平台建置，涵蓋 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL 與 Snapdragon 後端。
Google DeepMind 發布 Gemini 4 Argon，首次支援最高 100 萬 token 輸出，但目前僅在 Fairwind 計劃下對政府使用者與受信任網路安全人員開放預覽，開發者、企業與消費者開放時間未定。標準價 $4/$20 每百萬輸入/輸出 token，首推五折 $2/$10，快取輸入 95% 折扣；19 項公開基準中拿下 13 項第一。100 萬輸出靠新 API 功能 Long Decode Continuation 實現，長回覆會暫停並跨呼叫續寫；
GPT-6 Astra Ultrafast 已上線，執行在 NVIDIA Blackwell GPU 上，面向 OpenAI 內部以及符合條件的 ChatGPT Work 和 Codex 使用者開放，token 生成速度最高可達 Astra Standard 模式的 8 倍。開發者今天就能通過 API 呼叫，接入方式、定價與實現細節見官方 Ultrafast 指南。更快的生成可縮短 coding agent 的編輯—測試—除錯迴圈，減少工具呼叫之間的等待時間。
llama.cpp 合併 PR #29570，在 Metal 後端新增基於 tensor API 的 flash attention 核心，支援 F16 KV 快取。同一批提交還補充了 DK=DV=512、DK=576/DV=512、DK=192/DV=128 等形狀的 tensor FA 核心，並支援 attention sinks、ALiBi 與 logit softcap。
OpenAI 發布了一份面向初創公司的 GPT-6 系列模型指南，教團隊如何選擇 GPT-6 模型、調整推理強度、改進提示詞與技能、協調工具，併為生產環境準備 workflows。指南覆蓋從選型到上線的完整流程，目標讀者是用 GPT-6 建置產品的初創團隊。
llama.cpp 發布 b11355 版：對共享記憶體為 32KB 的三星 GPU，Vulkan 後端停用大型 matmul tile（#28531），該提交由 Claude Op 協助完成。此版本中 macOS Apple Silicon 的 KleidiAI 啟用建置（arm64, KleidiAI enabled）與 openEuler 建置標記為 DISABLED；
llama.cpp 發布建置版本 b11370，CUDA 後端新增將共享專家（shared experts）融合進 MMVQ 的改動（#29184），並修復緩衝區空值檢查、把 stride_col_dst 移入融合引數。
llama.cpp 合併 PR #29856，把 build_rs 中分散的 get_rows 合併為一次收集全部 n_rs 個 recurrent states，使預留空間按 n_rs 最大值計算，避免 ubatch 單元不連續時在節點數不變的情況下觸發圖重分配、進而在 GGML_SCHED_NO_REALLOC 下中止。
LiquidAI 發布 LFM2.5-Encoder，含 350M 與 230M 兩個版本，基於 LFM2 架構的雙向掩碼語言模型，支援 15 種語言、8k 上下文，可微呼叫於分類、檢索、重排與語義相似度任務。官方稱其吞吐量追平或超過 ModernBERT，CPU 長上下文更強，並可通過 WebGPU 在瀏覽器執行；GGUF 權重已發布，llama.cpp 支援 PR 已提交。
德國 Aleph Alpha 於 2026 年 10 月 3 日發布 Kolibri，一個英德雙語 MoE Transformer，總引數 78B、啟用 3B，支援最長 1M token 上下文，權重已在 Hugging Face 以 Apache 2.0 許可開放下載。它面向公共管理、工業與航空航天等受監管領域，針對德語、推理、數學與 agentic 行為做了專門最佳化，官方稱其品質與服務成本處於帕累托前沿，數學、程式碼、長上下文等基準可對標啟用引數最多四倍於己的模型。
llama.cpp 發布 b11361，在 server 中新增 /v1/systemone API，支援 laya、julia-1、lev、openjev、kev 五個模型，並附帶模型轉換指令碼。該版本加入了共享 prompt 字首與視覺輸入支援，新增用於測試的小模型 openjev tiny，文件中明確說明不支援 date_facts。macOS Apple Silicon（arm64）建置正常，但啟用 KleidiAI 的 arm64 版本被標記為 DISABLED；
愛爾蘭一所公立繼續教育學院（相當於美國的社群學院）拿到資助，建起了一個小型 AI 實驗室，硬體條件還算不錯。發帖人向更有經驗的人徵集教學思路，目標是讓學生獲得使用 ChatGPT 之外的實用技能。帖子本身只提出征集，沒有給出課程方案、招生規模或具體裝置型號等細節。
一批極窄用途的推理執行時正在出現，包括 Strata、ninfer、DwarfStar、Splash、llamAmpere、gufo 等。它們刻意放棄 llama.cpp 和 vLLM 擅長的通用性，只針對少數模型、有時甚至只針對一個硬體家族（如 Strix Halo）做最佳化。作者認為未來通用執行時負責相容性、一次性專精執行時負責最大效能將成為常態，這也有助於智慧的民主化與去中心化，並壓榨現有硬體的更多產出。
Latent Space 最新一期播客請到 MIT 的 Alex Zhang，聊遞迴語言模型（RLM）、AI 寫 GPU kernel 與多智慧體 swarm。據他介紹，基於 RLM 的 harness 是首個接近解出 ARC-AGI-3 的方案，早於 OpenAI 的 Astra；他還談到 OpenAI 的 1 萬 agent、1300 億輸出 token、約合 4000 萬美元的問題求解實驗。
開發者 Wayne Workman 用 11 個月業餘時間從零訓練了專注二戰資訊的小語言模型 Peacebell，已開源權重與訓練材料，含 291M 和 148M 兩個引數版本。148M 版是為參加 HuggingFace 限制 150M 以內模型規模的榜單而做，同時發布了 WWII 主題基準 ww2bench，題目不公開以防進入訓練資料。模型可在 CPU 上執行，作者提供了定製 vLLM fork，並稱其長上下文表現較差，下一版預計 2027 年發布。