機器之心● 精選10/6 13:00AI 評分90
OpenAI 宣布 GPT-6 提速 50%，第三方實測訂閱額度只有 Claude 的 1/5
OpenAI 兌現 28 天連更承諾的第 1 天更新：GPT-6 Astra 與 GPT-6.1 Sol 預設速度提升約 50%，輸出從 30 TPS 提到 50 TPS，使用者無需操作、兩小時內生效，並覆蓋 OpenCode、Pi、Amp、Devin 等通過 Sign in with ChatGPT 接入的合作伙伴。
搜尋
找到 6 筆
r/LocalLLaMA top of the day10/2 19:47AI 評分65
llama.cpp 新 PR 將共享專家融合進 MMVQ，部分 MoE 架構提速
llama.cpp 的 PR #29184 提出在 CUDA 後端把共享專家融合進 MMVQ，為部分 MoE 架構帶來提速，例如 Qwen 35B A3B。有評論稱該改動使 TG 速度提升約 5%，並指出僅對部分 MoE 架構有效。
X @ggerganov● 精選10/6 14:27AI 評分75
llama.cpp v0.6.0 支援 DFlash，Qwen3.8-27B 推理提速
llama.cpp 作者 Georgi Gerganov 建議使用 Qwen3.8-27B + MTP 的使用者升級到 DFlash，以獲得額外速度提升。啟用方式是在最新 llama.cpp v0.6.0 上執行 llama serve -hf ggml-org/Qwen3.8-27B-GGUF，並加上 --spec-type draft-dflash 與 --spec-draft-n-max 7 兩個引數。該提示未給出具體提速幅度，只強調必須使用最新版本。
Google Developers blog● 精選10/2 22:21AI 評分68
TPU 上影片擴散模型注意力最佳化提速 1.69 倍
開發者將 Sparse VideoGen（SVG）用於高解析度影片擴散模型，把注意力頭動態路由到結構化空間或時間稀疏掩碼，以緩解自注意力的二次延遲瓶頸。為在 TPU 上把演算法稀疏轉化為實際加速，團隊最佳化 Splash Attention 核心：跳過空記憶體塊、僅在邊界塊做精確座標掩碼、將 token 記憶體佈局改為時間優先以連續訪問。這些最佳化與硬體塊執行對齊後，1440p 影片生成端到端推理最高提速 1.69 倍。
量子位● 精選10/6 07:45AI 評分89
OpenAI 瘋狂 28 天首日：GPT-6 提速 50%，網友實測未達標
OpenAI Codex 負責人 Tibo 的 28 天計劃首日，官方宣布 GPT-6 Astra 與 GPT-6.1 Sol 預設推理速度提升約 50%、達 50TPS，覆蓋官方訂閱及 OpenCode、Amp 等第三方接入，但網友實測僅約 35TPS。同期 OpenAI 在 ChatGPT 影像生成中測試視覺廣告，並將在幾週內為歐盟地區 ChatGPT 和 Codex 生成的文字加隱形水印。
llama.cpp releases10/5 08:08AI 評分40
llama.cpp 為 4 頭 lightning indexer 新增 CUDA 分塊核心
llama.cpp 合併 b11405 版本更新，為 lightning indexer 在 CUDA 與 ROCm 後端新增分塊核心，針對 4 頭場景最佳化。新核心將鍵以半精度暫存、查詢逐頭載入，每執行緒負責一個鍵對兩個 token，避免點積的跨執行緒歸約；同時把乘積改為 float 計算以防 half2 溢位，並讓每個鍵元素只擴充套件一次供所有頭使用。ROCm 上內層迴圈展開 8 次，gfx908 僅用 63 個 VGPR 無溢位，R9700 上核心提速 36 倍。