llama.cpp b11919 修正 OpenCL 矩陣乘法負索引
llama.cpp 發布 b11919,主要改動是修正 OpenCL 後端矩陣乘法中 id 為 -1 的索引處理(PR #31170,由 Codex 協助)。其餘為常規多平台建置產物更新,覆蓋 macOS Apple Silicon、iOS、Android、Windows 與 Linux 的 CPU、Vulkan、CUDA 12/13、ROCm、SYCL、OpenVINO 等後端。
依意思最接近的 15 筆
llama.cpp 發布 b11919,主要改動是修正 OpenCL 後端矩陣乘法中 id 為 -1 的索引處理(PR #31170,由 Codex 協助)。其餘為常規多平台建置產物更新,覆蓋 macOS Apple Silicon、iOS、Android、Windows 與 Linux 的 CPU、Vulkan、CUDA 12/13、ROCm、SYCL、OpenVINO 等後端。
llama.cpp 發布 b11640,Vulkan 後端針對 cm2 mulmat 的矩陣乘法改用對 L2 快取更友好的 workgroup 排程(#30215)。同一版本把 macOS Apple Silicon 的 KleidiAI 建置標記為 DISABLED,並重新整理各平台預編譯包:Ubuntu 與 Windows x64 新增 ROCm 10.0,CUDA 13 建置對應 CUDA 13.4 庫。
llama.cpp 建置 b11933 修復 Vulkan 後端:MUL_MAT 允許 src0 與 src1 在第三維(ne3)上不相等時進行廣播,這類矩陣乘不再回退到 CPU 並複製權重。此前 supports_op 會拒絕所有 ne3 不相等的 MUL_MAT,而 mul_mm、mul_mmq、mul_mat_vec 已通過 broadcast3 支援該廣播;回退還使 split 佈局隨 ubatch 的 stream 數量變化。
可可矩陣發布機器人模型 CO01,把示範、失敗嘗試和即時指導作為「經驗提示」直接放進上下文,無需為新任務重新訓練。未見任務上,一段約 1 分鐘的示範平均成功率達 52%;微調要達到相近水平,需約 180 條示範、約 9 小時,準備時間相差約 460 倍。真機測試中,保留自身失敗歷史時,五次嘗試內累計成功率由首次的 33% 升至 84%;不保留歷史則為 56%。同一套視覺主幹權重覆蓋深度、分割、光流等任務,8 項基準中有 5 項優於專用模型。
OpenAI 於 2026 年 9 月 23 日發布數學預印本 Integer multiplication below n log n,作者署名 OpenAI。該文歸入 OpenAI Math Release preprint 系列,PDF 託管在 GitHub 倉庫 openai/math 的 preprints 目錄下,並隨文給出 BibTeX 引用條目。標題指向整數乘法複雜度低於 n log n 的結果,但原文未附摘要、演算法細節與具體複雜度常數。
崑崙萬維旗下 Skywork AI 發布並開源遊戲世界模型 Matrix-Game 4.0,稱其為全球首款可在單張消費級顯示卡上即時執行的遊戲世界模型。它在 RTX 5090 上以 60 FPS、480p 畫質執行,按鍵到畫面回應不到 0.15 秒,視訊記憶體峰值約 18.5GiB。做法是把世界狀態與遊戲規則交給遊戲引擎維護,影片模型只負責生成畫面,Coding Agent 可用自然語言改寫遊戲程式碼,例如把計時賽變成追擊戰。
llama.cpp 合併 PR #29869,為 Metal 後端新增支援 2 到 16 行 src1 的 mat-mul 核心,用於加速投機解碼中的少行矩陣乘。此前 Metal 在無 tensor API 時用 mat-vec 核心處理這些運算,耗時隨 src1 行數增長,導致 M3 Ultra 上 DFlash2 解碼慢於序列解碼。
llama.cpp 建置版本 b11895 修復了 Metal 後端在大型矩陣輸出偏移時出現的整數溢位,同時加寬了 batch 偏移與 MUL_MAT_ID 的 token 索引。改動由 Codex 輔助完成,屬於影響大模型在 Apple Silicon 上推理正確性的底層修復,本次建置仍按慣例提供 macOS、Linux、Windows、Android 等多平台二進位制包。
argmin.net 刊出文章,審視 OpenAI 聲稱能更快計算傅裡葉變換的數學方法。該帖在 Hacker News 上獲得 43 分、17 條評論,討論圍繞這一加速宣稱的數學依據是否成立。
llama.cpp 建置 b11582 引入 ggml-zdnn 的 Q8_0 矩陣乘法原型,由 IBM 的 Aaron Teo 提交,並同步更新了 zdnn 文件。zdnn 面向 IBM Z(s390x)平台,目前這一支援仍屬初步原型。
數學社群上線 oai-math-revised 倉庫,公開修訂 OpenAI 數學文稿中難懂、引用不全的內容。修訂版可在 mathcommunity.github.io/oai-math-revised 瀏覽,學生、博士後、教授與數學愛好者均可參與。有意擔任管理員或審稿人者,可發郵件至 [email protected],並對照 OpenAI 數學總覽文件(overview.pdf)說明自己適合審哪些分類。
崑崙萬維發布並開源 Matrix-Game 4.0,稱其為全球首個可在消費級顯示卡上即時執行的影片大模型遊戲。基於 Wan2.2 5B 改造,單張 RTX 5090 上以 480p 實現 60 FPS 遊戲執行,按鍵到畫面端到端延遲低於 150ms,1 步去噪穩態生成 83 FPS,視訊記憶體峰值約 18.5 GiB。作為對比,輝達同期 StreamRender-H3 需 8 張 GB200,互動延遲約 500ms。開源內容包括模型權重和可由開發者直接修改、擴充套件的遊戲程式碼。
llama.cpp 發布建置 b11604,為 KleidiAI 加入 SME2 指令集的 Q4_K 與 Q6_K 矩陣乘支援,補丁編號 #29219,提交者來自 Arm。SME2 屬於 Armv9 的矩陣擴充套件,這項改動面向支援該指令集的 Arm CPU,用於加速這兩種常用量化格式的矩陣乘法。同一版本中,macOS Apple Silicon 的 KleidiAI 啟用建置被標記為 DISABLED,openEuler 也有一項標註 DISABLED;
Mistral AI 展示 Mistral Large 4 處理惡意軟體逆向工程的能力:面對一個未知二進位制樣本,模型端到端完成分析,判定其為 Cobalt Strike,並提取出 IoC 與惡意軟體配置。它還會輸出一份報告,其中包含可用於攔截同類事件的 YARA 規則。官方稱這類「分佈外」調查任務原本可能需要一天的工作量,模型用 12 分鐘完成。
llama.cpp 發布 b11554,Vulkan 後端改進了 MoE 推理中 mul_mat_id 對重複專家 id 的處理:不再逐個迴圈,而是在預計算階段統一處理。原本受限的 hoist row ids 最佳化現在預設開啟,會生成緊湊的 tile 描述列表、按需發射多個 tile,從而收緊 workgroup 數量上界,尾部執行緒可直接提前退出。