AISpot

搜尋

依意思最接近的 15 筆

llama.cpp releasesAI 評分42

llama.cpp b11640:Vulkan 矩陣乘法改用 L2 友好排程

llama.cpp 發布 b11640,Vulkan 後端針對 cm2 mulmat 的矩陣乘法改用對 L2 快取更友好的 workgroup 排程(#30215)。同一版本把 macOS Apple Silicon 的 KleidiAI 建置標記為 DISABLED,並重新整理各平台預編譯包:Ubuntu 與 Windows x64 新增 ROCm 10.0,CUDA 13 建置對應 CUDA 13.4 庫。

llama.cpp releasesAI 評分44

llama.cpp Vulkan 支援 MUL_MAT 第三維廣播,不再回退 CPU

llama.cpp 建置 b11933 修復 Vulkan 後端:MUL_MAT 允許 src0 與 src1 在第三維(ne3)上不相等時進行廣播,這類矩陣乘不再回退到 CPU 並複製權重。此前 supports_op 會拒絕所有 ne3 不相等的 MUL_MAT,而 mul_mm、mul_mmq、mul_mat_vec 已通過 broadcast3 支援該廣播;回退還使 split 佈局隨 ubatch 的 stream 數量變化。

機器之心● 精選AI 評分69

可可矩陣發布機器人模型 CO01,一段示範即可上手新任務

可可矩陣發布機器人模型 CO01,把示範、失敗嘗試和即時指導作為「經驗提示」直接放進上下文,無需為新任務重新訓練。未見任務上,一段約 1 分鐘的示範平均成功率達 52%;微調要達到相近水平,需約 180 條示範、約 9 小時,準備時間相差約 460 倍。真機測試中,保留自身失敗歷史時,五次嘗試內累計成功率由首次的 33% 升至 84%;不保留歷史則為 56%。同一套視覺主幹權重覆蓋深度、分割、光流等任務,8 項基準中有 5 項優於專用模型。

Hacker News front pageAI 評分32

OpenAI 發布整數乘法低於 n log n 的數學預印本

OpenAI 於 2026 年 9 月 23 日發布數學預印本 Integer multiplication below n log n,作者署名 OpenAI。該文歸入 OpenAI Math Release preprint 系列,PDF 託管在 GitHub 倉庫 openai/math 的 preprints 目錄下,並隨文給出 BibTeX 引用條目。標題指向整數乘法複雜度低於 n log n 的結果,但原文未附摘要、演算法細節與具體複雜度常數。

量子位● 精選AI 評分86

崑崙萬維開源 Matrix-Game 4.0,單張 RTX 5090 即時跑遊戲世界模型

崑崙萬維旗下 Skywork AI 發布並開源遊戲世界模型 Matrix-Game 4.0,稱其為全球首款可在單張消費級顯示卡上即時執行的遊戲世界模型。它在 RTX 5090 上以 60 FPS、480p 畫質執行,按鍵到畫面回應不到 0.15 秒,視訊記憶體峰值約 18.5GiB。做法是把世界狀態與遊戲規則交給遊戲引擎維護,影片模型只負責生成畫面,Coding Agent 可用自然語言改寫遊戲程式碼,例如把計時賽變成追擊戰。

llama.cpp releases● 精選AI 評分60

llama.cpp 為 Metal 加入少行 MMA 矩陣乘核心

llama.cpp 合併 PR #29869,為 Metal 後端新增支援 2 到 16 行 src1 的 mat-mul 核心,用於加速投機解碼中的少行矩陣乘。此前 Metal 在無 tensor API 時用 mat-vec 核心處理這些運算,耗時隨 src1 行數增長,導致 M3 Ultra 上 DFlash2 解碼慢於序列解碼。

llama.cpp releasesAI 評分41

llama.cpp 修復 Metal 大矩陣偏移溢位問題

llama.cpp 建置版本 b11895 修復了 Metal 後端在大型矩陣輸出偏移時出現的整數溢位,同時加寬了 batch 偏移與 MUL_MAT_ID 的 token 索引。改動由 Codex 輔助完成,屬於影響大模型在 Apple Silicon 上推理正確性的底層修復,本次建置仍按慣例提供 macOS、Linux、Windows、Android 等多平台二進位制包。

Hacker News front pageAI 評分42

社群建 oai-math-revised 公開修訂 OpenAI 數學文稿

數學社群上線 oai-math-revised 倉庫,公開修訂 OpenAI 數學文稿中難懂、引用不全的內容。修訂版可在 mathcommunity.github.io/oai-math-revised 瀏覽,學生、博士後、教授與數學愛好者均可參與。有意擔任管理員或審稿人者,可發郵件至 [email protected],並對照 OpenAI 數學總覽文件(overview.pdf)說明自己適合審哪些分類。

機器之心● 精選AI 評分83

崑崙萬維開源 Matrix-Game 4.0:單張 RTX 5090 即時跑 AI 遊戲

崑崙萬維發布並開源 Matrix-Game 4.0,稱其為全球首個可在消費級顯示卡上即時執行的影片大模型遊戲。基於 Wan2.2 5B 改造,單張 RTX 5090 上以 480p 實現 60 FPS 遊戲執行,按鍵到畫面端到端延遲低於 150ms,1 步去噪穩態生成 83 FPS,視訊記憶體峰值約 18.5 GiB。作為對比,輝達同期 StreamRender-H3 需 8 張 GB200,互動延遲約 500ms。開源內容包括模型權重和可由開發者直接修改、擴充套件的遊戲程式碼。

llama.cpp releasesAI 評分44

llama.cpp 為 KleidiAI 加入 SME2 Q4_K/Q6_K 矩陣乘支援

llama.cpp 發布建置 b11604,為 KleidiAI 加入 SME2 指令集的 Q4_K 與 Q6_K 矩陣乘支援,補丁編號 #29219,提交者來自 Arm。SME2 屬於 Armv9 的矩陣擴充套件,這項改動面向支援該指令集的 Arm CPU,用於加速這兩種常用量化格式的矩陣乘法。同一版本中,macOS Apple Silicon 的 KleidiAI 啟用建置被標記為 DISABLED,openEuler 也有一項標註 DISABLED;

X @MistralAIAI 評分52

Mistral Large 4 用 12 分鐘完成惡意軟體逆向分析

Mistral AI 展示 Mistral Large 4 處理惡意軟體逆向工程的能力:面對一個未知二進位制樣本,模型端到端完成分析,判定其為 Cobalt Strike,並提取出 IoC 與惡意軟體配置。它還會輸出一份報告,其中包含可用於攔截同類事件的 YARA 規則。官方稱這類「分佈外」調查任務原本可能需要一天的工作量,模型用 12 分鐘完成。

llama.cpp releasesAI 評分46

llama.cpp 新版最佳化 Vulkan 上 MoE 重複專家的矩陣乘

llama.cpp 發布 b11554,Vulkan 後端改進了 MoE 推理中 mul_mat_id 對重複專家 id 的處理:不再逐個迴圈,而是在預計算階段統一處理。原本受限的 hoist row ids 最佳化現在預設開啟,會生成緊湊的 tile 描述列表、按需發射多個 tile,從而收緊 workgroup 數量上界,尾部執行緒可直接提前退出。