AISpot

搜尋

依意思最接近的 30 筆

llama.cpp releases● 精選AI 評分60

llama.cpp 為 Metal 加入少行 MMA 矩陣乘核心

llama.cpp 合併 PR #29869,為 Metal 後端新增支援 2 到 16 行 src1 的 mat-mul 核心,用於加速投機解碼中的少行矩陣乘。此前 Metal 在無 tensor API 時用 mat-vec 核心處理這些運算,耗時隨 src1 行數增長,導致 M3 Ultra 上 DFlash2 解碼慢於序列解碼。

llama.cpp releasesAI 評分44

llama.cpp Vulkan 支援 MUL_MAT 第三維廣播,不再回退 CPU

llama.cpp 建置 b11933 修復 Vulkan 後端:MUL_MAT 允許 src0 與 src1 在第三維(ne3)上不相等時進行廣播,這類矩陣乘不再回退到 CPU 並複製權重。此前 supports_op 會拒絕所有 ne3 不相等的 MUL_MAT,而 mul_mm、mul_mmq、mul_mat_vec 已通過 broadcast3 支援該廣播;回退還使 split 佈局隨 ubatch 的 stream 數量變化。

llama.cpp releasesAI 評分42

llama.cpp b11640:Vulkan 矩陣乘法改用 L2 友好排程

llama.cpp 發布 b11640,Vulkan 後端針對 cm2 mulmat 的矩陣乘法改用對 L2 快取更友好的 workgroup 排程(#30215)。同一版本把 macOS Apple Silicon 的 KleidiAI 建置標記為 DISABLED,並重新整理各平台預編譯包:Ubuntu 與 Windows x64 新增 ROCm 10.0,CUDA 13 建置對應 CUDA 13.4 庫。

llama.cpp releasesAI 評分42

llama.cpp b11609 修復 WebGPU 重複專家 ID 的 mul_mat_id

llama.cpp 發布 b11609,修復 WebGPU 後端在 expert id 重複時 mul_mat_id 的計算錯誤,屬 CI 修復。該問題涉及 MoE 模型的專家路由,同版本照常給出各平台預編譯建置,覆蓋 macOS Apple Silicon(arm64)、Linux 的 CUDA 12/13 與 ROCm 10.0、Windows x64 CUDA/Vulkan、Android arm64,以及 Snapdragon 的 CPU、Adreno GPU 與 H…

機器之心● 精選AI 評分83

崑崙萬維開源 Matrix-Game 4.0:單張 RTX 5090 即時跑 AI 遊戲

崑崙萬維發布並開源 Matrix-Game 4.0,稱其為全球首個可在消費級顯示卡上即時執行的影片大模型遊戲。基於 Wan2.2 5B 改造,單張 RTX 5090 上以 480p 實現 60 FPS 遊戲執行,按鍵到畫面端到端延遲低於 150ms,1 步去噪穩態生成 83 FPS,視訊記憶體峰值約 18.5 GiB。作為對比,輝達同期 StreamRender-H3 需 8 張 GB200,互動延遲約 500ms。開源內容包括模型權重和可由開發者直接修改、擴充套件的遊戲程式碼。

llama.cpp releasesAI 評分40

llama.cpp b11693 修復 SYCL 後端 mul_mat 記憶體錯誤

llama.cpp 發布建置 b11693,核心改動是修復 SYCL 後端在 mul_mat、split buffer 和 host pool 中的記憶體錯誤(PR #29889)。該版本同時更新了預編譯產物清單,覆蓋 macOS/iOS、Linux、Windows、Android,包含 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO 以及 SYCL FP32/FP16 等後端。

量子位● 精選AI 評分86

崑崙萬維開源 Matrix-Game 4.0,單張 RTX 5090 即時跑遊戲世界模型

崑崙萬維旗下 Skywork AI 發布並開源遊戲世界模型 Matrix-Game 4.0,稱其為全球首款可在單張消費級顯示卡上即時執行的遊戲世界模型。它在 RTX 5090 上以 60 FPS、480p 畫質執行,按鍵到畫面回應不到 0.15 秒,視訊記憶體峰值約 18.5GiB。做法是把世界狀態與遊戲規則交給遊戲引擎維護,影片模型只負責生成畫面,Coding Agent 可用自然語言改寫遊戲程式碼,例如把計時賽變成追擊戰。

llama.cpp releasesAI 評分46

llama.cpp 新版最佳化 Vulkan 上 MoE 重複專家的矩陣乘

llama.cpp 發布 b11554,Vulkan 後端改進了 MoE 推理中 mul_mat_id 對重複專家 id 的處理:不再逐個迴圈,而是在預計算階段統一處理。原本受限的 hoist row ids 最佳化現在預設開啟,會生成緊湊的 tile 描述列表、按需發射多個 tile,從而收緊 workgroup 數量上界,尾部執行緒可直接提前退出。

llama.cpp releasesAI 評分52

llama.cpp 修復 Metal 後端 mul_mat_id 重複 id 錯誤

llama.cpp 建置版本 b11569 修復了 Metal 後端 mul_mat_id 在 id 重複時輸出錯誤、丟行乃至溢位到下一個 expert 切片的問題。新實現先做一遍預掃描,為每個 expert 建立緊湊的 (token, slot) 條目列表,並借鑑 Vulkan 方案讓 map0 額外輸出 tile 描述符,kernel_mul_mm_id 按描述符處理單個 tile,重複 id 由此被隱式處理。

Hacker News front pageAI 評分32

OpenAI 發布整數乘法低於 n log n 的數學預印本

OpenAI 於 2026 年 9 月 23 日發布數學預印本 Integer multiplication below n log n,作者署名 OpenAI。該文歸入 OpenAI Math Release preprint 系列,PDF 託管在 GitHub 倉庫 openai/math 的 preprints 目錄下,並隨文給出 BibTeX 引用條目。標題指向整數乘法複雜度低於 n log n 的結果,但原文未附摘要、演算法細節與具體複雜度常數。

機器之心● 精選AI 評分76

復旦與上海創智學院提出 MATE,按規則審計移動智慧體軌跡

上海創智學院與復旦大學團隊提出 MATE,稱其為首個面向移動/GUI 智慧體執行軌跡的規則感知安全審計模型,論文發表於 USENIX Security 2026。MATE 將自然語言安全規則與任務指令、執行軌跡聯合建模,輸出違規判定、14 類風險類別和基於軌跡證據的解釋,提供 0.5B、1.5B、3B 三種規模,規則可編輯、無需重新訓練即可本地部署。

llama.cpp releases● 精選AI 評分74

llama.cpp 修復 Metal 後端 MUL_MAT+ADD 融合錯誤

llama.cpp 合併 PR #30100,修復 Metal 後端 MUL_MAT+ADD 融合中殘差運算元的選擇錯誤:當 ADD 的兩個運算元都是矩陣乘法輸出(x = W1@u + W2@v)時,舊邏輯會選中自身從未寫入的輸出緩衝區,導致結果錯誤。Clef 決策模型因此在 Metal 上機率趨近均勻,billing 輸出 0.28,而 CPU 後端為 0.977,且同一檔案在 CPU 上結果正確,說明並非量化問題。

X @samaAI 評分32

Sam Altman 稱正進入發現新紀元,附 OpenAI 數學進展頁面

OpenAI CEO Sam Altman 在 X 發帖稱「我們正進入發現的新紀元」,並附上 OpenAI 官網一則題為 Sharing AI progress in mathematics 的頁面連結。推文字身沒有給出更多說明,未披露涉及的具體模型、數學成果或時間表,資訊集中在所連結的頁面上。發帖時間為 2026 年 10 月 7 日。

TechCrunch AI● 精選AI 評分81

Meta 稱 Muse 使用者超 1000 萬,購物客單價逾 200 美元

Meta 在第三季度財報電話會上稱,其 AI 應用 Muse 的使用者已超過 1000 萬,其中約 25% 的註冊使用者每天使用。通過 Plaid 聯結器進行的代理購物中,逾四分之一的活躍購物使用者平均單筆消費超過 200 美元。其他熱門用途包括把 Muse 接入信箱與日曆,處理個人效率任務;後續還將推出連 Meta 也無法檢視內容的 Muse Confidential VM。

llama.cpp releasesAI 評分36

llama.cpp b11835:SYCL 將 device 傳入 mul_mat_uses_onednn

llama.cpp 發布 b11835 建置版本,主要變更是 SYCL 後端把 device 傳入 mul_mat_uses_onednn(#31014)。該版本同步提供 macOS Apple Silicon、Linux/Windows 的 CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL 等預編譯包,並包含 Android arm64 與 Snapdragon 的 CPU/Adreno GPU/Hexagon NPU 建置。

The Verge AI● 精選AI 評分78

Meta Muse 與 OpenAI Dots 上線,消費級 AI agent 開打

Meta 的 Muse 與 OpenAI 的 Dots 相繼發布,把常駐式自主 AI agent 推向普通消費者,Muse 免費而 Dots 收費。兩者都以卡通吉祥物形象包裝,能代訂餐廳、機票、買禮物、整理收件箱,OpenAI 還推出面向營銷、法律與會計的專家版 Dots。此前個人專案 OpenClaw 已帶動 Mac Mini 銷量上漲,而把信用卡、信箱等敏感資料交給 agent 的隱私與安全代價仍未有解。

Mistral AI news● 精選AI 評分63

Mistral 聯手 NVIDIA 建工程 AI 基準,Large 4 將發布權重

Mistral 與 NVIDIA 宣布合作開發 AI 原生工程工作流:以 Mistral Large 4 配合資料生成與物理建模管線,用 NVIDIA CUDA-X、Warp 加速模擬,並接入 Omniverse 生成 3D 場景與 SimReady 資產。雙方還將發布物理模型的公開基準與開放資料集,併為 CAE、EDA 中的 agentic AI 建立評測,考察工具使用、多步流程與技術正確性,同時記錄耗時與算力成本。

Hacker News front pageAI 評分11

9 Mothers 在奧斯汀招聘 7 個崗位,開發反無人機系統

YC P26 批次的反無人機公司 9 Mothers 在德州奧斯汀開放 7 個崗位。具體包括 1 名感知工程師、2 名硬體工程師(製造工程負責人、高階光機工程師)、3 名軟體工程師(UAS 飛行員、雷達工程師、機器人軟體工程師)和 1 名幕僚長。工作全部在奧斯汀現場進行,地點靠近靶場;內容涉及 AI 感知、動能攔截及其殺傷鏈,並要求圍繞靶場實測資料快速迭代。單發成本、可維護性與可製造性都被列為設計約束。簡歷可投 [email protected] 或 Ashby。

The Verge AIAI 評分40

扎克伯格在財報電話會押注個人 AI 代理 Muse

Meta 在週三晚間的季度財報電話會上,把公司未來押注於上月向公眾發布的個人 AI 代理 Muse。扎克伯格稱其仍處早期,並描繪了一個由自主 AI 代理網路替人購物、工作、與其他人的代理溝通的未來,人們將主要通過機器人代理交流。報導由此追問,人類是否準備好接受這種生活方式,以及扎克伯格本人是否準備好。

量子位AI 評分50

範式智慧聯合睿思智聯開源生產級 AI 部署平台模域 ModelSphere

10 月 16 日,範式智慧聯合睿思智聯發布一站式生產級 AI 部署平台模域(ModelSphere),面向企業免費開源,以 Apache 2.0 協議在 GitHub 上線。平台把算力管理、模型部署與執行最佳化整合為統一流程,可統一混合排程華為昇騰、天數智芯、摩爾線程、海光 DCU 等國產晶片,無需為不同晶片重寫底層程式碼。

The Verge AIAI 評分50

Meta 的 AI 助理 Muse 登頂 App Store,被指連親友資料一起收集

Meta 上月推出的 AI 個人助理 Muse 下載量已達數百萬次,登上 Apple App Store 榜首。The Verge 指出,這類 AI 助理不只拿使用者自己的資料,還會收集使用者身邊人的資訊——朋友、家人,甚至五年前約會過的物件,而這些人從未表示同意。文章把 Muse 歸入消費電子中日益普遍的「處處窺探」趨勢,並提到其虛擬形象帶來的不適感。