llama.cpp releasesAI 評分38
llama.cpp b11523 修復 WebGPU 混合批處理崩潰
llama.cpp 建置 b11523 為 WebGPU 後端補上 GGML_OP_DUP 運算元，修復了混合批處理路徑的崩潰。此前副本須在 CPU 生成、寫入卻排在 WebGPU，導致繫結 CPU 緩衝後崩潰；現在 DUP 與 CPY、CONT 走同一路徑。此版發布中啟用 KleidiAI 的 macOS Apple Silicon 建置被標為 DISABLED。
搜尋
找到 5 筆
llama.cpp releasesAI 評分43
llama.cpp 修復 ggml conv_1d 批次輸入轉置錯誤
llama.cpp 修復了 ggml conv_1d 在批次輸入下輸出通道與批次維度錯位的問題。conv_1d 背後的 GEMM 把 batch 折進行，結果在記憶體中是 [OL, N, OC]，reshape 卻宣告為 [OL, OC, N]，形狀正確但內容被轉置，因此不報錯、通道與批次交錯；N==1 時兩種讀法等價，倉庫裡三個 vocoder 都沒觸發。
r/ClaudeAI top of the dayAI 評分38
Claude 以版權為由拒絕翻譯整本書
Reddit 使用者反映，Claude 以版權問題為由拒絕翻譯其持有的日文書籍，此前同類請求可以正常完成。評論區多人確認 Claude 對受版權保護書籍的翻譯限制變嚴，建議改為分批處理、只讓模型解釋片段，或換用其他模型和 DeepL。另有使用者稱 Claude 拒絕閱讀一本 1957 年、在歐洲 2027 年才進入公有領域的書。
Hacker News front page● 精選AI 評分91
Mistral Large 4 發布：1.05T 引數開放權重多模態模型
Mistral 於 10 月 6 日公開預覽 Mistral Large 4：開放權重、通用多模態模型，採用細粒度 MoE 架構，49B 啟用引數、1.05T 總引數，配 1.6B 視覺編碼器，上下文 1M。定價為輸入每百萬 tokens 0.68 美元、快取輸入 0.07 美元、輸出 2.09 美元，頁面同時列出 1.36、0.14、4.18 的對照價格。功能含結構化輸出、函式呼叫、文件問答、字首補全、Chat Completions、批處理與 Agents 內建工具。
Meta AI blogAI 評分42
Meta 開源視覺模型 DINO 與 SAM 用於匹茲堡大學輔助機器人
匹茲堡大學人類工程研究實驗室（HERL）在 ARPA-H 最高 4150 萬美元資助下推進 RAMMP 輔助機器人專案，採用 Meta 開源視覺模型 DINO 與 SAM。團隊將 DINOv3 和 SAM 部署到電池供電的邊緣裝置上，通過降低記憶體佔用、使用低精度和高效批處理來保證即時執行，原型已能識別自動門按鈕、杯子和路緣。該功能面向美國約 550 萬輪椅使用者，目前正進入真實環境測試，並加入語音與觸控互動。