llama.cpp releases10/3 02:32AI 評分58
llama.cpp 修復 ggml-cpu soft_max_back 別名輸出錯誤
llama.cpp 合併 PR #27096，修復 ggml-cpu 中 GGML_OP_SOFT_MAX_BACK 在 dst 與 src1（y）別名時輸出靜默錯誤的問題。原因是原實現先覆蓋 y 再讀取，改為單次融合迴圈先讀兩個源再寫，並新增迴歸測試強制觸發該別名。CUDA 核心因先完成歸約再寫入，不受影響。
搜尋
找到 5 筆
llama.cpp releases10/2 16:43AI 評分40
llama.cpp b11349 加 Vulkan 編譯日誌
llama.cpp 發布 b11349，新增 Vulkan 管線編譯問題的日誌輸出（#29794）。該版本提供 macOS/iOS、Linux、Android、Windows、openEuler 建置產物，涵蓋 Ubuntu x64/arm64/s390x CPU、Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL FP32/FP16，以及 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU。
llama.cpp releases10/2 14:52AI 評分48
llama.cpp 發布 b11346，修復 qwen4exp 測試
llama.cpp 發布建置 b11346，本次改動是修復 qwen4exp 的測試（PR #29819）。該版本繼續提供 macOS Apple Silicon（arm64）與 Intel（x64）、iOS XCFramework 預編譯包，Linux 與 Windows 覆蓋 CPU、Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL 等後端，另有 Android arm64 與 openEuler 版本。
r/LocalLLaMA top of the day10/3 02:58AI 評分32
LocalLLaMA 網友曬本地跑模型硬體方案
r/LocalLLaMA 使用者 pmarsh 發帖稱自己已接近本地推理硬體投入的中間水平，評論區隨即給出多種低成本方案：2014 至 2018 年的 2 至 4 路 DDR3 CPU 伺服器可跑 qwen 3.8 flash 超 15 tok/s；雙 7900XTX 不到 2000 美元可跑 27B Q8 超 220k 上下文；CMP 170HX 視訊記憶體超頻可達 2TB/s，單流解碼約 60 tok/s。
Hugging Face blog9/30 01:00AI 評分46
Hugging Face 發布 Open TTS Leaderboard，用客觀指標評多語言 TTS 與語音克隆
Hugging Face 於 2026 年 9 月 30 日上線 Open TTS Leaderboard，用客觀指標評測開源與多語言 TTS 模型，單次評測從收集投票的數週縮短到數小時。指標包括 WER/CER（用 Qwen3 ASR 轉寫）、H200 批次離線推理的 RTFx、H200 與 CPU 上的流式首音訊延遲 TTFA，以及 WavLM 說話人嵌入的餘弦相似度 SIM。