llama.cpp 修復 ggml_time_us 時間溢位,改用 double
llama.cpp 建置 b11838 修復了 ggml_time_us 的時間溢位問題,實現上改用 double(#30969)。該版本同時提供 macOS/iOS、Linux、Android、Windows 等多平台預編譯包,其中 macOS Apple Silicon 的 KleidiAI 建置與 openEuler 建置被標記為 DISABLED。
原標題:b11838
閱讀原文
| 評分 | 42 / 42(平均 42,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp 建置 b11687:重構 ggml-cpu s309x repack 輔助函式
llama.cpp 發布建置 b11687,核心改動是重構 ggml-cpu 的 s309x repack 輔助函式(PR #30588)。同批預編譯產物覆蓋 macOS/iOS、Linux、Android、Windows 與 openEuler,其中 macOS Apple Silicon 的 KleidiAI 啟用版和 openEuler 建置被標記為 DISABLED。
llama.cpp 修復 ggml_acc 負偏移導致的越界寫
llama.cpp 建置 b11529 修復了 ggml 中 ggml_acc 的越界寫漏洞:ggml_acc_impl 將 size_t 偏移量收窄為 int32_t 時未做檢查,超大偏移會截斷成負數,再被符號擴充套件為巨大 size_t 導致邊界斷言失效,可在 dst 緩衝區下方越界寫入。修復方式是在收窄前檢查偏移量,與 ggml_set_impl 中已有檢查保持一致。該版本同時提供 macOS、Linux、Windows、Android 等多平台預編譯包。
llama.cpp Vulkan 後端支援 ggml src1 精度並調整累加器精度選擇
llama.cpp 建置 b11854 為 Vulkan 後端加入 ggml src1 精度支援,並更新累加器精度選擇邏輯。改動通過縮放處理 fp32 溢位,並修復 copy-to-fp16 啟用中的溢位問題;同時補充 ggml 精度查詢輔助函式、在 mul_mat 中增加檢查與測試,並統一命名為 acc_prec。此次建置仍覆蓋 macOS、Linux、Windows、Android 的 Vulkan、CUDA、ROCm、SYCL、OpenVINO 等後端二進位制。
llama.cpp 移除 Kolibri-1 路由器的冗餘精度覆蓋
llama.cpp 建置 b11765 刪除了 Kolibri-1 路由器中的兩處 ggml_prec_set_* 精度覆蓋(#30865),原因是該路由的矩陣乘用預設精度就能正常工作,這是 #30673 評審意見的後續改動,另含一處註釋修正。同一版本照例發布各平台二進位制,但 macOS Apple Silicon 的 KleidiAI 啟用版與 openEuler 建置均被標記為停用。
llama.cpp 發布 b11606,簡化後端搜尋路徑錯誤處理
llama.cpp 發布版本 b11606,主要改動是簡化 ggml 後端搜尋路徑的錯誤處理,由 Adrien Gallouët 提交。該版本同步提供 macOS、Linux、Windows、Android 及 openEuler 等多平台建置,涵蓋 Apple Silicon、CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL 等後端;