llama.cpp b11720:ggml 非連續 SUM 支援 CPU/CUDA/Vulkan/WebGPU
llama.cpp 發布 b11720,ggml 的 SUM 運算新增非連續(non-contiguous)張量檢視支援,覆蓋 CPU、CUDA、Vulkan 與 WebGPU 四種後端,並補充了非連續檢視的測試用例。
原標題:b11720
閱讀原文
| 評分 | 45 / 45(平均 45,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp 修復 ggml CLAMP 非連續檢視定址錯誤
ggml 修復了 CLAMP 運算元在非連續檢視上的定址錯誤,涉及 CPU 與 CUDA 後端。CUDA 此前按 ggml_nelements 做平坦處理、忽略檢視 stride,CPU 則把第 j 行按 j*nb01 定址、忽略 nb02/nb03;現在兩者都改為遵循 dims 1..3 的 stride,且 CUDA 的 supports_op 要求行連續,與 Metal 一致。
llama.cpp b11581 移除多餘的 ggml_cont 呼叫
llama.cpp 發布建置 b11581,主要改動是刪除模型實現中多餘的 ggml_cont 呼叫,官方稱所有 unary kernel 現在都已支援這種用法,CUDA unary kernel 也已跟進。同一批提交修正了 qwen3next:在用於廣播乘法的 sigmoid 前後恢復 cont_2d 張量連續性,並清理 dflash 的 cont。
llama.cpp b11499 發布,CUDA 的 ROLL 運算支援非連續張量
llama.cpp 發布 b11499 建置,CUDA 後端改用位元組步長實現 roll,使 ROLL 運算可以作用於非連續張量(#29547)。該版本照例提供各平台預編譯產物:macOS Apple Silicon 與 Intel、iOS XCFramework,以及 Linux、Windows、Android 的 CPU、Vulkan、CUDA 12/CUDA 13、ROCm 10.0、OpenVINO、SYCL 建置,其中 CUDA 12 與 13 分別打包 12.8、1…
llama.cpp 建置 b11448:ggml-cuda 分塊處理大塊 BF16/FP16 轉 F32
llama.cpp 發布建置 b11448,ggml-cuda 後端把大塊 BF16/FP16 到 F32 的轉換改為分塊執行(#29442),並修正分塊 cuBLAS 矩陣乘法未遵循目標 stride 的問題,提交由 Johannes Gäßler 參與。改動僅涉及 CUDA 後端,影響用 NVIDIA GPU 做本地推理的場景;該建置同時覆蓋 macOS Apple Silicon 與 Linux、Windows 的 CUDA 12/13 等平台。
llama.cpp 更新:ggml 符號預設改為 hidden
llama.cpp 發布 b11563 建置,其中 ggml 把符號預設可見性改為 hidden,避免一批內部符號通過 GGML_API 洩漏(#30014,討論見 #29997)。同批建置覆蓋 macOS/iOS、Linux、Windows、Android 與 openEuler,含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端。