llama.cpp 修復 clang-cl 下 AVX512 BF16 編譯問題
llama.cpp 發布 b12038 版本，ggml 修復了 clang-cl 配合 AVX512 BF16 時的編譯錯誤：只在條件滿足時引入 immintrin.h，併為 clang-cl 補上顯式向量轉換。
原標題：b12038
閱讀原文
| 評分 | 35 / 42（平均 38，門檻 60） |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b11555 修復 AVX2 CPU 未啟用 F16C 的問題
llama.cpp 發布 b11555，修復了在支援 F16C 的 AVX2 CPU 上未啟用 F16C 的問題，可改善 x86 平台的 CPU 推理表現。同步更新的預編譯包覆蓋 macOS Apple Silicon、Windows 與 Linux 的 CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO，以及 Android、openEuler 等平台；
llama.cpp 修復 RDNA3/RDNA4 上 HIP bf16 WMMA 編譯失敗
llama.cpp 修復了 HIP 後端在 AMD RDNA3（gfx1150/1151）與 RDNA4（gfx1200/1201）上 bf16 WMMA 的編譯失敗。原因是 __builtin_amdgcn_wmma_f32_16x16x16_bf16_w32 等內建要求 A/B 運算元為 short 向量而非 __bf16，原先按 __bf16 宣告分片會直接報錯。
llama.cpp 為 x86 tinyBLAS 加入 BF16/FP16/FP32 K 尾部向量化
llama.cpp 的 ggml-cpu 後端在 x86 上為 tinyBLAS 增加了 BF16、FP16、FP32 的 K 尾部支援並做了向量化，同時讓 CPU 測試在啟用 use_ref 時跳過 tinyBLAS，以便與 vec_dot 路徑對比。改動以 PR #29806 合入，隨 b11398 建置發布，覆蓋 macOS、Linux、Windows、Android 等多平台 CPU 與 GPU 後端。
llama.cpp 建置 b11448：ggml-cuda 分塊處理大塊 BF16/FP16 轉 F32
llama.cpp 發布建置 b11448，ggml-cuda 後端把大塊 BF16/FP16 到 F32 的轉換改為分塊執行（#29442），並修正分塊 cuBLAS 矩陣乘法未遵循目標 stride 的問題，提交由 Johannes Gäßler 參與。改動僅涉及 CUDA 後端，影響用 NVIDIA GPU 做本地推理的場景；該建置同時覆蓋 macOS Apple Silicon 與 Linux、Windows 的 CUDA 12/13 等平台。
llama.cpp 發布 b11617，修復 Vulkan 編譯錯誤
llama.cpp 發布建置 b11617，唯一程式碼變更是修復 Vulkan 後端的編譯錯誤（#30495）。該版本照例提供跨平台預編譯產物，涵蓋 macOS Apple Silicon 與 Intel、iOS XCFramework，Ubuntu x64/arm64 的 CPU、Vulkan、CUDA 12.8/13.4、ROCm 10.0、OpenVINO、SYCL，以及 Windows 的 CPU、Vulkan、CUDA、OpenCL Adreno 等組合。