llama.cpp b12084 為 LFM3 投機解碼記錄層輸入
llama.cpp 發布建置 b12084,唯一實質改動是在 LFM3 的投機解碼中記錄層輸入(#31598)。發布頁其餘內容是各平台預編譯產物的例行更新,覆蓋 macOS Apple Silicon 與 Intel、iOS XCFramework、Linux 的 CPU/Vulkan/CUDA 12 與 13/ROCm 10.0/OpenVINO/SYCL,以及 Android 和 Windows x64、arm64。
原標題:b12084
閱讀原文
| 評分 | 38 / 42(平均 40,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b12088 為 LFM3 GGUF 模型啟用 NVFP4 支援
llama.cpp 發布 b12088 版本,在模型側為 LFM3 的 GGUF 模型啟用 NVFP4 支援。同批預編譯包覆蓋 macOS Apple Silicon、iOS、Windows、Android,以及 Linux 上的 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL 後端;Snapdragon 版本提供 CPU、Adreno GPU、Hexagon NPU 三條路徑。
llama.cpp 發布 b12024,LFM 多模態改用 2D 張量重塑
llama.cpp 發布建置 b12024,主要程式碼改動是把 LFM 多模態(mm)的重塑操作改為在 2D 而非 3D 張量上進行。其餘為該版本的多平台建置產物清單:macOS Apple Silicon 與 Intel、iOS XCFramework、Linux(CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO、s390x)、Android、Windows 及 openEuler。
llama.cpp b12063 發布:dflash 改用裝置複製複製隱藏特性
llama.cpp 發布建置 b12063,更新日誌中列出的唯一程式碼變更是 dflash:通過裝置複製複製隱藏特性(#31506)。該建置繼續提供 macOS Apple Silicon/Intel、iOS、Linux、Android、Windows 與 openEuler 的預編譯包,Linux 與 Windows 側覆蓋 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL 等後端,Snapdragon 平台另有 CPU、Adreno GPU…
llama.cpp 發布 b11898,修復 ARM 架構未使用變數告警
llama.cpp 發布建置 b11898,主要變更是修復 ARM 架構下未使用變數的編譯告警(#31180),這一提交屬於編譯層清理,不涉及推理邏輯。同版本中,macOS Apple Silicon 的 KleidiAI 加速版預編譯包被標記為 DISABLED,openEuler 建置也一併停用。CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO、Windows arm64 與 Android 等平台的預編譯包仍照常發布。
llama.cpp 發布 b11867,重構伺服器入口
llama.cpp 發布建置版本 b11867,核心變更是重構 server 入口(#31113)。該版本繼續提供 macOS Apple Silicon、Ubuntu CUDA 12/13、ROCm 10.0、Vulkan、SYCL、Windows arm64 CUDA 等預編譯包,其中 macOS Apple Silicon 的 KleidiAI 版本與 openEuler 建置處於 DISABLED 狀態。