llama.cpp 發布 b11887,調整上下文測試預設執行緒數
llama.cpp 發布 b11887,主要變更是調整 test-llama-context 的預設執行緒數(PR #31157)。同版本仍按慣例給出各平台預編譯產物:macOS Apple Silicon(arm64)、macOS Intel、Linux(CUDA 12、CUDA 13、ROCm 10.0、Vulkan、SYCL、OpenVINO)、Windows x64 與 arm64、Android arm64,以及 openEuler 昇騰 910b 的 ACL Gra…
原標題:b11887
閱讀原文
| 評分 | 30 / 35(平均 32,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b11860 修復大 n_batch 下的上下文測試
llama.cpp 發布 b11860 版本,唯一的程式碼變更是修復 test-llama-context 在大 n_batch 下的失敗(#31083)。該版本同時提供各平台預編譯包:macOS 有 Apple Silicon(其中 KleidiAI 版被停用)與 Intel 版,另有 iOS XCFramework;
llama.cpp 發布 b11392 建置,CI 預設權限調整
llama.cpp 發布 b11392 版本,主要變更是 CI 設定預設權限(#29945)。該版本提供覆蓋 macOS、iOS、Linux、Android、Windows 與 openEuler 的預編譯產物,包括 Apple Silicon arm64、CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL 等後端;
llama.cpp 把三項上下文狀態測試合併為單個二進位制 test-llama-context
llama.cpp 建置 b11596 將 test-save-load-state、test-recurrent-state-rollback、test-state-restore-fragmented 三項上下文狀態測試合併為單一二進位制 test-llama-context,一次執行覆蓋 130 多個模型。
llama.cpp 發布 b11867,重構伺服器入口
llama.cpp 發布建置版本 b11867,核心變更是重構 server 入口(#31113)。該版本繼續提供 macOS Apple Silicon、Ubuntu CUDA 12/13、ROCm 10.0、Vulkan、SYCL、Windows arm64 CUDA 等預編譯包,其中 macOS Apple Silicon 的 KleidiAI 版本與 openEuler 建置處於 DISABLED 狀態。
llama.cpp 發布 b11396 版本,Windows LLVM 建置需 Ninja 多配置
llama.cpp 發布 b11396 版本,主要變更是 Windows 平台的 LLVM 建置需要 Ninja 多配置(#29959)。該版本提供覆蓋 macOS、Linux、Windows、Android 和 openEuler 的預編譯產物,包括 Apple Silicon、CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端,其中 macOS Apple Silicon 的 KleidiAI 啟用版和 openEuler 被標記為…