2026 年 10 月 25 日,llama.cpp 接連發布 b11871 與 b11882 兩個建置,修補請求解析中的遞迴棧溢位問題。b11871 在遞迴遍歷請求 JSON 之前先檢查巢狀深度,超過 128 層直接返回 400,避免請求導致 HTTP 執行緒棧溢位、讓 llama-server 崩潰;據發布說明,s… 看完整事件
llama.cpp b11882 限制語法遞迴深度以防棧溢位
llama.cpp 發布 b11882 建置,核心修復是為語法解析的遞迴深度設上限,防止棧溢位(#29495、#29755)。同時更新了各平台預編譯包:macOS Apple Silicon、iOS XCFramework、Windows 與 Linux 的 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL 等;
原標題:b11882
閱讀原文
| 評分 | 40 / 42(平均 41,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp 發布 b11465,覆蓋 CUDA 13 與 ROCm 10.0 等平台
llama.cpp 發布建置版本 b11465,本次改動是「測試:在測試遞迴回滾時保留 anchor」(#29923)。該版本提供的預編譯產物覆蓋 macOS/iOS、Linux、Android、Windows 與 openEuler,其中 Windows 與 Linux 的 x64/arm64 均包含 CUDA 12、CUDA 13(CUDA 13.4 庫)、Vulkan、ROCm 10.0、OpenVINO、SYCL 等後端。
llama.cpp 修復特殊 token 轉義導致的 server 崩潰
llama.cpp 修復了 llama-server 在轉義特殊 token 時會被單個請求打崩的棧溢位問題。此前 d1-omni 與 kev 兩個 prompt 用 std::regex_replace 處理請求文字里的 "<|name|>",libstdc++ 會按名字的每個字元遞迴,輸入 "<|" 加 30000 個字母即可撐爆 HTTP 執行緒棧,程序以 SIGSEGV 退出。
llama.cpp b11539 應用上游深層巢狀 JSON 補丁
llama.cpp 發布 b11539 建置,唯一程式碼改動是應用來自上游的深層巢狀 JSON 補丁(#30253)。各平台預編譯包照常提供,覆蓋 macOS/iOS、Ubuntu(CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL)、Android、Windows 以及 openEuler。其中 macOS Apple Silicon 的 KleidiAI 啟用版和 openEuler 建置本次被標記為 DISABLED。
llama.cpp b11538 修復 MSVC 下 CUDA 舍入問題
llama.cpp 發布 b11538 建置,修復 CUDA 後端的舍入問題,使 MSVC 下 CPU 與 GPU 的計算結果一致。本次發布包覆蓋 macOS/iOS、Linux、Windows、Android 與 openEuler,其中 CUDA 12/13 預編譯包分別對應 CUDA 12.8 與 13.4 庫,Linux 與 Windows x64 另有 ROCm 10.0、OpenVINO、SYCL、Vulkan 建置,Snapdragon 平台提供 CPU、Adr…
llama.cpp b11732 修復 CUDA 編譯警告,附各平台預編譯包
llama.cpp 發布 b11732 建置,本次唯一的程式碼改動是修掉 CUDA 後端多餘分號引發的編譯警告(#30774)。預編譯包覆蓋 macOS/iOS、Linux、Windows、Android 與 openEuler,後端包含 CUDA 12.8/13.4、ROCm 10.0、Vulkan、SYCL、OpenVINO,以及 Snapdragon 上的 Adreno GPU 與 Hexagon NPU,Windows arm64 也提供 CUDA 13 版本。