llama.cpp 修復 server 崩潰：限制 n_batch 不超過 n_ubatch
llama.cpp 合併 PR #29903，通過把 n_batch 限制在 n_ubatch 以內，修復了 server 的 laya abort 崩潰（#29902）。該修復由 Claude 輔助完成，並移除了相關測試與 embeddings 條件。
你準備用 Mac Studio 跑本地模型，這個修復直接關係到 llama.cpp server 在 Apple Silicon 上的穩定性，升級後能避免 n_batch 配置不當導致的崩潰。
原標題：b11379
閱讀原文
| 評分 | 62 / 45（平均 53，門檻 60） |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp 修復圖重分配導致的排程中止
llama.cpp 合併 PR #29856，把 build_rs 中分散的 get_rows 合併為一次收集全部 n_rs 個 recurrent states，使預留空間按 n_rs 最大值計算，避免 ubatch 單元不連續時在節點數不變的情況下觸發圖重分配、進而在 GGML_SCHED_NO_REALLOC 下中止。
llama.cpp 修復 qkx3 量化縮放搜尋的非法舍入
llama.cpp 合併 PR #29817，在 qkx3 量化級別送入 nearest_int 前先鉗制到 [0, nmax]，避免 imatrix 縮放搜尋產生無窮、NaN 或越界值時觸發 Debug 建置斷言。該問題由 #29804 報告，修復同時為 q2_K、q4_K、q5_K、q4_1、q5_1 的退化 imatrix 分組補充迴歸測試。合法範圍內的取值行為不變，macOS Apple Silicon（arm64）等預編譯包已隨本次發布更新。
llama.cpp 新 PR 將 Qwen 索引器視訊記憶體減半
llama.cpp 的 PR #29825 把 Qwen Flash Next 的 indexer score 視訊記憶體佔用減半，例如 131072 上下文、ub 2048 時從 3.0 GiB 降到 1.5 GiB，262144 上下文、ub 4096 時從 11.7 GiB 降到 5.6 GiB。作者稱 logits 完全一致，僅分數因 fp32 舍入有差異，pp/tg 速度不變，test-llama-archs 通過。
llama.cpp 新增 nimble 決策模型支援
llama.cpp 合併 PR #29844，新增對 nimble 決策模型的支援。該版本覆蓋 macOS Apple Silicon（arm64）、Ubuntu、Windows、Android 等多平台建置，其中 macOS Apple Silicon 的 KleidiAI 加速版本被標記為 DISABLED。官方發布頁為 llama.app，建置證明見 GitHub attestations。
llama.cpp 新增 /v1/systemone API，支援 laya 等 5 個模型
llama.cpp 發布 b11361，在 server 中新增 /v1/systemone API，支援 laya、julia-1、lev、openjev、kev 五個模型，並附帶模型轉換指令碼。該版本加入了共享 prompt 字首與視覺輸入支援，新增用於測試的小模型 openjev tiny，文件中明確說明不支援 date_facts。macOS Apple Silicon（arm64）建置正常，但啟用 KleidiAI 的 arm64 版本被標記為 DISABLED；