2026 年 11 月 4 日至 5 日，llama.cpp 連續發布 b12119 與 b12137 兩個建置，集中修復 server 端 realtime（WebSocket）介面的崩潰問題：遇到異常時不再讓程序崩潰，而是改為向客戶端返回 error 事件。b12119 中，realtime 介面丟擲的異常改為以… 看完整事件
llama.cpp b12137 修復即時會話更新導致伺服器崩潰
llama.cpp 發布 b12137 建置，服務端現在會拒絕非物件的 session 更新（#31714），避免格式錯誤的即時會話更新丟擲未捕獲異常並終止伺服器。
原標題：b12137
閱讀原文
| 評分 | 42 / 40（平均 41，門檻 60） |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp 服務端新增 /v1/realtime 即時對話與轉寫
llama.cpp 服務端在 /v1/realtime 介面上新增即時對話與語音轉寫能力。範例客戶端預設改為連線伺服器埠 9931，並改用模型卡中的 prompt。此次還修正了多 slot 併發取樣：此前在同一步驟開頭取樣會讀到最後一個解碼 slot 的 logits，導致併發會話輸出互相混淆，現在改為每個 slot 在自身解碼後立即取樣；
llama.cpp 發布 b11867，重構伺服器入口
llama.cpp 發布建置版本 b11867，核心變更是重構 server 入口（#31113）。該版本繼續提供 macOS Apple Silicon、Ubuntu CUDA 12/13、ROCm 10.0、Vulkan、SYCL、Windows arm64 CUDA 等預編譯包，其中 macOS Apple Silicon 的 KleidiAI 版本與 openEuler 建置處於 DISABLED 狀態。
llama.cpp server 拒絕部分媒體截斷
llama.cpp 發布 b11415，其 server 端現在會拒絕部分媒體截斷（partial media truncation）的請求。此次提交只保留 keep_first 修復，去掉了 mtmd 測試輔助改動——clip_image_f32_batch 改為按值儲存條目後該改動已無法編譯；同時刪除視覺測試，因為沒有測試夾具能在複用快取的情況下切到兩個相鄰媒體塊之間，該測試與修復本身無關。
llama.cpp b11531 重構 chat API，同步更新多平台建置
llama.cpp 發布 b11531，主要變更是重構 chat API（#30210）。同步重新整理的預編譯產物覆蓋 macOS Apple Silicon、Ubuntu、Windows、Android 與 openEuler，包含 CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO，以及 Snapdragon 的 Adreno GPU 與 Hexagon NPU 版本。
llama.cpp 修復截斷後溫度大於 0 時 n-gram 草稿被拒的問題
llama.cpp 發布 b11387 版本，修復了在截斷後溫度大於 0 時 n-gram 草稿被拒絕的問題（PR #29924），由 NVIDIA 的 Pranesh Gonegandla 參與提交。