llama.cpp b12068 允許在 gpt-oss 最終頻道後使用約束型別
llama.cpp 發布 b12068 版本,chat 模組允許在 gpt-oss 的 final channel 之後使用約束型別(#31556),即 gpt-oss 對話格式的解析在進入最終頻道後仍可套用約束。
原標題:b12068
閱讀原文
| 評分 | 42 / 38(平均 40,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b11607 發布:chat 輸出改為 parts 結構
llama.cpp 發布 b11607 建置,主要變更是把 chat 的輸出由單個字串改為 parts 結構(PR #30389)。同版本更新了各平台預編譯產物,覆蓋 macOS/iOS、Linux、Windows、Android 與 openEuler,含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端,以及 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 支援。
llama.cpp 修復 Tekken 與 GPT-4o 分詞器正則
llama.cpp 發布 b11753 版本,主要變更是給 Tekken 與 GPT-4o 預分詞器正則的前瞻斷言加入 \p{M},用於正確處理附加符號類字元。該版本同時更新了覆蓋 macOS、iOS、Linux、Android、Windows 與 openEuler 的預編譯建置,包含 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL 以及驍龍 CPU/Adreno GPU/Hexagon NPU 等後端。
llama.cpp b11531 重構 chat API,同步更新多平台建置
llama.cpp 發布 b11531,主要變更是重構 chat API(#30210)。同步重新整理的預編譯產物覆蓋 macOS Apple Silicon、Ubuntu、Windows、Android 與 openEuler,包含 CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO,以及 Snapdragon 的 Adreno GPU 與 Hexagon NPU 版本。
llama.cpp b11812 為全部 Granite 模型記錄層輸入
llama.cpp 發布 b11812 建置,其中提交 #30957 為全部 Granite 模型記錄層輸入;該提交由 IBM 的 Gabe Goodhart 提交,位於 GraniteSpeculatorSupport 分支,並標註為全程 AI 輔助(Claude + Sonnet 5.5)。
llama.cpp 更新:ggml 符號預設改為 hidden
llama.cpp 發布 b11563 建置,其中 ggml 把符號預設可見性改為 hidden,避免一批內部符號通過 GGML_API 洩漏(#30014,討論見 #29997)。同批建置覆蓋 macOS/iOS、Linux、Windows、Android 與 openEuler,含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端。