所屬事件:llama.cpp 新增 /v1/systemone 端點,支援 Decision 模型(2 個來源 · 2 則報導)
2026 年 10 月 2 日,llama.cpp 作者 Georgi Gerganov(@ggerganov)宣布 llama.cpp 最新建置已支援 Decision 模型,並新增 /v1/systemone 端點,可在本地高效、私密地做 Jev 風格推理,支援多個開源模型,後續還會增加。同日發布的 b11361… 看完整事件
llama.cpp 上線 Decision 模型與 /v1/systemone 端點
llama.cpp 最新建置已支援 Decision 模型,新增 /v1/systemone 端點,可在本地高效、私密地做 Jev 風格推理。該端點支援多個開源模型,後續還會增加。
你正打算用 Mac Studio 跑本地開源模型,這條更新直接關係到 llama.cpp 的可用能力與端點用法。
原標題:@ggerganov: Decision models in llama.cpp are now available
閱讀原文
| 評分 | 82 / 82(平均 82,門檻 65) |
|---|---|
| 狀態 | 精選 |