Ollama v0.35.0 新增決策模型介面,直接返回選擇與機率
Ollama v0.35.0 支援決策模型,經 /v1/systemone 呼叫,返回選擇、機率和分數而非文字。首批可用模型為 Bespoke Labs 的 Nimble 和 Together AI 的 Tev1。支援 choice、noul、score 三種問題型別,適用於工單分類、模型路由和內容分類。
你在 Mac Studio 上用 Ollama 跑本地模型時,這類介面能讓分類、路由任務直接拿到機率和置信度,不用再解析模型生成的文字;同版本還修復了 MLX 模型下載卡死的問題。
原標題:v0.35.0
閱讀原文
| 評分 | 74 / 78(平均 76,門檻 60) |
|---|---|
| 狀態 | 精選(舊聞,已歸檔) |