AISpot

Ollama v0.35.0 新增決策模型介面,直接返回選擇與機率

Ollama releases9/30 00:56版本更新地端推論開發工具產品與方案

Ollama v0.35.0 支援決策模型,經 /v1/systemone 呼叫,返回選擇、機率和分數而非文字。首批可用模型為 Bespoke Labs 的 Nimble 和 Together AI 的 Tev1。支援 choice、noul、score 三種問題型別,適用於工單分類、模型路由和內容分類。

你在 Mac Studio 上用 Ollama 跑本地模型時,這類介面能讓分類、路由任務直接拿到機率和置信度,不用再解析模型生成的文字;同版本還修復了 MLX 模型下載卡死的問題。

原標題:v0.35.0
閱讀原文

評分74 / 78(平均 76,門檻 60)
狀態精選(舊聞,已歸檔)