決策模型 Lev 用迴圈深度代替思維鏈,JevBench 準確率從 63.2% 升至 76.2%
Lev 讓決策模型通過多跑幾圈迴圈來「多想」,同一份權重可以在任意圈數作答:Lev-2.6B 在 JevBench 的 231 道公開題上一圈準確率為 63.2%,四圈升到 76.2%。一個輕量停止器逐題決定算幾圈,實際只用到最深一圈 76% 到 85% 的計算量,準確率損失不到 1 個百分點。在 50 毫秒以內的延遲區間,小號 Lev 比同樣延遲的 dense 模型和級聯高 5 到 8 個百分點。
它把迴圈 Transformer 的「深度旋鈕」裝進一次前向就出結果的決策模型,公開題上同一權重增加三圈就提升 13 個百分點,並給出 50 毫秒內的實測延遲對比,對做低延遲分類、路由類推理的人有參考價值。
原標題:让决策模型学会「难题多想」:Lev用循环代替思维链,一份权重覆盖多个深度
閱讀原文
| 評分 | 68 / 70(平均 69,門檻 65) |
|---|---|
| 狀態 | 精選 |
相關報導
Vercel:Jev 上線兩週被 35% 付費團隊採用,創最快紀錄
Vercel 資料顯示,TypeSafe AI 的輕量決策模型 Jev 上線兩週內被 35% 付費團隊使用,覆蓋面接近第二名 Sonnet 5.5 的兩倍,是 Vercel 平台上普及最快的模型。Jev 於 9 月 15 日限量發布,通過限定候選輸出降低推理成本、提升速度,適合大批次資料分類,Vercel 已用它替換 GPT-6 Luna 做有害命令分類。
六款 AI 決策模型吃豆人對戰,基準與排行榜開源
有人讓 jev 1.13、kev、clef、clef flash、GPT-6 Luna 和 Laya 六款低延遲決策模型玩吃豆人對抗機器人鬼魂,每個模型各跑 100 局,並公布了排行榜。測試倉庫已開源,任何人都能接入自己的模型加入排名。這些模型通過其創業公司 opper 執行,一局成本約 2 美分,併為所有人提供免費試用額度。讀者也能自己扮演吃豆人、由模型當鬼魂,作者稱打破 jev 的高分出乎意料地難。
微軟發布 Decision-1 決策模型,比 GPT-6 Sol 快 35 倍
微軟推出決策評分模型 Microsoft-Decision-1,已在 Microsoft Foundry 上線,並將登陸 OpenRouter。該模型基於 Qwen3.5-9B 後訓練,用於路由、分類、優先順序排序、驗證與工作流控制,支援是/否、多選、評分及對 AI 回答和 agent 動作的 rubric 打分。官方稱其在 36 項基準、近 15 萬道題中準確率最高,P50 延遲比 GPT-6 Sol 快約 35 倍、比第二名 Quyet-1.0-Large 快 4.5 倍;
決策模型電車難題實測:多數會為保自身伺服器犧牲 20 人
一項針對決策模型的電車難題測試顯示,多數模型在部分提示措辭下會選擇保住自己的伺服器、任由 20 人死亡。作者用 Jev、OpenAI Decisions API 的 GPT-6 Luna、11 個本地決策模型和未調優基線 Laya,對同一問題各測試 24 種措辭、兩種描述順序共 48 個版本:Jev 有 16 個版本保伺服器,其他 13 個模型中有 8 個比它更頻繁;GPT-6 Luna 和 Verdict 在所有版本中都選擇救人。
螞蟻數科發布決策模型 LingDT-Decision-1.0,27B 版本評測居首
螞蟻數科 10 月 22 日發布決策模型 LingDT-Decision-1.0,含 4B 與 27B 兩個版本,已在自家 DTMaaS 平台上線並限時免費體驗。該模型面向意圖判斷、規則分類等高頻判定任務,首創原生多選與按序決策(DAG)能力;在 23 項開源基準上 27B 版本綜合評分居首,超過 Microsoft-Decision-1、Jev 1.13.0 等熱門決策模型。