AISpot

搜尋

找到 2 筆;也可以試試 語意搜尋

機器之心● 精選AI 評分69

決策模型 Lev 用迴圈深度代替思維鏈,JevBench 準確率從 63.2% 升至 76.2%

Lev 讓決策模型通過多跑幾圈迴圈來「多想」,同一份權重可以在任意圈數作答:Lev-2.6B 在 JevBench 的 231 道公開題上一圈準確率為 63.2%,四圈升到 76.2%。一個輕量停止器逐題決定算幾圈,實際只用到最深一圈 76% 到 85% 的計算量,準確率損失不到 1 個百分點。在 50 毫秒以內的延遲區間,小號 Lev 比同樣延遲的 dense 模型和級聯高 5 到 8 個百分點。

llama.cpp releasesAI 評分25

llama.cpp 伺服器新增 /v1/systemone API,支援 laya、julia-1 等模型

llama.cpp 的 server 元件新增了 /v1/systemone API,支援 laya、julia-1、lev、openjev、kev 五個模型。該 PR 包含模型轉換、服務端程式碼、共享提示字首、視覺支援,並新增 openjev tiny 模型用於測試。建置覆蓋 macOS、Linux、Windows、Android 等平台,但明確不支援 date_facts。