v0.40.4-rc1 為 MLX 加入 Kev 決策打分
v0.40.4-rc1 為 MLX 加入 Kev 決策打分(decision scoring)。這一候選版本支援按 FP32 決策頭與發布後設資料載入 Kev 模型,並提供 System One 打分,配套共享狀態快取與 Kev 專屬限制(PR #18976)。該標籤由 dhiltgen 於 10 月 13 日打上,commit 665f9e0 帶 GitHub 驗證簽名。
找到 5 筆
v0.40.4-rc1 為 MLX 加入 Kev 決策打分(decision scoring)。這一候選版本支援按 FP32 決策頭與發布後設資料載入 Kev 模型,並提供 System One 打分,配套共享狀態快取與 Kev 專屬限制(PR #18976)。該標籤由 dhiltgen 於 10 月 13 日打上,commit 665f9e0 帶 GitHub 驗證簽名。
llama.cpp 的 server 元件新增了 /v1/systemone API,支援 laya、julia-1、lev、openjev、kev 五個模型。該 PR 包含模型轉換、服務端程式碼、共享提示字首、視覺支援,並新增 openjev tiny 模型用於測試。建置覆蓋 macOS、Linux、Windows、Android 等平台,但明確不支援 date_facts。
llama.cpp 修復了 llama-server 在轉義特殊 token 時會被單個請求打崩的棧溢位問題。此前 d1-omni 與 kev 兩個 prompt 用 std::regex_replace 處理請求文字里的 "<|name|>",libstdc++ 會按名字的每個字元遞迴,輸入 "<|" 加 30000 個字母即可撐爆 HTTP 執行緒棧,程序以 SIGSEGV 退出。
Ollama v0.40.4 讓決策模型可以直接在終端呼叫:用 ollama run --ask 就能提出是非問題、把文字分類到標籤或按評分標準打分。這一版還讓 Apple silicon 的 MLX runner 支援 Kev 決策模型,ollama launch 用 usage credits 也能使用、無需升級付費方案。ollama launch codex 的模型選擇器會列出本地已安裝的 Ollama 模型,可在 Codex CLI 裡用 /model 切換;
有人讓 jev 1.13、kev、clef、clef flash、GPT-6 Luna 和 Laya 六款低延遲決策模型玩吃豆人對抗機器人鬼魂,每個模型各跑 100 局,並公布了排行榜。測試倉庫已開源,任何人都能接入自己的模型加入排名。這些模型通過其創業公司 opper 執行,一局成本約 2 美分,併為所有人提供免費試用額度。讀者也能自己扮演吃豆人、由模型當鬼魂,作者稱打破 jev 的高分出乎意料地難。