AISpot

搜尋

找到 6 筆

量子位● 精選AI 評分65

openJiuwen X-Router 首發,實測減少 50%+ Token 消耗

openJiuwen 團隊發布自演進模型路由技術 X-Router,在 PinchBench 全量 147 個任務實測中,靜態路由得分 66.3%、成本 $8.25,相比全量呼叫 Kimi-K2-Thinking 的 71.36%、$11.11,成本降低 44.6%。該技術基於五檔複雜度分檔路由,用本地 Qwen3-0.6B 做程序內分類器,支援端雲分級與 Bandit 自演進,並已接入 WorkSwarm 的 MoA 多模型協同。

llama.cpp releasesAI 評分42

llama.cpp 修復 router 日誌與命令混流並啟用 Windows 控制台 ANSI 顏色

llama.cpp 發布 b11401 建置,修復 router 模式下子程序狀態命令與日誌共用同一管道導致命令被漏讀的問題,改為子程序 stdout 專用於命令、其餘輸出重定向到 stderr。日誌顏色重置位置調整到換行符之前,使每行顏色自包含,避免汙染下一條命令。Windows 控制台現在會在開啟顏色時啟用虛擬終端模式,無法渲染 ANSI 的終端則保持關閉顏色。

llama.cpp releasesAI 評分45

b11536: ui: Models Manager Follow-up Improvements (#30228)

llama.cpp 新版本 b11536 讓 server 的 GET /models 直接返回每個模型的訓練上下文長度(context_length),資料取自 GGUF 後設資料,無需載入模型或請求 Hugging Face Hub。新增的 common_get_gguf_n_ctx_train 只讀後設資料、相容 u32 與 u64,檔案缺失或無效時返回 0,router 列表因此可離線攜帶該欄位。