AISpot

openJiuwen 首發 X-Router 自演進模型路由,實測省 50%+ Token

量子位10/2 08:34新聞報導產品與方案開發工具地端推論開源

openJiuwen 首發 X-Router 自演進模型路由技術,按任務複雜度在本地與雲端模型池中動態選模型,實測減少 50%+ Token 消耗。該平台由華為 2012 實驗室、華為雲等團隊聯合高校與企業建置,主打昇騰親和,路由分三層:優於 1 分鐘重新整理的模型能力畫像、結合 KV 快取親和與即時負載的啟發式決策、用 Contextual Bandit 與輕量強化學習做反饋自演進,樣本不足時保留原判定。

他同時訂閱 ChatGPT、Claude、Grok 又準備在 Mac Studio 本地跑開源模型,這套「本地小模型做複雜度分類 + KV 快取親和與即時負載納入決策」的路由思路,正好對應他本地與雲端混合呼叫的場景,可直接借鑑來降低 coding agent 的 Token 成本…

原標題:openJiuwen X-Router自演进模型路由技术首发,昇腾亲和,Agent越跑越省,实测减少50+%Token消耗
閱讀原文

評分50 / 55(平均 52,門檻 65)
狀態未入選