AISpot

搜尋

找到 2 筆;也可以試試 語意搜尋

機器之心● 精選AI 評分79

蘋果與 CMU 提出 SSR:Agent 推理改為做選擇題,每輪延遲降超 90%

蘋果與卡內基梅隆大學提出 SSR 框架,讓多模態搜尋 Agent 不再逐 token 生成自由形式推理,而是從 6 條預定義推理選項中做選擇題。在 7 個多模態搜尋 benchmark 上,每輪推理延遲降低超過 90%,每題總推理延遲降低 28–54%,p95 推理延遲僅 0.07 秒;4B 模型平均成功率 61.37%,與同規模 SOTA 持平,2B 達 51.26%。推理選擇由模型自身打分完成,不需要額外分類頭,也可跳過 SFT warm start 直接接 RL 訓練。

OpenRouter announcements● 精選AI 評分77

OpenRouter 重構路由演算法,不再只看價格

OpenRouter 上線新版供應商路由演算法,從主要按輸入 token 價格排序,改為綜合實付價格、吞吐、首字延遲與錯誤率評分。官方實測首字延遲改善 16.9%、吞吐提升 16.3%、容量錯誤減少 67%,成本僅上升 6.0%。路由仍保持快取感知,需要純價格排序的使用者可通過固定和排序供應商實現,且無需改動程式碼。