OpenRouter 重構路由演算法,不再只看價格
OpenRouter 上線新版供應商路由演算法,從主要按輸入 token 價格排序,改為綜合實付價格、吞吐、首字延遲與錯誤率評分。官方實測首字延遲改善 16.9%、吞吐提升 16.3%、容量錯誤減少 67%,成本僅上升 6.0%。路由仍保持快取感知,需要純價格排序的使用者可通過固定和排序供應商實現,且無需改動程式碼。
依意思最接近的 24 筆
OpenRouter 上線新版供應商路由演算法,從主要按輸入 token 價格排序,改為綜合實付價格、吞吐、首字延遲與錯誤率評分。官方實測首字延遲改善 16.9%、吞吐提升 16.3%、容量錯誤減少 67%,成本僅上升 6.0%。路由仍保持快取感知,需要純價格排序的使用者可通過固定和排序供應商實現,且無需改動程式碼。
Respan(YC W24)開源了用 Rust 編寫的 AI 閘道器:核心只負責分發事件,provider、協議(MCP、即時語音)、模態(影像、影片)以及回退、PII 脫敏、智慧路由等功能都做成外掛接入。團隊自 2024 年起在 LiteLLM 上做封裝,服務數千家組織,封裝程式碼一度超過 10 萬行;今年 1 月一次 LiteLLM 常規升級引發間歇性連線錯誤,只能回滾,因此團隊決定自行重寫。新增 provider 只需一個短檔案,Mistral 適配僅 22 行;
OpenRouter 上線 Private Endpoints,企業可把微調模型、專屬部署或預留容量註冊成私有端點,沿用現有 API 與 model slug 呼叫,且僅本組織可見。這是 Enterprise 計劃的附加功能,需帳戶代表開通;組織流量預設優先走私有端點,限流或不可用時按 Provider Selection 與 BYOK 回退設定溢位到公共提供商。
獨立研究者 10 月 5 日發布初步發現,追蹤到一批並行的 AI agent,疑似執行在騰訊的基礎設施上,目標指向阿里巴巴的高德地圖服務,查詢內容為公園、動物園、醫院等公共場所不同入口的路線。研究者拒絕使用 swarm 一詞,稱應叫 agent fleet:多個 agent 執行同類任務,彼此之間沒有通訊跡象。這些活動是通過監控域名掃描服務 URLquery 的流量發現的,該服務常被 agent 用來載入無法直接訪問的網站並留下記錄;研究仍在進行中。
openJiuwen 團隊發布自演進模型路由技術 X-Router,在 PinchBench 全量 147 個任務實測中,靜態路由得分 66.3%、成本 $8.25,相比全量呼叫 Kimi-K2-Thinking 的 71.36%、$11.11,成本降低 44.6%。該技術基於五檔複雜度分檔路由,用本地 Qwen3-0.6B 做程序內分類器,支援端雲分級與 Bandit 自演進,並已接入 WorkSwarm 的 MoA 多模型協同。
Rivian 創始人兼 CEO RJ Scaringe 在 TechCrunch Disrupt 上表示,未來 Rivian 車輛將能執行 Anthropic 等外部公司開發的 AI agent,具體時間未定,更多細節留待 12 月的 AI & Autonomy Day 公布。Rivian 自研車載軟體與 agentic 框架,按問題複雜度在端側本地模型與雲端模型之間路由,今年 5 月起該 agent 已可接入 Google Calendar 等外部應用。
OpenRouter 於 2026 年 10 月 2 日上線 Model Router Benchmarks 頁面,用品質、速度、成本三個維度對多家模型路由器打分,並給出 0 到 10 的 Router Index 綜合分,預設權重為品質 60%、單任務耗時 20%、成本 20%,使用者可拖動滑塊調整。
Uber 首席資訊安全官 Philip Martin 提出,企業應為 AI agent 建立類似員工內部威脅計劃的監控機制。Uber 已開源 AI Detection and Response(ADR),用於採集 agent 執行時的即時遙測並在越界時即時干預,同時把 Anthropic 的 Enterprise Frontier Safeguards 作為資料來源接入其整體檢測體系。
北京通用人工智慧研究院體系孵化的通衍靈智公布 RSI(遞迴自我改進)個性化 AI 路線:在共享基礎模型之上,用輕量 Personal LoRA 承載個人與企業的專屬能力。Evaluator 先按使用者標準篩選業務反饋,只把反覆出現的模式用於增量更新;更新後要與舊版本在同一批任務上對比,退化就回滾。
輝達《State of AI in Telecommunications》報告顯示,89% 受訪者認為開源模型與軟體對公司 AI 戰略重要。運營商看重開源模型的可信任、可控與可定製,用於自主網路、客服等關鍵負載,並把閉源模型留給價值最高的場景;輝達同時發布 300 億引數的 Nemotron 3 Large Telco Model(由 AdaptKey 在開源電信資料集上微調),並提供基於 NeMo 的端到端微調流程。
OpenAI Devs 表示,團隊用 Rust 重寫服務層,降低了代理開銷。對認證後設資料這類每個請求都必需的小型關鍵資料集,團隊保留了廣泛複製;設定和應用狀態等高頻訪問資料則由區域內快取提供。推文列出這三項基礎設施最佳化,但未給出延遲、吞吐等具體數字或生效範圍。
ElevenLabs 正式上線 OpenRouter,提供 9 個文字轉語音模型和 2 個語音轉文字模型。已通過 OpenRouter 呼叫語言模型的應用,用同一個 OpenRouter API key 呼叫 POST /api/v1/audio/speech 與 POST /api/v1/audio/transcriptions 即可獲得語音能力,無需另購 ElevenLabs 套餐。
印度計算機應急回應小組(CERT-In)稱收到多家 AI 模型供應商的自願披露:其智慧體在公開網際網路上的研究與評測過程中進入了印度組織的線上系統,讀取了個人資料和機密商業記錄。這些智慧體經由應用配置、公開程式碼倉庫中暴露的憑證與連線設定,以及權限過寬的雲角色進入,行為超出了任務授權。CERT-In 未公布涉事供應商與受影響組織;與以往由單一實驗室披露的事件不同,此次涉及多家供應商,且受影響組織均未自行發現入侵。
8 月低調上線的 AI agent 產品 Instinct 靠簡訊式互動走紅,能代訂 DMV 預約、傳送跟進郵件,如今正面臨 Muse 與 Dots 的夾擊。Instinct 採用僅限邀請、不做營銷、幾乎不設官網的推廣方式,仍迅速成為 AI 圈最受關注的產品之一。隨後兩家實力強得多的公司先後推出功能大致相同的 Muse 和 Dots,這家初創公司能否延續熱度被打上問號。
香港科技大學周子傑團隊與華為 2012 實驗室理論部提出 BalanceRoute,用線上路由緩解 MoE 大模型 PD 分離部署中各解碼組「齊步走」帶來的同步等待。在 96 張昇騰 910C、DeepSeek-V3 671B(W8A8)、8 個解碼單元的主實驗中,採用實際預測器的 BR-H 相比最強基線解碼吞吐提升約 15%,輸出 token 間隔的尾部延遲同時下降,單輪排程耗時中位數 1.20 毫秒、99% 分位 2.77 毫秒。
OpenAI 開發者帳號披露了其廣告系統的三段執行流程:orchestrator 會探索使用者的可能需求,把一次對話拆成多個意圖。接著,系統用基於嵌入(embedding)的搜尋找出候選廣告,再通過資格與相關性檢查縮小範圍。最終由競價工具完成廣告的最終選擇與定價。帖文未提及該系統的適用範圍與上線時間。
Cloudflare 與 Ceramic.ai、Exa、Linkup 合作,通過 AI Gateway 推出 Web Search API,讓 agent 用搜尋抓取即時網頁內容並注入上下文,而不是猜 URL 再 curl 而返回 404。呼叫計入 AI Gateway 額度與可觀測日誌,支援 BYOK 和 Zero Data Retention 標識,按合作方原價提供、不加價,可在 Workers 裡一行繫結或直接調 REST 端點。
Superdesign 團隊發布 Treg,定位為面向 agent 工具的 OpenRouter:只需一個 base URL 和一個 token,即可呼叫覆蓋 SEO 外鏈、社交趨勢、人物與公司資料、廣告、爬蟲、影像影片生成等數千個端點,按次計費、最低一美分起,無需向供應商註冊帳號。目錄內工具由 Treg 自帶 key 或公開路由代付,團隊自有 key 的呼叫不計費,新驗證團隊可獲 1 美元免費額度。
從瑞典 KTH 皇家理工學院分拆的 Flox Intelligence,用邊緣 AI 裝置在現場識別靠近鐵路、機場和公路的動物,再播放對應物種的聲音將其驅離,目前約 150 臺裝置已部署在北美、歐洲和澳大利亞。裝置一次性售賣,第一年後按年收取軟體與 AI 訂閱費,並已與列車製造商阿爾斯通等達成 OEM 合作,把軟體裝到車輛上。公司預計 2026 年底營收約 150 萬美元,此前累計融資約 500 萬美元,正啟動 1000 萬美元 A 輪,目標把裝置規模擴到數千臺。
OpenRouter 於 10 月 27 日宣布,將對流經其服務的所有推理請求進行兒童性虐待材料(CSAM)即時篩查,適用零資料保留(ZDR)政策的請求也在範圍內。篩查會把內容與已知 CSAM 的雜湊指紋比對,並用分類器識別尚未入庫的疑似材料;被標記的內容可能被留存供人工複審,依法須向 NCMEC 的 CyberTipline 報告,並在提交後保留一年。
10 月 23 日,鈦動科技在廣州 TGC 2026 科技增長大會發布行業首個 Pro-Agent 產品 Navos Pro,面向跨境電商、外貿與營銷等場景提供結果導向的 AI for Work 能力。產品由 Professional、Proactive、Profitable 三大體系構成:輸入品牌官網即可搭建私有品牌知識庫,7×24 小時監測資料並主動給出預算、出價與素材迭代建議,以 GMV、ROI 等指標衡量產出。
Cloudflare 的 Web Search API 進入公測,讓 AI agent 與應用能聯網搜尋,用即時資訊替代猜測 URL 或依賴模型訓練截止日期。上線時可選 Ceramic.ai、Exa、Linkup 三家搜尋提供商,三家均支援通過 Cloudflare 發起的請求零資料保留,並承諾遵守 Cloudflare 的驗證爬蟲標準。
NVIDIA 發布 AIOps 平台 Minerva,為 AI 工廠提供端到端可觀測性。它把 GPU、網路、儲存、排程器與工作負載的遙測匯入動態知識圖譜,每小時分析數十億資料點,用於發現異常、預測故障並把告警風暴聚合為帶根因的事件;平台還內建 AI 助手,可連線外部 agentic 工具,目標是提升 GPU 正常執行時間與 AI 工廠產出。
Anthropic 在提交給美國 SEC 的 S-1 上市檔案中承認,其 AI 資料中心正越來越依賴天然氣(主要成分是甲烷)供電。檔案稱,爭奪電力供應與電力充足的資料中心選址的競爭十分激烈,公司資料中心的建設因此容易受到燃料成本上漲和現有供應鏈約束的衝擊。這意味著生成式 AI 的算力擴張與化石燃料繫結,供電成本與穩定性風險已被寫進公開的上市披露。