OpenRouter 上線 Batch API,批次推理半價
OpenRouter 推出 Batch API,支援 70 多個模型,批次請求按每 token 正常價格約 50%(有時更低)計費。請求會在提交後 24 小時視窗內完成,beta 兩週內完成 23 萬多個批次,中位數 7 分鐘,90% 在一小時內。支援 chat completions、responses、messages 與 embeddings。
找到 6 筆
OpenRouter 推出 Batch API,支援 70 多個模型,批次請求按每 token 正常價格約 50%(有時更低)計費。請求會在提交後 24 小時視窗內完成,beta 兩週內完成 23 萬多個批次,中位數 7 分鐘,90% 在一小時內。支援 chat completions、responses、messages 與 embeddings。
OpenRouter 上線 Security Center,可在 Settings > Security 一處檢視所有工作區金鑰,並按風險批次停用、歸檔或加消費上限,單次最多 500 個。該功能所有套餐型別可用;IP allowlist 僅 Enterprise 組織管理員可用。官方自查 85 名員工有 1000 多個活躍金鑰,其中 168 個數月未用。
OpenRouter 上線 US In-Region Routing,配合去年 10 月的 EU 路由,把請求改發 us.openrouter.ai 或 eu.openrouter.ai 即可在美國或歐盟境內解密與推理。區域內無可用供應商時請求直接 404,不會外洩。該功能僅在 Business 與 Enterprise 方案提供。
OpenRouter 推出 openrouter:shell 伺服器工具和 Files API,任何模型都能在託管 Linux 容器裡執行命令、讀寫檔案,目前為 beta。沙箱按每秒 0.0001 美元計費,計入請求費用並包含 Files API 用量。容器空閒 5 分鐘後休眠。
OpenRouter 推出 Model Router Benchmarks 頁面,用多領域基準給各家模型路由器打質量、速度、成本分。頁面用 Router Index 把三項合成 0 到 10 分,預設權重質量 60%、單任務耗時 20%、成本 20%,可拖滑塊調整。列出的路由器都能在 OpenRouter 上直接替換模型試用。
該基準用七類挑戰性提示詞測試影像模型能力,覆蓋其提供的 39 個模型,結果以網格展示並可按價格和生成時間排序。