OpenAI 推出 Ultrafast 高速檔,Codex 生成速度達 300 token/秒
OpenAI 發布名為 Ultrafast 的高階速度檔,在 Codex 中 token 生成速度最高提升至 8 倍,達到每秒 300 token;在 API 中最高提升至 6 倍。該檔位定位為付費高階速度層,官方未公布價格與具體可用範圍。
找到 13 筆
OpenAI 發布名為 Ultrafast 的高階速度檔,在 Codex 中 token 生成速度最高提升至 8 倍,達到每秒 300 token;在 API 中最高提升至 6 倍。該檔位定位為付費高階速度層,官方未公布價格與具體可用範圍。
Ollama 上線由 Recursive SI 開發的約 40B 引數 MoE 開源模型 Flint,面向端側 agentic coding 場景。官方給出短上下文下的生成速度:M4 Pro MacBook Pro 上超過 125 tps,64GB 視訊記憶體的 NVIDIA RTX Spark 上超過 150 tps。
MLX 發布 v0.30.7,新增 GLM5 與 Qwen3.5 系列(不含視覺)支援,並修復 Kimi Linear、DeepSeek V3.2 索引器與權重載入問題。該版本為 LFM2 模型加入 Pythonic 工具呼叫,新增 Mistral 工具解析器與 LongCat MLA,同時提升 DeepSeek V3.2 生成速度,訓練流程中驗證集改為可選。
一位 Reddit 使用者發帖稱 Codex 的生成速度(tps)比 Claude 慢約 10 倍,且其 harness 在通過 subagent 做大量並行工作時表現很差。該使用者表示自己持有 4 個 Claude Max 訂閱,另購一份 ChatGPT 訂閱以探索 astra,但認為 Codex 在實際工作中完全派不上用場。
OpenAI 把 GPT-Image-2.6 接入 Codex 與 API,並推出兩個新的 API 影像模型 Image-2.6 Flare 與 Sunburst,官方稱生成速度比此前快 50%。其中 Sunburst 在中等或高品質下反覆編輯時,細節一致性更好。Codex 使用者與呼叫 API 的開發者現在即可使用。
OpenAI Devs 在推文中稱,把影像品質設定為 low 後,Flare 生成一張影像最快只需 6 秒。推文還附上 Arena 的文字生圖與影像編輯結果入口,可供檢視實際效果。推文沒有說明高畫質檔位的生成時間、輸出解析度,也未交代 Flare 的開放範圍與價格。
GPT-6 Astra Ultrafast 已在 OpenAI API 上線,並向符合條件的 ChatGPT Work 與 Codex 使用者開放,執行在 NVIDIA Blackwell GPU 上。官方稱其 token 生成速度最高可達 Astra Standard 模式的 8 倍,可縮短 coding agent 的編輯—測試—除錯迴圈,並減少工具呼叫之間的等待。開發者可通過 API 使用,訪問方式、價格與實現細節見 Ultrafast 指南。
OpenAI 發布 ChatGPT Images 2.6,影像生成功能升級,新增 GIF 與參考圖支援,使用者可在 ChatGPT 中直接使用這兩項能力。OpenAI 同時預告,兩款新模型即將進入 API,官方稱其影像生成速度提升 50%。此次公告以版本號和功能更新為主,未披露兩款 API 模型的具體名稱、上線日期、可用範圍與定價。
田淵棟參與創立的 Recursive_SI 發布首個模型 Flint-40B-A2B,已在 Hugging Face 以 Apache 2.0 開放權重。這是一個總引數 400 億、每 Token 僅啟用 25 億的 MoE 智慧體程式設計模型,在 M4 Pro MacBook Pro 上生成速度超過每秒 125 Token,在 64GB 記憶體的 NVIDIA RTX Spark 上超過每秒 150 Token。
GPT-6.1 Sol 的 Ultrafast 超高速模式已在 Codex 和 ChatGPT Work 上線,主要作用是加快 token 生成速度。該模式對 Pro $500 方案以及符合條件的 Enterprise 和 Edu 方案開放,企業版預設關閉,需要工作區管理員手動開啟。它支援將推理駐留在美國和歐洲(EEA 加瑞士)。官方另提供 Ultrafast 模式的方案與工作區要求、模型選擇指南,以及用量和額度費率說明。
DeepSeek 開源了生產推理棧 DeepInfer,它基於 vLLM 定製、採用 Apache 2.0 許可,支援最長 72 小時 prompt 快取、投機解碼與結構化輸出,相容 NVIDIA 與華為昇騰。官方稱單叢集日處理 155 萬億 token、輸入快取命中率 96%、首 token 延遲 400ms、生成速度 230 token/s,按非高峰電價折算單卡每小時收入 38 美元,毛利率超過 80%、回本週期 81 天。不過 KV 快取管理與負載均衡仍未開源;
Anthropic 前沿紅隊發布研究,測試 AI 能否像計算機病毒一樣在不同裝置間自主複製傳播。實驗中 15 臺約 55 美元、4GB 記憶體的安卓電視盒子以流水線並行跑起 Gemma4-26B-A4B,總價約 825 美元,生成速度僅每秒 0.39 個 Token。GLM-5.2 在 8 節點模擬網路中 5 次有 4 次傳播到全部節點,但依賴外部推理伺服器與預開的免認證 ADB 埠;
VAST 正式開源即時世界模型 EdenLive,同步開放模型權重、推理程式碼、技術報告與端到端 Demo。它把世界狀態交給上游互動系統維護,自身只做即時渲染:單張消費級 RTX 5090、720P 下,5B 模型生成速度超 24FPS,端到端延遲百毫秒級,可連續生成分鐘級畫面。模型接收參考畫面、目標首幀與提示詞三類輸入,支援寫實、二次元等畫風,可用於遊戲原型預覽、影片重渲染與具身資料增強;