2026 年 10 月 20 日，DeepSeek 以 Apache 2.0 協議開源了支撐其生產服務的推理框架 DeepInfer，目前僅支援 DeepSeek-V4.1-Flash 這一個模型。框架含 FlashMLA、DeepGEMM、DeepEP 等最佳化核心，Attention DP 與 MoE EP+EPL… 看完整事件
DeepSeek 開源生產推理棧 DeepInfer，單叢集日均 155 萬億 token
DeepSeek 開源生產推理棧 DeepInfer，用於支撐 V4.1 Flash，基於 vLLM 定製，支援投機解碼、結構化輸出與分散式推理，覆蓋 NVIDIA 與華為昇騰平台。官方披露單叢集日均處理 155 萬億 token、輸入快取命中率 96%、平均首 token 400ms、解碼 230 tokens/s（編碼場景 300 tokens/s）。按離線時段 38 美元/加速器小時計，推理毛利率超 80%，回本約 81 天。
少見地公開推理側生產賬本：單叢集日處理 155 萬億 token、超 80% 毛利與 81 天回本，並附 vLLM 可比基線，對自建或評估推理服務的團隊最有參考價值。
原標題：[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
閱讀原文
| 評分 | 87 / 88（平均 87，門檻 65） |
|---|---|
| 狀態 | 精選 |
相關報導
DeepSeek 發布 V4.1-Flash-1017，同步開放自研搜尋 API
DeepSeek 發布新模型 DeepSeek-V4.1-Flash-1017，網頁端、App 與 API 已同步切換。相比上一版 V4.1 Flash，程式碼與 Agent 任務等基準測試全面上漲，同時任務執行時間和輸出長度下降，官方稱其為效能—費用的帕累托改進；完整使用需把 DeepSeek Harness 升級至 0.2.1-rc.1 及以上，新使用者首次登入 Harness 可領 6 元贈金，7 天內有效、限量發放。