所屬事件:DeepSeek 開源推理框架 DeepInfer,僅支援 V4.1-Flash(2 個來源 · 5 則報導)
2026 年 10 月 20 日,DeepSeek 開源了支撐其大規模生產服務的推理框架 DeepInfer。據 Hacker News 首頁條目,該框架以 Apache 2.0 協議發布,目前僅支援 DeepSeek-V4.1-Flash 一個模型,提供離線推理所需的核心能力。官方在 X 上表示,公開這套生產棧是為幫… 看完整事件
DeepSeek 開源自研推理框架 DeepInfer
DeepSeek 已將自研推理框架 DeepInfer 完整開源。該框架在其生產環境中支撐 DeepSeek-V4.1-Flash 的大規模推理服務,主打高吞吐與低延遲。官方表示,公開這套生產環境所用的推理元件是為了幫社群降低算力成本、減少能耗,讓 AI 更可負擔。推文未給出具體效能數字,硬體支援與部署方式需檢視開源倉庫。
DeepSeek 把支撐 V4.1-Flash 線上服務的推理框架開源,為關注自建推理、降本與能耗的開源模型部署者和 API 服務方提供了可直接參考的生產級實現。
原標題:@deepseek_ai: 🚀 Introducing DeepInfer, our in-house inference framework, now fully open source!
閱讀原文
| 評分 | 82 / 82(平均 82,門檻 60) |
|---|---|
| 狀態 | 精選 |
相關報導
量子位● 精選AI 評分92
DeepSeek 發布 V4.1-Flash-1017,同步開放自研搜尋 API
DeepSeek 發布新模型 DeepSeek-V4.1-Flash-1017,網頁端、App 與 API 已同步切換。相比上一版 V4.1 Flash,程式碼與 Agent 任務等基準測試全面上漲,同時任務執行時間和輸出長度下降,官方稱其為效能—費用的帕累托改進;完整使用需把 DeepSeek Harness 升級至 0.2.1-rc.1 及以上,新使用者首次登入 Harness 可領 6 元贈金,7 天內有效、限量發放。