2026 年 10 月 20 日,DeepSeek 開源了支撐其大規模生產服務的推理框架 DeepInfer。據 Hacker News 首頁條目,該框架以 Apache 2.0 協議發布,目前僅支援 DeepSeek-V4.1-Flash 一個模型,提供離線推理所需的核心能力。官方在 X 上表示,公開這套生產棧是為幫… 看完整事件
DeepSeek 介紹 DeepInfer 推理引擎,含分散式推理與投機解碼
DeepSeek 介紹 DeepInfer 推理引擎,包含高效能核心與最佳化推理引擎、分散式推理與投機解碼、SWA Bounded Replay 和結構化輸出。官方稱未來 DeepSeek 模型的推理程式碼及後續最佳化也將在此發布。帖文未給出效能資料、支援模型或上線時間。
DeepInfer 集中展示 DeepSeek 在高效能核心、分散式推理、投機解碼與結構化輸出上的推理棧,並明確將承接未來模型,對關注其部署和推理最佳化的人有參考價值。
原標題:@deepseek_ai: ⚡ Inside DeepInfer
閱讀原文
| 評分 | 62 / 58(平均 60,門檻 60) |
|---|---|
| 狀態 | 精選 |
相關報導
DeepSeek 發布 V4.1-Flash-1017,同步開放自研搜尋 API
DeepSeek 發布新模型 DeepSeek-V4.1-Flash-1017,網頁端、App 與 API 已同步切換。相比上一版 V4.1 Flash,程式碼與 Agent 任務等基準測試全面上漲,同時任務執行時間和輸出長度下降,官方稱其為效能—費用的帕累托改進;完整使用需把 DeepSeek Harness 升級至 0.2.1-rc.1 及以上,新使用者首次登入 Harness 可領 6 元贈金,7 天內有效、限量發放。
DeepSeek 推出 Search 與 Fetch API,每千次成功請求 0.75 美元
DeepSeek 上線 Search 與 Fetch 兩個工具 API,按每 1000 次成功請求 0.75 美元計費。Search 由其自研搜尋引擎驅動,返回標題、連結、長摘要與網頁正文,支援 site:、lang:、after: 等查詢運算子,單次最多 50 條結果,每條帶 0–3 的重排分與 0–4 的權威度分級;Fetch 把指定 URL 的網頁抓取為 Markdown。