2026 年 10 月 20 日,DeepSeek 以 Apache 2.0 開源了支撐其生產服務的推理框架 DeepInfer,當前僅支援 DeepSeek-V4.1-Flash,同時開源對齊官方 API 處理邏輯的編解碼元件 deepseek-recipe。倉庫顯示,其包含 FlashMLA、DeepGEMM、De… 看完整事件
DeepSeek 開源推理框架 DeepInfer,單卡每小時收入 38 美元
DeepSeek 以 Apache 2.0 開源內部推理框架 DeepInfer 及配套編解碼元件 deepseek-recipe,當前支援 DeepSeek-V4.1-Flash。官方披露單叢集每天吞吐 155 萬億 token,按 API 谷價摺合每卡每小時 38 美元收入,有人以每張 B300 每小時 7 美元租金估算毛利率約 82%。
首次把大模型推理的成本與吞吐擺上檯面:每卡每小時 38 美元收入、82% 毛利估算,外加可自行部署的官方推理框架,對做部署和評估 API 成本的人都有參考價值。
原標題:DeepSeek开源推理框架,有人算出AI的毛利:82%
閱讀原文
| 評分 | 86 / 87(平均 86,門檻 65) |
|---|---|
| 狀態 | 精選 |
相關報導
DeepSeek 推出 Search 與 Fetch API,每千次成功請求 0.75 美元
DeepSeek 上線 Search 與 Fetch 兩個工具 API,按每 1000 次成功請求 0.75 美元計費。Search 由其自研搜尋引擎驅動,返回標題、連結、長摘要與網頁正文,支援 site:、lang:、after: 等查詢運算子,單次最多 50 條結果,每條帶 0–3 的重排分與 0–4 的權威度分級;Fetch 把指定 URL 的網頁抓取為 Markdown。
DeepSeek 上線 V4.1-Flash-1017,引數量升至 763B
DeepSeek 於 10 月 17 日把 V4.1 Flash 升級為 V4.1-Flash-1017,網頁端、App 與 API 同步切換,API 呼叫方式不變。新模型引數量 763B,高於 V4.1F 的 552B;Terminal-Bench 4.0 從 31.2 升至 42.3,max 檔每任務平均費用從約 3.3 元降至約 1.3 元,API 單價保持不變,權重以 MIT 許可在 Hugging Face 與 ModelScope 開放下載。