機器之心● 精選AI 評分86
DeepSeek 開源推理框架 DeepInfer，單卡每小時收入 38 美元
DeepSeek 以 Apache 2.0 開源內部推理框架 DeepInfer 及配套編解碼元件 deepseek-recipe，當前支援 DeepSeek-V4.1-Flash。官方披露單叢集每天吞吐 155 萬億 token，按 API 谷價摺合每卡每小時 38 美元收入，有人以每張 B300 每小時 7 美元租金估算毛利率約 82%。
搜尋
找到 2 筆；也可以試試 語意搜尋
Latent Space● 精選AI 評分87
DeepSeek 開源生產推理棧 DeepInfer，單叢集日均 155 萬億 token
DeepSeek 開源生產推理棧 DeepInfer，用於支撐 V4.1 Flash，基於 vLLM 定製，支援投機解碼、結構化輸出與分散式推理，覆蓋 NVIDIA 與華為昇騰平台。官方披露單叢集日均處理 155 萬億 token、輸入快取命中率 96%、平均首 token 400ms、解碼 230 tokens/s（編碼場景 300 tokens/s）。按離線時段 38 美元/加速器小時計，推理毛利率超 80%，回本約 81 天。