去拒答版 DeepSeek 現已有 5 家推理服務商
去拒答(abliterated)版 DeepSeek 現有 5 家獨立推理服務商可用,均支援 1M 上下文。各家價格差距很大:Experiential Labs 與 Hopper 最便宜,輸入每百萬 token $0.30、輸出 $0.03;audn 最貴,為輸入 $4.50、輸出 $0.40。速度上 Refuseless 達 515 tok/s,audn 只有 24 tok/s;Hopper 延遲最低,為 351ms。
原標題:There are now 5 inference providers for abliterated DeepSeek
閱讀原文
| 評分 | 45 / 42(平均 43,門檻 76) |
|---|---|
| 狀態 | 未入選 |
相關報導
DeepSeek 推出 Search 與 Fetch API,每千次成功請求 0.75 美元
DeepSeek 上線 Search 與 Fetch 兩個工具 API,按每 1000 次成功請求 0.75 美元計費。Search 由其自研搜尋引擎驅動,返回標題、連結、長摘要與網頁正文,支援 site:、lang:、after: 等查詢運算子,單次最多 50 條結果,每條帶 0–3 的重排分與 0–4 的權威度分級;Fetch 把指定 URL 的網頁抓取為 Markdown。
DeepSeek 開源推理棧 DeepInfer,單叢集日處理 155 萬億 token
DeepSeek 開源了生產推理棧 DeepInfer,它基於 vLLM 定製、採用 Apache 2.0 許可,支援最長 72 小時 prompt 快取、投機解碼與結構化輸出,相容 NVIDIA 與華為昇騰。官方稱單叢集日處理 155 萬億 token、輸入快取命中率 96%、首 token 延遲 400ms、生成速度 230 token/s,按非高峰電價折算單卡每小時收入 38 美元,毛利率超過 80%、回本週期 81 天。不過 KV 快取管理與負載均衡仍未開源;
DeepSeek 宕機近 5 小時,按 7 天 API 用量發放補償餘額
DeepSeek 網頁與 API 今日上午大面積中斷近 5 小時,官方隨後按過去 7 天 API 使用量向使用者發放贈送餘額補償。中斷從早上 8 點左右開始,對話服務、V4 Pro API、V4.1 Flash API 均受影響,9 時左右定位原因,12 點 50 分左右完成修復。社交網路上曬出的補償金額從幾元到 300 多元不等,幾乎人人有份。
DeepSeek 上線 V4.1-Flash-1017,引數量升至 763B
DeepSeek 於 10 月 17 日把 V4.1 Flash 升級為 V4.1-Flash-1017,網頁端、App 與 API 同步切換,API 呼叫方式不變。新模型引數量 763B,高於 V4.1F 的 552B;Terminal-Bench 4.0 從 31.2 升至 42.3,max 檔每任務平均費用從約 3.3 元降至約 1.3 元,API 單價保持不變,權重以 MIT 許可在 Hugging Face 與 ModelScope 開放下載。