DeepSeek 介紹 DeepInfer 推理引擎,含分散式推理與投機解碼
DeepSeek 介紹 DeepInfer 推理引擎,包含高效能核心與最佳化推理引擎、分散式推理與投機解碼、SWA Bounded Replay 和結構化輸出。官方稱未來 DeepSeek 模型的推理程式碼及後續最佳化也將在此發布。帖文未給出效能資料、支援模型或上線時間。
依意思最接近的 30 筆
DeepSeek 介紹 DeepInfer 推理引擎,包含高效能核心與最佳化推理引擎、分散式推理與投機解碼、SWA Bounded Replay 和結構化輸出。官方稱未來 DeepSeek 模型的推理程式碼及後續最佳化也將在此發布。帖文未給出效能資料、支援模型或上線時間。
DeepSeek 已將自研推理框架 DeepInfer 完整開源。該框架在其生產環境中支撐 DeepSeek-V4.1-Flash 的大規模推理服務,主打高吞吐與低延遲。官方表示,公開這套生產環境所用的推理元件是為了幫社群降低算力成本、減少能耗,讓 AI 更可負擔。推文未給出具體效能數字,硬體支援與部署方式需檢視開源倉庫。
DeepSeek 以 Apache 2.0 協議開源了支撐其大規模生產服務的推理框架 DeepInfer,目前僅支援 DeepSeek-V4.1-Flash 一個模型。該框架包含 FlashMLA、DeepGEMM、DeepEP 等最佳化核心,Attention DP 與 MoE EP+EPLB 並行,DSpark 投機解碼(草稿長度預設 5),以及預設開啟的非同步排程、批不變推理、確定性取樣,並支援正則、JSON schema、EBNF 結構化輸出。
DeepSeek 發布 DeepSeek-V4.1-Flash-1017,該模型通過帶自我反饋的強化學習提升端到端專案開發能力,覆蓋從遊戲製作到 3D 建模的完整流程。官方以演示形式展示實際效果,未在帖文中給出引數規模、上下文長度或 API 價格等資訊。
DeepSeek-V4.1-Flash-1017 已在 Ollama 上線,可通過 Ollama Cloud 呼叫,託管位於美國且承諾零資料留存。該模型在 agentic 任務上表現較強,同時單任務成本更低。
DeepSeek 發布 DeepSeek-V4.1-Flash-1017,是 DeepSeek-V4.1-Flash 的小版本更新,權重以 MIT 許可開放。官方稱其在推理、程式設計、Agent 與視覺基準上均有提升,同時縮短任務執行時間與輸出長度:Terminal-Bench 4.0 從 31.2 升至 42.3,Apex Bench v1.1 從 64.6 升至 72.1,HLE(無工具)從 36.8 升至 42.6。
DeepSeek 上線 DeepSeek-V4.1-Flash-1017,官方稱其基準測試更強、任務完成更快、輸出更短,在效能與成本上實現帕累托改進,已在官網、App 和 API 提供,並在 Hugging Face 與 ModelScope 開源。該模型針對 DeepSeek Harness、騰訊 CodeBuddy、WorkBuddy 等最佳化,需升級到 DeepSeek Harness v0.2.1-rc.1 及以上獲得最佳體驗。
DeepSeek 發布新模型 DeepSeek-V4.1-Flash-1017,已在官網、App 和 API 上線。官方稱其基準測試表現更強、任務完成更快、輸出更短,在效能與成本上屬於帕累托改進。該模型針對 DeepSeek Harness、騰訊 CodeBuddy、WorkBuddy 等做了最佳化,DeepSeek Harness 需升級到 v0.2.1-rc.1 或更高版本以獲得最佳體驗。
DeepSeek 計劃領投具身智慧初創公司 Winverse AI 的數千萬美元種子輪融資,投後估值約 4 億美元(約 28 億元人民幣),美團旗下龍珠資本也作出投資承諾。Winverse AI 今年剛成立,創始人胡瀚是 Swin Transformer 論文共同作者、原騰訊混元傑出科學家,曾負責視覺語言與具身智慧基礎模型團隊。這是 DeepSeek 兩個月內第二次投向機器人領域,此前 8 月以約 1.41 億元入股宇樹科技,並簽署具身智慧與大模型聯合研發的戰略合作備忘錄。
DeepSeek V4.1 Flash 1017 以 MIT 許可發布,552B 總引數、16B 啟用的 MoE,支援 100 萬 token 上下文,API 價格維持每百萬輸入/輸出 token 0.30/1.20 美元,快取命中 0.006 美元。Artificial Analysis 智慧指數提升 6 分至 45,與 GLM-5.3 並列開源第二,Code Arena WebDev 與 Agent Arena 均為開源第一,非幻覺率從 4% 升至 33%。
Google DeepMind 宣布 SynthID Detector 現已向所有人開放,可用來判斷網上內容是否由 AI 生成。該工具除 Google AI 外,還支援檢測 OpenAI、NVIDIA、Kakao 等行業夥伴工具生成的內容,Apple 即將加入。使用者可通過 synthid.com 試用。
DeepSeek 強調開放模型、核心與推理,並邀請社群檢視程式碼、參與貢獻和共同建置。推文稱,從私有部署到公有云,團隊都會繼續與社群合作,讓大規模推理更高效。該條為系列第 4/4 條,未給出具體模型、程式碼庫、許可證或時間表。
DeepSeek 發布開源權重模型 V4.1 Flash 1017 (Max),採用 MIT 許可,權重已上傳 Hugging Face,支援文字與影像輸入。在 Artificial Analysis 智慧指數上它得分 45,遠高於同類開源模型中位數 19;總引數 552B、每 token 啟用 16B,上下文視窗 1M token,輸出速度約 230 token/秒。
DeepSeek 於 10 月 17 日把 V4.1 Flash 升級為 V4.1-Flash-1017,網頁端、App 與 API 同步切換,API 呼叫方式不變。新模型引數量 763B,高於 V4.1F 的 552B;Terminal-Bench 4.0 從 31.2 升至 42.3,max 檔每任務平均費用從約 3.3 元降至約 1.3 元,API 單價保持不變,權重以 MIT 許可在 Hugging Face 與 ModelScope 開放下載。
開發者 roofkid 發布 Ninfer 4080,在 RTX 4080 16GB 上以 100k 上下文執行 ISTA-DASLab-Qwen-3.8-27B-GSQ,實測最高 prefill 2720 tok/s、生成 262 tok/s。專案採用 DFlash2 推測解碼與 KV 壓縮,程式碼已在 GitHub 開源並提供 Docker 映象。
DeepSeek 發布新模型 DeepSeek-V4.1-Flash-1017,網頁端、App 與 API 已同步切換。相比上一版 V4.1 Flash,程式碼與 Agent 任務等基準測試全面上漲,同時任務執行時間和輸出長度下降,官方稱其為效能—費用的帕累托改進;完整使用需把 DeepSeek Harness 升級至 0.2.1-rc.1 及以上,新使用者首次登入 Harness 可領 6 元贈金,7 天內有效、限量發放。
Google DeepMind 推出 SynthID Detector,可快速識別影片、音訊和影像中的 SynthID 水印,即使內容經過加濾鏡等編輯後依然有效。使用者還可以使用 Google Chrome、Google 搜尋和 Gemini App 中已有的 AI 識別功能。
DeepSeek 彈性計算團隊大量招聘,尤其需要資深工程師,併發布技術報告《DeepSeek 彈性計算(DSec):面向大規模 Agent 訓練的沙盒基礎設施》。DSec 支撐 DeepSeek-V4 全部訓練、評測和資料預處理,單個分片約 160 臺伺服器、3 萬 CPU 核心、250TB 記憶體,每天服務約 300 萬個沙盒,高峰線上超 38 萬個,每秒建立 5000 多個。團隊接下來要把 Agent 執行環境的數量和種類擴充成百上千倍。
Google DeepMind 宣布,其 AI 內容水印技術 SynthID 入選《時代》雜誌 2026 年度最佳發明。官方表示,SynthID 已為超過 1800 億張圖片和影片加上水印,用於幫助人們區分 AI 生成內容與其它媒體,推文中附有詳情連結。
DeepSeek-V4.1-Flash-1017 已在 LM Studio Bionic 上線,支援 100 萬 token 上下文與影像輸入,官方稱其價效比很高。該模型由美國境內託管,並提供完整的零資料保留(ZDR)。LM Studio 建議將它用於 coding 任務。
SynthID Detector 是 Google DeepMind 推出的檢測工具,上傳檔案即可判斷其中是否含有 SynthID 數字水印,目前支援圖片、影片、音訊三類內容。該水印由採用 SynthID 的生成式 AI 產品在生成時直接嵌入畫素或音訊頻段,人眼不可見,且能抵抗濾鏡、調色與有失真壓縮等常見改動。它不是通用 AI 檢測器,只能識別 Google、Nvidia、OpenAI、Kakao 等合作方模型產出的內容;
Google DeepMind 發布了一套可快速驗證生物設計是否內建安全防護的工具,並以開放形式供研究使用。該工具面向科研人員,目的是在 AI 加速科學發現的同時不拖慢關鍵研究進度。官方未披露具體工具名稱、技術細節與適用限制。
DeepSeek 以開源方式發布 V4.1-Flash-1017,模型權重已同步上線 Hugging Face 與 ModelScope。官方給出的獲取渠道只有這兩個平台,公告中未提及引數量、上下文長度與許可條款等細節。
Inception 發布擴散架構大模型 Mercury 3,稱在多項基準上超過 GPT-6 Luna 與 Claude Haiku 5.5,NVIDIA GPU 上速度達 1068 token/秒,為後兩者的 4–8 倍。其引數量比 Mercury 1 擴大 40 倍以上,上下文從 Mercury 2.5 的 260K 提升到 1M。定價為每百萬輸入 token 0.20 美元、輸出 0.70 美元,發布期五折,快取輸入再降 90%。
Google DeepMind 發布一期播客,討論 AI 生成內容日益逼真後如何驗證內容來自人類、機器還是自然。節目介紹內容溯源的作用,並講解不可感知水印如何保護數字媒體與生物設計,時間軸涵蓋水印概念、SynthID、影像與影片、SynthID Bio 及未來韌性等章節。
DeepSeek 上線 Search 與 Fetch 兩個工具 API,按每 1000 次成功請求 0.75 美元計費。Search 由其自研搜尋引擎驅動,返回標題、連結、長摘要與網頁正文,支援 site:、lang:、after: 等查詢運算子,單次最多 50 條結果,每條帶 0–3 的重排分與 0–4 的權威度分級;Fetch 把指定 URL 的網頁抓取為 Markdown。
DeepSeek 將其生產環境使用的 token 編碼與解碼元件 deepseek-recipe 開源。該元件的處理邏輯與官方 DeepSeek API 對齊,目的是讓社群自行部署的服務復現相同的 API 行為。這條訊息是該發布執行緒中的第 3 條,官方只給出倉庫連結,未說明許可證與適用範圍。
Google DeepMind 發布 SynthID Bio,一套面向 AI 生成生物設計的水印方法。官方稱這是全球首次能在不影響生物功能的前提下,把不可感知的簽名直接嵌入蛋白質序列。該技術屬於 SynthID 水印體系的新分支,具體覆蓋範圍、檢測方式與可用時間尚未公布。
DeepSeek 的 Search 與 Fetch API 現已向所有人開放,由自研搜尋引擎驅動,全球日均處理數億次請求,每個端點定價為每 1000 次呼叫 0.75 美元。通過 DeepSeek Harness、Claude Code 和 Codex 中的服務端工具發起的 Search 與 Fetch 呼叫,目前對 DeepSeek API 使用者免費,計費自 2026 年 10 月 31 日 16:00 UTC 開始。
Gemini 3.7 Flash 已棄用,由 gemini-3.8-flash 取代,API 請求會自動路由到新模型,Google AI Studio 中也不再可選;同樣棄用的 gemini-3.5-flash 則被路由至 gemini-3.6-flash,開發者需更新模型字串。