機器之心● 精選AI 評分75
昇騰 RL 訓練系統 ASP 入選 NeurIPS，生成吞吐最高提升 222%
深圳市大數據研究院與華為聯合研發的 ASP 成為首個被 NeurIPS 接收的國產昇騰算力 RL 訓練加速系統，它通過離線長度預測、長度同質的 minibatch 劃分與負載均衡分組排序，消除多例項非同步 rollout 的 padding、skewness、sorting 三類氣泡。
搜尋
找到 2 筆；也可以試試 語意搜尋
Hacker News front page● 精選AI 評分81
DeepSeek 開源推理引擎 DeepInfer，支援 V4.1-Flash
DeepSeek 以 Apache 2.0 協議開源了支撐其大規模生產服務的推理框架 DeepInfer，目前僅支援 DeepSeek-V4.1-Flash 一個模型。該框架包含 FlashMLA、DeepGEMM、DeepEP 等最佳化核心，Attention DP 與 MoE EP+EPLB 並行，DSpark 投機解碼（草稿長度預設 5），以及預設開啟的非同步排程、批不變推理、確定性取樣，並支援正則、JSON schema、EBNF 結構化輸出。