面壁智慧 ForgeKernel 直播自寫運算元,反超 DeepSeek FlashMLA 9.8%
面壁智慧的運算元生成系統 ForgeKernel 在無原始碼、無參考實現的情況下,通過直播自進化 22.5 小時,在輝達 B200 上把 DeepSeek-V4.1 的 FlashMLA Prefill 運算元做到 472 微秒,比人類手寫的 518 微秒快 9.8%。全程 42 輪迭代、留下 32 個版本,只用了 1 張 B200 和 22 個 GPU 小時,人工編寫 0 行程式碼。它此前已登頂昇騰 CANNBench 950DT、950PR、A3 三張榜單第一,並在直播結束後開源;
Agent 在零原始碼、零人工程式碼的條件下反超 DeepSeek 人類手寫運算元 9.8%,還包攬昇騰三張榜單第一併開源,為做運算元最佳化、國產晶片適配和推理框架的人提供了罕見的端到端實測證據。
原標題:AI零帧起手写算子,反超DeepSeek人类手写巅峰:快了9.8%!
閱讀原文
| 評分 | 82 / 83(平均 82,門檻 65) |
|---|---|
| 狀態 | 精選 |
相關報導
DeepSeek 開源推理棧 DeepInfer,單叢集日處理 155 萬億 token
DeepSeek 開源了生產推理棧 DeepInfer,它基於 vLLM 定製、採用 Apache 2.0 許可,支援最長 72 小時 prompt 快取、投機解碼與結構化輸出,相容 NVIDIA 與華為昇騰。官方稱單叢集日處理 155 萬億 token、輸入快取命中率 96%、首 token 延遲 400ms、生成速度 230 token/s,按非高峰電價折算單卡每小時收入 38 美元,毛利率超過 80%、回本週期 81 天。不過 KV 快取管理與負載均衡仍未開源;
DeepSeek-V4.1-Flash-1017 發布:Agent 與視覺基準提升,MIT 開源
DeepSeek 發布 DeepSeek-V4.1-Flash-1017,是 DeepSeek-V4.1-Flash 的小版本更新,權重以 MIT 許可開放。官方稱其在推理、程式設計、Agent 與視覺基準上均有提升,同時縮短任務執行時間與輸出長度:Terminal-Bench 4.0 從 31.2 升至 42.3,Apex Bench v1.1 從 64.6 升至 72.1,HLE(無工具)從 36.8 升至 42.6。
llama.cpp SYCL 為 GLM MLA 預填充接入 MKL,pp8192 提速 2.99 倍
llama.cpp 的 SYCL 後端放行了 GLM-4.7 Flash 的 MLA 形狀走 MKL flash attention,此前該形狀因 K/V 寬度不一致、head dim 上限 512 被排程器拒絕,預填充只能回退到更慢的 TILE kernel。在 Intel Arc Pro B70 上,pp8192 從 432.80 提升到 1292.29 tok/s(2.99 倍,+198.6%),tg256 在噪聲範圍內基本不變(45.67 對 45.65)。
Ninfer 4080 讓 16GB 顯示卡跑 100k 上下文
開發者 roofkid 發布 Ninfer 4080,在 RTX 4080 16GB 上以 100k 上下文執行 ISTA-DASLab-Qwen-3.8-27B-GSQ,實測最高 prefill 2720 tok/s、生成 262 tok/s。專案採用 DFlash2 推測解碼與 KV 壓縮,程式碼已在 GitHub 開源並提供 Docker 映象。
王琰發布 TraceForge:自生成思維鏈反超蒸餾原版
獨立研究員王琰發布技術報告 TraceForge,提出用同族模型自行生成思維鏈、只向閉源模型借答案的合法路徑。以 Qwen3.5-9B-Base 做學生、5,000 條題目訓練後,自生成思維鏈在 HumanEval+ 比直接蒸餾 Claude Fable 5 真實思維鏈高 3.7 分、MBPP+ 高 7.1 分,且 MBPP+ 領先在每個 checkpoint 上都成立。報告還給出更徹底的變體:連答案也交給同族最強模型生成,全程不讓任何閉源 token 進入梯度;