2026 年 10 月 28 日,逐際動力更新開源具身工程底座 FluxVLA Engine 的第二版技術報告;與 9 月首版相比,V2 新增線上強化學習後訓練實驗,並擴大模擬評測與真機部署覆蓋。模擬側,14 種策略接入同一套 LIBERO 閉環評測,並在 RoboCasa GR-1、RoboTwin 與 RoboDo… 看完整事件
逐際動力 FluxVLA Engine V2 報告:推理最高提速 9.64 倍
逐際動力更新開源具身工程底座 FluxVLA Engine 第二版技術報告,新增線上強化學習後訓練,並擴大模擬評測與真機部署覆蓋。8 組模型與裝置組合經推理路徑最佳化後頻率提升 2.31–9.64 倍,如 A100 上 π 0.5 從 2.20Hz 升至 21.2Hz。SmolVLA 經線上 RL 後,LIBERO-10 與 RoboTwin Clean 成功率分別提升 10.0 與 15.4 個百分點。
報告給出推理提速 2.31–9.64 倍、SmolVLA 線上 RL 漲超 10 個百分點等實測數字,並覆蓋多款真機部署鏈路,對自建具身訓練與評測流程的團隊最有參考價值。
原標題:【图片中转测试,未发布】工程能力一键复用,专心卷新能力!轮子造一次就够了|详解FluxVLA Engine技术报告
閱讀原文
| 評分 | 62 / 66(平均 64,門檻 65) |
|---|---|
| 狀態 | 未入選 |
相關報導
llama.cpp SYCL 反量化改用向量儲存,MXFP4 MoE 預填充最高提速 61%
llama.cpp 的 SYCL 後端把多種量化格式的反量化寫回改為向量化儲存,MXFP4 MoE 20B 模型預填充提升 57%(pp2048)到 61%(pp512)。改動覆蓋 Q4_0、Q4_K、Q5_K、Q6_K、Q3_K、Q2_K、IQ3_XXS/IQ3_S 與 MXFP4,在 Arc Pro B70 上,重排佈局後的預填充分別提升約 6%–29%,其中 Q6_K 為 28.7%、IQ3 約 20%–21%。
專用推理引擎興起,放棄通用性換極致效能
近期出現一批極窄用途的推理執行時,包括 Strata、ninfer、DwarfStar、Splash、llamAmpere、gufo 等。它們刻意放棄 llama.cpp 與 vLLM 擅長的通用性,只針對少數模型甚至單一硬體家族(如 Strix Halo)做最佳化。作者認為通用執行時負責相容、過擬合執行時負責極致效能將成為常態,並有助於智慧的民主化與去中心化,讓現有硬體在特定配置下榨出最大輸出。
llama.cpp SYCL 為 GLM MLA 預填充接入 MKL,pp8192 提速 2.99 倍
llama.cpp 的 SYCL 後端放行了 GLM-4.7 Flash 的 MLA 形狀走 MKL flash attention,此前該形狀因 K/V 寬度不一致、head dim 上限 512 被排程器拒絕,預填充只能回退到更慢的 TILE kernel。在 Intel Arc Pro B70 上,pp8192 從 432.80 提升到 1292.29 tok/s(2.99 倍,+198.6%),tg256 在噪聲範圍內基本不變(45.67 對 45.65)。
越獄 PS5 用 GPU 跑 llama.cpp,變成區域網模型伺服器
PS5LM 把 llama.cpp 的 Vulkan 後端搬到越獄 PS5 的 RDNA 2 GPU 上,用 11.4 GB 共享記憶體把主機變成家用模型伺服器,對外提供 OpenAI 與 Anthropic 介面,Claude Code 等客戶端可直接連。實測 Qwen 3.5 9B Q4_K_M 約 55 tokens/秒,27B 的 UD-Q2_K_XL 約 20 tokens/秒、64k 上下文;
llama.cpp SYCL 後端為 IQ3 加持久權重重排,解碼提速最高 82%
llama.cpp 的 SYCL 後端為 IQ3_S/IQ3_XXS 加入持久化權重重排,在 Intel Arc Pro B70 上解碼速度最高提升 82%。權重在載入時只重排一次,MMVQ 點積改用 dp4a 與 SWAR 符號擴充套件遍歷稠密超級塊,重排感知的反量化也接入批次 prefill 的 GEMM。