2026 年 10 月 28 日,逐際動力更新開源具身工程底座 FluxVLA Engine 的第二版技術報告;與 9 月首版相比,V2 新增線上強化學習後訓練實驗,並擴大模擬評測與真機部署覆蓋。模擬側,14 種策略接入同一套 LIBERO 閉環評測,並在 RoboCasa GR-1、RoboTwin 與 RoboDo… 看完整事件
逐際動力 FluxVLA Engine 發布 V2 技術報告,推理最高提速 9.64 倍
逐際動力更新開源具身工程底座 FluxVLA Engine 的第二版技術報告,新增線上強化學習後訓練,並擴充套件了模擬與真機評測覆蓋。經底層推理重構後,8 組模型與裝置組合的推理頻率提升 2.31–9.64 倍,其中 A100 上 π0.5 從 2.20Hz 升至 21.2Hz。SmolVLA 經線上 RL 後,LIBERO-10 與 RoboTwin Clean 成功率分別提升 10.0 和 15.4 個百分點。
報告給出了具身 Infra 的量化收益:推理最高 9.64 倍加速且動作餘弦相似度超 0.99999,線上 RL 提升十餘個百分點成功率,對做 VLA 訓練與真機部署的團隊最直接有用。
原標題:工程能力一键复用,专心卷新能力!轮子造一次就够了|详解FluxVLA Engine技术报告
閱讀原文
| 評分 | 64 / 70(平均 67,門檻 65) |
|---|---|
| 狀態 | 精選 |
相關報導
llama.cpp SYCL 反量化改用向量儲存,MXFP4 MoE 預填充最高提速 61%
llama.cpp 的 SYCL 後端把多種量化格式的反量化寫回改為向量化儲存,MXFP4 MoE 20B 模型預填充提升 57%(pp2048)到 61%(pp512)。改動覆蓋 Q4_0、Q4_K、Q5_K、Q6_K、Q3_K、Q2_K、IQ3_XXS/IQ3_S 與 MXFP4,在 Arc Pro B70 上,重排佈局後的預填充分別提升約 6%–29%,其中 Q6_K 為 28.7%、IQ3 約 20%–21%。
llama.cpp SYCL 為 GLM MLA 預填充接入 MKL,pp8192 提速 2.99 倍
llama.cpp 的 SYCL 後端放行了 GLM-4.7 Flash 的 MLA 形狀走 MKL flash attention,此前該形狀因 K/V 寬度不一致、head dim 上限 512 被排程器拒絕,預填充只能回退到更慢的 TILE kernel。在 Intel Arc Pro B70 上,pp8192 從 432.80 提升到 1292.29 tok/s(2.99 倍,+198.6%),tg256 在噪聲範圍內基本不變(45.67 對 45.65)。
越獄 PS5 用 GPU 跑 llama.cpp,變成區域網模型伺服器
PS5LM 把 llama.cpp 的 Vulkan 後端搬到越獄 PS5 的 RDNA 2 GPU 上,用 11.4 GB 共享記憶體把主機變成家用模型伺服器,對外提供 OpenAI 與 Anthropic 介面,Claude Code 等客戶端可直接連。實測 Qwen 3.5 9B Q4_K_M 約 55 tokens/秒,27B 的 UD-Q2_K_XL 約 20 tokens/秒、64k 上下文;
llama.cpp b11540 發布:SYCL 加速 MXFP4 MoE 推理
llama.cpp 建置版本 b11540 發布,核心變更是 SYCL 後端通過算術解碼與權重重排加速 MXFP4 MoE 模型推理(PR #29809)。該版本同時提供 macOS、Linux、Windows、Android 與 openEuler 的預編譯包,覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16 等後端;
專用推理引擎興起,放棄通用性換極致效能
近期出現一批極窄用途的推理執行時,包括 Strata、ninfer、DwarfStar、Splash、llamAmpere、gufo 等。它們刻意放棄 llama.cpp 與 vLLM 擅長的通用性,只針對少數模型甚至單一硬體家族(如 Strix Halo)做最佳化。作者認為通用執行時負責相容、過擬合執行時負責極致效能將成為常態,並有助於智慧的民主化與去中心化,讓現有硬體在特定配置下榨出最大輸出。