機器之心● 精選AI 評分79
港科大與華為提出 BalanceRoute，96 卡解碼吞吐提升約 15%
香港科技大學周子傑團隊與華為 2012 實驗室理論部提出 BalanceRoute，用線上路由緩解 MoE 大模型 PD 分離部署中各解碼組「齊步走」帶來的同步等待。在 96 張昇騰 910C、DeepSeek-V3 671B（W8A8）、8 個解碼單元的主實驗中，採用實際預測器的 BR-H 相比最強基線解碼吞吐提升約 15%，輸出 token 間隔的尾部延遲同時下降，單輪排程耗時中位數 1.20 毫秒、99% 分位 2.77 毫秒。