搜尋

SkyPilot 為 NVL72 做拓撲感知排程，同機架多 27% 可用 GPU

SkyPilot 通過拓撲感知放置、硬體故障就地恢復和共享叢集自動碎片整理，讓 NVL72 上的多節點任務儘量保持在同一機架內，從同樣機架多提供 27% 可用 GPU。背景是跨機架任務仍會落到 InfiniBand：Hugging Face 測得訓練從 NVLink 切到 InfiniBand 吞吐下降 43%，而 NVL72 用統一 NVLink 連線單機架 72 塊 GPU，可把張量並行與專家並行的 all-reduce、all-to-all 留在機架內。