AISpot

搜尋

找到 2 筆；也可以試試 語意搜尋

Hacker News front page● 精選AI 評分84

Google 開源 TorchTPU，為 TPU 提供 PyTorch 原生後端

Google 開源 TorchTPU，讓 PyTorch 模型可直接跑在 TPU 上，PyPI 最新版本為 0.2.0。專案提供 TPU 的 ATen 核心實現、XLA 計算編譯快取，支援資料並行與張量並行分散式訓練，並接入 torch.compile() 圖模式執行，附帶 Llama、Qwen、ResNet、DLRM、minGPT、UNet 等範例。安裝要求 Python 3.11+，Marimo 互動筆記本需在 TPU VM（如 v6e 例項）上執行。

開源開發工具TorchTPUPyTorchTPU開源XLA
5 個來源 · 5 則報導閱讀原文
Hacker News front pageAI 評分63

SkyPilot 為 NVL72 做拓撲感知排程，同機架多 27% 可用 GPU

SkyPilot 通過拓撲感知放置、硬體故障就地恢復和共享叢集自動碎片整理，讓 NVL72 上的多節點任務儘量保持在同一機架內，從同樣機架多提供 27% 可用 GPU。背景是跨機架任務仍會落到 InfiniBand：Hugging Face 測得訓練從 NVLink 切到 InfiniBand 吞吐下降 43%，而 NVL72 用統一 NVLink 連線單機架 72 塊 GPU，可把張量並行與專家並行的 all-reduce、all-to-all 留在機架內。

地端推論產品與方案NVL72NVLink拓撲感知排程GPU 叢集分散式訓練
閱讀原文