輝達稱 Vera Rubin NVL72 每兆瓦吞吐量超 GB300 30 倍
輝達援引 SemiAnalysis AgentX 資料稱,Vera Rubin NVL72 每兆瓦吞吐量超過 GB300 NVL72 的 30 倍,在 DeepSeek V4 Pro 上每百萬 token 成本最多低 45 倍。輝達以「高產、耐用、通用」概括 AI 工廠回報邏輯:每兆瓦 token 數決定收益,A100 出貨六年後仍在商用,CoreWeave 已將 2020 年首批裝置的預訂延長至 2029 年。
找到 7 筆
輝達援引 SemiAnalysis AgentX 資料稱,Vera Rubin NVL72 每兆瓦吞吐量超過 GB300 NVL72 的 30 倍,在 DeepSeek V4 Pro 上每百萬 token 成本最多低 45 倍。輝達以「高產、耐用、通用」概括 AI 工廠回報邏輯:每兆瓦 token 數決定收益,A100 出貨六年後仍在商用,CoreWeave 已將 2020 年首批裝置的預訂延長至 2029 年。
SkyPilot 通過拓撲感知放置、硬體故障就地恢復和共享叢集自動碎片整理,讓 NVL72 上的多節點任務儘量保持在同一機架內,從同樣機架多提供 27% 可用 GPU。背景是跨機架任務仍會落到 InfiniBand:Hugging Face 測得訓練從 NVLink 切到 InfiniBand 吞吐下降 43%,而 NVL72 用統一 NVLink 連線單機架 72 塊 GPU,可把張量並行與專家並行的 all-reduce、all-to-all 留在機架內。
NVIDIA 為 Confidential Computing 新增 Confidential Bare Metal 部署選項,讓前沿模型廠商能在第三方裸金屬基礎設施上執行敏感負載,同時保留對模型和資料的控制。至此機密計算共有裸金屬、Kubernetes 容器、虛擬機器三種部署形態,並新增傳輸中資料保護、平台完整性度量與硬體級訪問限制等控制。
Google Cloud 與 NVIDIA 宣布 Vera Rubin 基礎設施正式可用,A5X 例項將於下月上線,並計劃擴充套件至歐洲。A5X 整合 Vera Rubin NVL72、ConnectX-9 SuperNICs、Virgo 網路與第四代液冷,面向大規模 agentic 推理與強化學習,Google Cloud 計劃在多個站點部署最多 96 萬塊 Rubin GPU。
Block 旗下 Dessa 團隊發布全雙工語音模型 Dessa,完全用人類對話音訊從零訓練,不含文字與預訓練模型。它邊聽邊說,會在對話中插入「嗯」「懂了」等回應,原生處理情緒、語調與笑聲,推理快於即時,可在 M4 Max 或更強的 MacBook Pro 上本地執行。官方稱訓練只用了單臺 NVIDIA GB200 NVL72,並開放少量名額給 AI 安全研究者提前試用。
輝達在歐洲的雲合作伙伴集體擴容,其中 Mistral 在自有歐洲資料中心用 3800 塊 Grace Blackwell GPU 訓練出最新前沿多模態模型 Mistral Large 4,覆蓋編碼、agentic 工作流與多模態理解,其 Vera Rubin 基礎設施計劃 2027 年交付。Nscale 用 GB300 NVL72 與 DSX MaxLPS,在同等供電預算下多部署 37% 的 GPU,聚合推理吞吐提升近 50%。
IEA 2026 年 4 月報告測算,全球資料中心用電量將從 2025 年的 485 太瓦時翻倍到 2030 年的 950 太瓦時,其中 AI 資料中心的用電量增至三倍。制約擴張的不只是電力:美國大型變壓器交付週期最長四年、燃氣輪機超過三年,而吉瓦級資料中心約兩年就能建成。機櫃功率密度同步飆升,Vera Rubin NVL72 為 190 至 230 千瓦,2027 年的 Kyber 預計達 600 千瓦,風冷已接近極限。HBM 短缺預計至少延續到 2027 年。