AISpot

NVIDIA 發布 NVKE 預覽版,在自有 GPU 上執行託管 Kubernetes 叢集

Hacker News front page官方公告產品與方案開發工具地端推論開源

NVIDIA 發布 NVKE(NVIDIA Kubernetes Engine)預覽版,為平台團隊提供管理平面,可在自有 NVIDIA GPU 機器上建立並運維各自帶控制面、etcd 和節點池的 workload 叢集。預覽階段唯一相容的基礎設施提供商是 NVIDIA Infra Controller(NICo),需自備機器、網路、節點映象與 registry;沒有 GPU 時可在 Linux 或 macOS(Colima)上跑模擬環境的本地 quickstart。

把 Kubernetes 管理平面做成可自託管的預覽版,每個租戶叢集獨立控制面,但認證預設關閉、缺備份恢復,適合評估自建 GPU 多租戶平台的團隊。

原標題:Nvidia Kubernetes Engine (NVKE)
閱讀原文

評分62 / 52(平均 57,門檻 76)
狀態未入選

相關報導

Hacker News front pageAI 評分63

SkyPilot 為 NVL72 做拓撲感知排程,同機架多 27% 可用 GPU

SkyPilot 通過拓撲感知放置、硬體故障就地恢復和共享叢集自動碎片整理,讓 NVL72 上的多節點任務儘量保持在同一機架內,從同樣機架多提供 27% 可用 GPU。背景是跨機架任務仍會落到 InfiniBand:Hugging Face 測得訓練從 NVLink 切到 InfiniBand 吞吐下降 43%,而 NVL72 用統一 NVLink 連線單機架 72 塊 GPU,可把張量並行與專家並行的 all-reduce、all-to-all 留在機架內。

NVIDIA blog● 精選AI 評分65

NVIDIA 公布本地 AI 硬體陣容,DGX Spark 64GB 將於 10 月 23 日開售

NVIDIA 在 GTC 柏林公布本地 AI 硬體全線進展:DGX Spark 64GB 將於 10 月 23 日由合作伙伴開售,最多八臺組成叢集、合計 1TB 統一記憶體。DGX Station for Windows 定於 12 月推出,支援製造業應用與 agent harness;Linux 版 DGX Station 以 748GB 一致記憶體服務 30 名以上使用者。

NVIDIA blog● 精選AI 評分65

NVIDIA 機密計算新增裸金屬部署,擴充套件至 GB300 NVL72

NVIDIA 為 Confidential Computing 新增 Confidential Bare Metal 部署選項,讓前沿模型廠商能在第三方裸金屬基礎設施上執行敏感負載,同時保留對模型和資料的控制。至此機密計算共有裸金屬、Kubernetes 容器、虛擬機器三種部署形態,並新增傳輸中資料保護、平台完整性度量與硬體級訪問限制等控制。

NVIDIA blogAI 評分61

NVIDIA 發布 Minerva,為 AI 工廠提供端到端可觀測性

NVIDIA 發布 AIOps 平台 Minerva,為 AI 工廠提供端到端可觀測性。它把 GPU、網路、儲存、排程器與工作負載的遙測匯入動態知識圖譜,每小時分析數十億資料點,用於發現異常、預測故障並把告警風暴聚合為帶根因的事件;平台還內建 AI 助手,可連線外部 agentic 工具,目標是提升 GPU 正常執行時間與 AI 工廠產出。