搜尋 關鍵字 語意 找到 14 筆
Hacker News front page11/6 03:16 AI 評分57
NVIDIA 發布 NVKE(NVIDIA Kubernetes Engine)預覽版,為平台團隊提供管理平面,可在自有 NVIDIA GPU 機器上建立並運維各自帶控制面、etcd 和節點池的 workload 叢集。預覽階段唯一相容的基礎設施提供商是 NVIDIA Infra Controller(NICo),需自備機器、網路、節點映象與 registry;沒有 GPU 時可在 Linux 或 macOS(Colima)上跑模擬環境的本地 quickstart。
Hacker News front page10/30 11:16 AI 評分42
這段影片認為,當前的 AI 熱潮不能簡單類比 2000 年網際網路泡沫:網際網路時代鋪設的光纖等基礎設施壽命可達數十年,而支撐 AI 的 GPU 大約三年就會過時。影片據此說明 AI 基礎設施資產的折舊節奏與網際網路時代不同,進而影響對泡沫與投資回報的判斷。該影片在 Hacker News 上獲得 5 分、2 條評論,完整論證需看原影片。
NVIDIA blog10/23 02:00 AI 評分41
Firebird 與哈薩克政府簽署投資協議,獲美國出口許可在當地部署 4.5 萬塊 NVIDIA Grace Blackwell GPU,首期 AI 工廠與 Kazakhtelecom 共建,目標 2027 年第三季度商用,二期規劃使總容量達約 500 兆瓦。
TechCrunch AI10/26 16:46 AI 評分67
SpaceX 與 Apollo 管理的實體達成約 400 億美元的約束性 GPU 融資協議:由 Apollo 一方購買輝達下一代 Vera Rubin 晶片及伺服器硬體,再租給 SpaceX,租期約五年至五年零三個月,預計年底完成交割、2027 年上半年隨裝置到貨起租。SpaceX 稱這是規模最大的已承諾 GPU 融資,其 CFO 表示 AI 基礎設施投資回收期不到一年。
Apple Machine Learning Research● 精選 10/12 00:00 AI 評分69
一篇新論文提出 Minions:把多臺 macOS 裝置上閒置的 Apple Silicon GPU 聚合成分散式虛擬 GPU 雲,用來跑大規模機器學習推理。作者認為集中式 GPU 基礎設施成本高、彈性有限、資源緊張時等待時間長,而 Apple Silicon 裝置的 GPU 在日常使用中大多處於空閒狀態。論文稱該方案讓團隊能夠利用現有裝置承載推理負載,具體排程方式與效能資料未在摘要中給出。
NVIDIA blog10/21 10:45 AI 評分62
Google Cloud 與 NVIDIA 宣布 Vera Rubin 基礎設施正式可用,A5X 例項將於下月上線,並計劃擴充套件至歐洲。A5X 整合 Vera Rubin NVL72、ConnectX-9 SuperNICs、Virgo 網路與第四代液冷,面向大規模 agentic 推理與強化學習,Google Cloud 計劃在多個站點部署最多 96 萬塊 Rubin GPU。
Latent Space10/22 17:40 AI 評分63
AI 基礎設施公司 Modal 完成 7.5 億美元 D 輪融資,估值 160 億美元,並稱年化收入已突破 10 億美元。CEO Erik Bernhardsson 在訪談中表示,公司累計啟動近 30 億個沙箱,沙箱業務約佔收入三分之一;該產品早期使用者太少、一度考慮關停,後被 coding agent 與強化學習的需求拉起。
NVIDIA blog10/15 05:00 AI 評分30
由 Ericsson、AstraZeneca、Saab、SEB 等組成的瑞典聯合體啟用 Sferical One 超算,執行在兩套 NVIDIA DGX SuperPOD 上,共 16 機架 DGX GB300 系統、1152 塊 GPU,並將基於 Nemotron 開源模型建置服務。北歐正成為歐洲增長最快的基礎設施樞紐,AI 雲預計到 2027 年底在該地區部署 1 吉瓦容量,Bitdeer、CoreWeave、Nscale 等均在列。
NVIDIA blog● 精選 10/21 10:30 AI 評分65
NVIDIA 為 Confidential Computing 新增 Confidential Bare Metal 部署選項,讓前沿模型廠商能在第三方裸金屬基礎設施上執行敏感負載,同時保留對模型和資料的控制。至此機密計算共有裸金屬、Kubernetes 容器、虛擬機器三種部署形態,並新增傳輸中資料保護、平台完整性度量與硬體級訪問限制等控制。
NVIDIA blog10/21 10:30 AI 評分59
輝達在歐洲的雲合作伙伴集體擴容,其中 Mistral 在自有歐洲資料中心用 3800 塊 Grace Blackwell GPU 訓練出最新前沿多模態模型 Mistral Large 4,覆蓋編碼、agentic 工作流與多模態理解,其 Vera Rubin 基礎設施計劃 2027 年交付。Nscale 用 GB300 NVL72 與 DSX MaxLPS,在同等供電預算下多部署 37% 的 GPU,聚合推理吞吐提升近 50%。
NVIDIA blog10/22 05:00 AI 評分43
Revolut 正圍繞單一基礎模型 PRAGMA 重建技術棧,在 NVIDIA Blackwell Ultra GPU 上用 cuDF 與 Dynamo-Triton 在生產環境擴容,初期服務 8000 萬使用者,並設計為可再擴 3 倍。同場公布的歐洲金融案例還包括 Starling Bank 在 Civo 英國雲上用自有交易資料訓練 agentic 模型、Lloyds 用 RTX PRO 6000 Blackwell 打造交易基礎模型 ATUM。
TechCrunch AI10/21 22:51 AI 評分61
Blackstone 高管 Jas Khaira 在 TechCrunch Disrupt 上稱,對 AI 基建債務的擔憂被誇大:多數資料中心為超大規模廠商而建,債務由信用最好的公司支撐。管理 1.3 萬億美元資產的 Blackstone 自稱是超大規模廠商之外最大的算力持有方,2023 年以 GPU 和客戶合同為抵押向 CoreWeave 放貸 23 億美元,還參與了 Crux AI 50 億美元投資與 Firmus 100 億美元信貸。
TechCrunch AI10/30 13:00 AI 評分56
Runware 宣布要建工廠,像造車一樣在流水線上量產模組化 AI 資料中心,目標到 2028 年讓羅馬尼亞工廠日產能達到 30 兆瓦,約合每月近 1 吉瓦。其 Sonic 推理艙的建造時間將從三週縮短到一天,運抵後 48 小時內完成安裝上線;客戶可自備 GPU 並支付月費,也可直接向 Runware 租算力,電力與網路另計。
量子位10/19 05:22 AI 評分50
商湯大裝置日均 Token 服務量已達 6 萬億,並預計第四季度升至日均 10 萬億。其在臨港 AIDC 建成萬卡級異構推理叢集,用 PD 分離把 Prefill 交給國產算力、Decode 交給高頻寬 GPU,並支援節點角色動態切換,在相同高階旗艦卡數量下整體 Token 吞吐提升至 5 倍。此外還在探索跨域 PD 分離與 Attention/FFN 分離,後者有望讓單卡吞吐提升 150%–200%、運營成本降低 30%–40%。