調研:79% 企業 GPU 過半時間閒置,七成仍計劃擴充算力
VentureBeat Intelligence 在 2026 年 7 至 9 月的三輪調研(385 名受訪者)顯示,79% 的企業表示其 GPU 至少一半時間完全閒置,這一比例三個月穩定在 77% 至 81%。但在這批企業中,70% 仍計劃未來 12 個月引入、擴充或更換 AI 計算平台;計劃採用新平台的受訪者中有 91% 拿不出經財務部門稽核的 ROI 資料。新採購意向中 90% 投向公有云與模型 API,僅 8% 考慮擴建本地私有叢集。
用 385 人調研量化了企業囤卡閒置卻仍加碼的錯配,並附 Claude Code 場景上下文快取可複用 85% 至 97%、多 Agent 方案成本達單 Agent 的 1.8 至 5.1 倍等數字,對權衡自建算力與 API 預算有參考價值。
原標題:意外!79%企业GPU利用率竟不足一半
閱讀原文
| 評分 | 68 / 72(平均 70,門檻 65) |
|---|---|
| 狀態 | 精選 |
相關報導
Minions:聚合閒置 Apple Silicon 的分散式虛擬 GPU 雲
一篇新論文提出 Minions:把多臺 macOS 裝置上閒置的 Apple Silicon GPU 聚合成分散式虛擬 GPU 雲,用來跑大規模機器學習推理。作者認為集中式 GPU 基礎設施成本高、彈性有限、資源緊張時等待時間長,而 Apple Silicon 裝置的 GPU 在日常使用中大多處於空閒狀態。論文稱該方案讓團隊能夠利用現有裝置承載推理負載,具體排程方式與效能資料未在摘要中給出。
SF Compute 要把 GPU 算力做成可程式設計的資料中心
SF Compute CEO Evan Conrad 在 Latent Space 播客中表示,其平台不只買賣 GPU 小時的現貨與遠期,還負責物理交付:買家拿到的是能直接跑負載的算力,而非對指數的現金結算。為此公司自建了雲的大部分運營能力,處理可中斷性、儲存恢復速度、GPU 代際與網路軟體配置等同時影響合約和價格的約束。他還提到可線上切分 InfiniBand 網路,以及此前 2.45 億美元的算力銷售。
Ai2 用 GPU 時間預算替代優先順序排程
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。
SpaceX 為 Anthropic 供算力:22 萬塊 GPU,Claude Code 額度提高
SpaceX 與 Anthropic 的算力協議包含超 300 兆瓦新容量和 22 萬塊輝達 GPU,並提高 Claude Code 與 API 的使用額度;SpaceX 8 月首份財報顯示季度 AI 業務收入 25.61 億美元,同比增長 247%。算力緊張正在重塑矽谷關係,Google 2024 年花 27 億美元請回的 Gemini 聯合負責人 Noam Shazeer 因團隊算力被重新分配轉投 OpenAI。
調查:僅 11% 企業能準確預測 AI 支出
企業一度鼓勵員工儘可能多地使用 AI,即所謂的 #tokenmaxxing,隨後賬單隨之而來。報導援引一項針對近 400 家企業的調查稱,其中只有 11% 能準確預測自己的 AI 支出。AI 使用量以 token 計量,而企業發現 token 很難統計,這讓 AI 預算幾乎無法編制。