AISpot

搜尋

依意思最接近的 30 筆

Hugging Face blog● 精選AI 評分69

Ai2 用 GPU 時間預算替代優先順序排程

Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。

Latent Space● 精選AI 評分65

SF Compute 要把 GPU 算力做成可程式設計的資料中心

SF Compute CEO Evan Conrad 在 Latent Space 播客中表示,其平台不只買賣 GPU 小時的現貨與遠期,還負責物理交付:買家拿到的是能直接跑負載的算力,而非對指數的現金結算。為此公司自建了雲的大部分運營能力,處理可中斷性、儲存恢復速度、GPU 代際與網路軟體配置等同時影響合約和價格的約束。他還提到可線上切分 InfiniBand 網路,以及此前 2.45 億美元的算力銷售。

機器之心● 精選AI 評分70

調研:79% 企業 GPU 過半時間閒置,七成仍計劃擴充算力

VentureBeat Intelligence 在 2026 年 7 至 9 月的三輪調研(385 名受訪者)顯示,79% 的企業表示其 GPU 至少一半時間完全閒置,這一比例三個月穩定在 77% 至 81%。但在這批企業中,70% 仍計劃未來 12 個月引入、擴充或更換 AI 計算平台;計劃採用新平台的受訪者中有 91% 拿不出經財務部門稽核的 ROI 資料。新採購意向中 90% 投向公有云與模型 API,僅 8% 考慮擴建本地私有叢集。

TechCrunch AIAI 評分34

OpenAI 考慮將資料中心改稱 AI 計算園區

據 Axios 報導,OpenAI 正籌備美國中期選舉後的公關行動,其中一項是把資料中心重新包裝為「AI 計算園區」。首席全球事務官 Chris Lehane 同時提出為 AI 設「限速」、推動美國參與制定全球標準,並讓公眾更多感受到 AI 在日常生活中的作用。他把當前圍繞資料中心的爭論稱為「良性且健康」,認為社群應讓企業為這類專案負責。

X @elonmuskAI 評分19

馬斯克稱 SpaceX 曾向 AWS、GCP 求租推理算力

馬斯克表示,SpaceX 曾嘗試從 AWS、GCP 或任何其他供應商租用推理算力,目的是把負載從自家訓練叢集上分流出去。他稱此前流傳的那段對話正是 SpaceX 在這些洽談中經歷的情形,但未披露涉及的具體供應商、算力規模、報價與時間。該表態發布於 2026 年 10 月 19 日。

OpenAI News● 精選AI 評分67

OpenAI 啟動 Grid Protectors,計算園區可削減用電

OpenAI 啟動 Grid Protectors 計劃,讓未來的計算園區在電網緊張時主動降低用電需求。計劃從喬治亞州開始,規劃中的 Effingham County 園區將由 OpenAI 承擔全部基礎設施與供電成本,並與 Georgia Power 達成最高 1,000 兆瓦的柔性需求回應,相當於約 70 萬戶家庭的平均用電量。

TechCrunch AIAI 評分56

Runware 計劃建廠流水線量產 AI 資料中心,2028 年目標日產 30 兆瓦

Runware 宣布要建工廠,像造車一樣在流水線上量產模組化 AI 資料中心,目標到 2028 年讓羅馬尼亞工廠日產能達到 30 兆瓦,約合每月近 1 吉瓦。其 Sonic 推理艙的建造時間將從三週縮短到一天,運抵後 48 小時內完成安裝上線;客戶可自備 GPU 並支付月費,也可直接向 Runware 租算力,電力與網路另計。

量子位● 精選AI 評分71

SpaceX 為 Anthropic 供算力:22 萬塊 GPU,Claude Code 額度提高

SpaceX 與 Anthropic 的算力協議包含超 300 兆瓦新容量和 22 萬塊輝達 GPU,並提高 Claude Code 與 API 的使用額度;SpaceX 8 月首份財報顯示季度 AI 業務收入 25.61 億美元,同比增長 247%。算力緊張正在重塑矽谷關係,Google 2024 年花 27 億美元請回的 Gemini 聯合負責人 Noam Shazeer 因團隊算力被重新分配轉投 OpenAI。

NVIDIA blogAI 評分30

瑞典聯合體啟用 1152 卡 NVIDIA DGX GB300 超算,北歐 AI 雲 2027 年預計達 1 吉瓦

由 Ericsson、AstraZeneca、Saab、SEB 等組成的瑞典聯合體啟用 Sferical One 超算,執行在兩套 NVIDIA DGX SuperPOD 上,共 16 機架 DGX GB300 系統、1152 塊 GPU,並將基於 Nemotron 開源模型建置服務。北歐正成為歐洲增長最快的基礎設施樞紐,AI 雲預計到 2027 年底在該地區部署 1 吉瓦容量,Bitdeer、CoreWeave、Nscale 等均在列。

NVIDIA blogAI 評分45

NVIDIA DSX 打通電網與 AI 工廠,多家能源廠商接入

NVIDIA 公布 DSX AI Factory 平台進展,把電網、變電站與機房作為一套系統統一規劃與執行,GE Vernova、日立能源、施耐德電氣、西門子能源等廠商已接入。平台包括用於開工前模擬驗證的 DSX Sim、讓 AI 工廠負荷跟隨電網狀況調節的 DSX Flex,以及提升每瓦算力並跨系統共享訊號的 DSX MaxLPS 與 DSX Exchange。

NVIDIA blogAI 評分33

巴塞羅那 AI 工廠加速計劃全面運營,輝達 Inception 接入其服務

巴塞羅那超級計算中心(BSC)的 AI 工廠加速計劃在試點後全面運營,為初創公司提供主權算力、技術支援與培訓,其部分服務現已可通過 NVIDIA Inception 門戶申請。該 AI 工廠是歐洲首批、西班牙首個 AI 工廠,自 2025 年 4 月啟動以來已向公私客戶交付 800 多項服務;搭載輝達加速計算的 MareNostrum 5 即將擴容。試點 demo day 上,Qatium、OneCareAI、Avatia 獲評 AI Champion,分別做水管網智慧、ECG 隱藏心房顫動識別和藥企多智慧體語音系統。

量子位AI 評分61

無問芯穹登頂輝達 GPU 運算元榜四大賽道,拿下 88 項單題第一

無問芯穹(Infinigence AI)在輝達研究院的 GPU 運算元效能評測榜 SOL-ExecBench 上先後登頂 L1 基礎運算元、L2 融合運算元、Quant 量化與 FlashInfer-Bench 推理全部四大賽道;截至 10 月 26 日仍在 L1 與 Quant 兩賽道總分全球第一,在 235 道題中拿下 88 項單題第一,超過第二名單題第一數量的 2 倍,其中 L2 賽道的 82 道題中佔了 39 項第一。

Hacker News front pageAI 評分65

市場拋售與利率上升考驗 AI 資料中心交易熱潮

路透社 2026 年 10 月 15 日報導,市場拋售與利率上行正在考驗 AI 資料中心的交易熱潮。報導圍繞以 AI 算力為名的資料中心投資與融資,在資本市場轉冷的背景下能否延續此前的勢頭展開,該文在 Hacker News 上獲得 11 分、5 條評論。原文未給出具體交易金額與涉及企業。

Hacker News front pageAI 評分47

Spinellis:AI 將接管認知工作,思考會變成愛好

軟體工程學者 Diomidis Spinellis 在部落格中判斷,AI 將接管大部分認知工作,思考會像狩獵、書法和木工一樣,從謀生手段變成休閒愛好。他給出三個驅動因素:效能更高、成本更低、可用性更高,並提到 OpenAI 內部模型已解決數百個此前未解的數學問題。文中還提到到 2030 年數萬億美元的資料中心投資將帶來更多算力,政府可能以監管和稅收限制 AI,但歷史上的類似舉措未能阻止技術革命;他建議保持靈活、跟上進展,並在工作之外建立有意義的生活。

機器之心AI 評分63

無問芯穹 GPU 運算元 Agent 登頂 NVIDIA SOL-ExecBench 四賽道

無問芯穹的 GPU 運算元最佳化 Agent 框架在 NVIDIA Research 的 SOL-ExecBench 上登頂 L1 基礎運算元、L2 融合運算元、Quant 量化與 FlashInfer-Bench 推理四大賽道;在全部 235 道題中拿下 88 項單題第一,超過第二名單題第一數量的 2 倍。該系統把工作區、除錯區和評測區徹底隔離,評測容器停用網路,並用 Skills、共享記憶與統一 GPU 排程讓 Agent 完成程式碼生成、評測驗證、效能分析和策略調整的閉環。

TechCrunch AIAI 評分47

AI 用電激增倒逼電網升級,Veir 超導電纜融資 1.1 億美元

AI 資料中心帶來的用電激增正給美國老化的電網施壓,而業內人士認為這反而在推動電網現代化。在 TechCrunch Disrupt 上,Veir 稱其超導電纜輸電距離是傳統電纜的 5 倍、佔用空間僅 1/20,公司本月初完成 1.1 億美元 C 輪融資;WeaveGrid 則用軟體幫電力公司排程負載、降低使用者電費。Rewiring America 的 Kristin Eberhard 表示,AI 用電增長帶來的緊迫感讓行業更願意嘗試此前被擱置的方案。

量子位AI 評分40

商湯大裝置拿下中國 Neocloud 近半份額

沙利文與頭豹發布的《中國全棧 AI 雲服務市場報告 2026H1》顯示,2026 年上半年中國 Neocloud(新雲)市場近 50% 份額由商湯大裝置(SenseCore)拿下。其日均 Token 服務量已從年初的 4000 億增至 9 月底的 6 萬億,並計劃第四季度衝至日均 10 萬億。技術上它用 PD 分離做異構混推,國產卡跑 Prefill、高階 GPU 跑 Decode,整體推理價效比達主流高階 GPU 的 1.25 倍;

Apple Machine Learning Research● 精選AI 評分69

Minions:聚合閒置 Apple Silicon 的分散式虛擬 GPU 雲

一篇新論文提出 Minions:把多臺 macOS 裝置上閒置的 Apple Silicon GPU 聚合成分散式虛擬 GPU 雲,用來跑大規模機器學習推理。作者認為集中式 GPU 基礎設施成本高、彈性有限、資源緊張時等待時間長,而 Apple Silicon 裝置的 GPU 在日常使用中大多處於空閒狀態。論文稱該方案讓團隊能夠利用現有裝置承載推理負載,具體排程方式與效能資料未在摘要中給出。

量子位● 精選AI 評分66

明星研究者創辦的 Neolab 開始轉售 GPU 算力

一批明星研究者創辦的 Neolab 在模型遲遲沒跑出來的情況下,把融資後提前鎖定的算力轉手賣出,做起了轉售 GPU 的生意。具體做法有三種:溢價轉手 1 至 3 年長期算力租約、按天或按周拆賣閒置 GPU 例項,以及直接用開源模型提供按 token 計費的推理 API;背景是 H200 現貨租金一度上漲約 160%、B200 漲 120%、H100 仍有約 35% 溢價。Dealroom 統計的 29 家典型 Neolab 累計融資 230 億美元,真正推出商業化產品的不到 35%,馬斯克則評論當下缺的是電而不是卡。

NVIDIA blogAI 評分61

NVIDIA 發布 Minerva,為 AI 工廠提供端到端可觀測性

NVIDIA 發布 AIOps 平台 Minerva,為 AI 工廠提供端到端可觀測性。它把 GPU、網路、儲存、排程器與工作負載的遙測匯入動態知識圖譜,每小時分析數十億資料點,用於發現異常、預測故障並把告警風暴聚合為帶根因的事件;平台還內建 AI 助手,可連線外部 agentic 工具,目標是提升 GPU 正常執行時間與 AI 工廠產出。

llama.cpp releasesAI 評分42

llama.cpp 新增回撥,推理時可上報計算圖重新分配

llama.cpp 建置 b11567 引入可選的 ggml_backend_sched_realloc_callback,使用者程式碼通過 ggml_backend_sched_set_realloc_callback 註冊後,可在為計算圖預留的緩衝區不足、需要重新分配時收到通知。回撥會報告後端分配方案與圖大小相對上次排程是否發生變化。

機器之心● 精選AI 評分70

奧特曼:PC 囤記憶體太浪費,本地推理不如集中雲端

奧特曼在 Cheeky Pint 採訪中稱,讓每個人把緊缺的 DRAM 裝進電腦、利用率僅 5% 是「相當糟糕」的全球資源配置,記憶體應集中到雲端資料中心。他認為 AI 熱潮已推高 PC 與手機價格,而記憶體廠商因歷史上過度擴產險些破產、如今擴產保守,「看不見的手」已經失靈;OpenAI 的對策是自研晶片、自建資料中心,乃至用機器人運營晶圓廠的「自我複製的資料中心」。

Hacker News front pageAI 評分63

SkyPilot 為 NVL72 做拓撲感知排程,同機架多 27% 可用 GPU

SkyPilot 通過拓撲感知放置、硬體故障就地恢復和共享叢集自動碎片整理,讓 NVL72 上的多節點任務儘量保持在同一機架內,從同樣機架多提供 27% 可用 GPU。背景是跨機架任務仍會落到 InfiniBand:Hugging Face 測得訓練從 NVLink 切到 InfiniBand 吞吐下降 43%,而 NVL72 用統一 NVLink 連線單機架 72 塊 GPU,可把張量並行與專家並行的 all-reduce、all-to-all 留在機架內。

量子位AI 評分53

是石科技發布 TokenFleet 排程框架,首 Token 延遲降 32.4%

是石科技在 2026 CCF 全國高效能運算學術大會期間發布 TokenFleet 分散式排程框架,其中 TokenPilot 在 GLM5.3 調優測試中把 P95 首 Token 延遲降低 32.4%、P50 降低 71.3%。框架還包含面向跨機房容量協同的 FleetMind 和負責混合負載准入與佇列治理的 SLOMax,最佳化目標是滿足服務要求的達標輸出吞吐;另一組測算顯示達標吞吐提高約 29.4%、達標比例從約 67% 升至約 86%,官方註明屬收益測算範例。

TechCrunch AIAI 評分55

Ricursive Intelligence 在 Disrupt 講用 AI 設計晶片應對算力危機

Ricursive Intelligence 兩位創始人在 TechCrunch Disrupt 上介紹,公司正開發能自行設計晶片、從每次迭代中學習並改進後續設計的 AI,目標是自動化並加速晶片設計流程。創始人 Anna Goldie 與 Azalia Mirhoseini 稱未來五年算力需求至少增長 10000 倍,與其建 10000 倍資料中心,不如讓晶片和晶圓用得更高效;

量子位AI 評分50

範式智慧聯合睿思智聯開源生產級 AI 部署平台模域 ModelSphere

10 月 16 日,範式智慧聯合睿思智聯發布一站式生產級 AI 部署平台模域(ModelSphere),面向企業免費開源,以 Apache 2.0 協議在 GitHub 上線。平台把算力管理、模型部署與執行最佳化整合為統一流程,可統一混合排程華為昇騰、天數智芯、摩爾線程、海光 DCU 等國產晶片,無需為不同晶片重寫底層程式碼。

NVIDIA blog● 精選AI 評分66

輝達發布 DSX POD,Vera Rubin 工廠現場部署縮至 14 天

輝達在 GTC Berlin 發布 DSX POD 參考設計:由合作伙伴在模組化集裝箱內整合並驗證完整的 Vera Rubin AI 工廠,站點水電就緒後現場部署可從六個月縮短到 14 天。Vera Rubin 已全面量產,DSX 平台稱冷卻用水最多減少 100%,同等 AI 產出省電 30%。

The Verge AIAI 評分68

Anthropic 遞交 S-1:承認 AI 資料中心依賴天然氣

Anthropic 在提交給美國 SEC 的 S-1 上市檔案中承認,其 AI 資料中心正越來越依賴天然氣(主要成分是甲烷)供電。檔案稱,爭奪電力供應與電力充足的資料中心選址的競爭十分激烈,公司資料中心的建設因此容易受到燃料成本上漲和現有供應鏈約束的衝擊。這意味著生成式 AI 的算力擴張與化石燃料繫結,供電成本與穩定性風險已被寫進公開的上市披露。