搜尋 關鍵字 語意 依意思最接近的 30 筆
機器之心● 精選 10/24 14:56 AI 評分70
VentureBeat Intelligence 在 2026 年 7 至 9 月的三輪調研(385 名受訪者)顯示,79% 的企業表示其 GPU 至少一半時間完全閒置,這一比例三個月穩定在 77% 至 81%。但在這批企業中,70% 仍計劃未來 12 個月引入、擴充或更換 AI 計算平台;計劃採用新平台的受訪者中有 91% 拿不出經財務部門稽核的 ROI 資料。新採購意向中 90% 投向公有云與模型 API,僅 8% 考慮擴建本地私有叢集。
Hacker News front page10/30 11:16 AI 評分42
這段影片認為,當前的 AI 熱潮不能簡單類比 2000 年網際網路泡沫:網際網路時代鋪設的光纖等基礎設施壽命可達數十年,而支撐 AI 的 GPU 大約三年就會過時。影片據此說明 AI 基礎設施資產的折舊節奏與網際網路時代不同,進而影響對泡沫與投資回報的判斷。該影片在 Hacker News 上獲得 5 分、2 條評論,完整論證需看原影片。
Latent Space● 精選 10/20 19:31 AI 評分65
SF Compute CEO Evan Conrad 在 Latent Space 播客中表示,其平台不只買賣 GPU 小時的現貨與遠期,還負責物理交付:買家拿到的是能直接跑負載的算力,而非對指數的現金結算。為此公司自建了雲的大部分運營能力,處理可中斷性、儲存恢復速度、GPU 代際與網路軟體配置等同時影響合約和價格的約束。他還提到可線上切分 InfiniBand 網路,以及此前 2.45 億美元的算力銷售。
Hugging Face blog● 精選 10/9 15:20 AI 評分69
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。
Hacker News front page10/12 21:35 AI 評分69
Intel 公布面向 agentic AI 的資料中心推理 GPU D270,單卡最高 480GB LPDDR5X 記憶體,350W 風冷,不依賴 HBM。晶片面積從圖形與光追管線轉向 32 個 Xe3P 核心和 256 個 XMX 矩陣引擎,用於加速長上下文、多輪 agent 工作流的 prefill 與高併發服務。
量子位● 精選 10/26 09:31 AI 評分66
一批明星研究者創辦的 Neolab 在模型遲遲沒跑出來的情況下,把融資後提前鎖定的算力轉手賣出,做起了轉售 GPU 的生意。具體做法有三種:溢價轉手 1 至 3 年長期算力租約、按天或按周拆賣閒置 GPU 例項,以及直接用開源模型提供按 token 計費的推理 API;背景是 H200 現貨租金一度上漲約 160%、B200 漲 120%、H100 仍有約 35% 溢價。Dealroom 統計的 29 家典型 Neolab 累計融資 230 億美元,真正推出商業化產品的不到 35%,馬斯克則評論當下缺的是電而不是卡。
NVIDIA blog10/22 15:00 AI 評分61
NVIDIA 發布 AIOps 平台 Minerva,為 AI 工廠提供端到端可觀測性。它把 GPU、網路、儲存、排程器與工作負載的遙測匯入動態知識圖譜,每小時分析數十億資料點,用於發現異常、預測故障並把告警風暴聚合為帶根因的事件;平台還內建 AI 助手,可連線外部 agentic 工具,目標是提升 GPU 正常執行時間與 AI 工廠產出。
Apple Machine Learning Research● 精選 10/12 00:00 AI 評分69
一篇新論文提出 Minions:把多臺 macOS 裝置上閒置的 Apple Silicon GPU 聚合成分散式虛擬 GPU 雲,用來跑大規模機器學習推理。作者認為集中式 GPU 基礎設施成本高、彈性有限、資源緊張時等待時間長,而 Apple Silicon 裝置的 GPU 在日常使用中大多處於空閒狀態。論文稱該方案讓團隊能夠利用現有裝置承載推理負載,具體排程方式與效能資料未在摘要中給出。
NVIDIA blog10/21 10:45 AI 評分62
Google Cloud 與 NVIDIA 宣布 Vera Rubin 基礎設施正式可用,A5X 例項將於下月上線,並計劃擴充套件至歐洲。A5X 整合 Vera Rubin NVL72、ConnectX-9 SuperNICs、Virgo 網路與第四代液冷,面向大規模 agentic 推理與強化學習,Google Cloud 計劃在多個站點部署最多 96 萬塊 Rubin GPU。
Google Developers blog● 精選 10/8 22:10 AI 評分68
Google AI Edge 推出 ML Drift,一個面向端側 AI 與機器學習推理的高效能通用 GPU 計算框架。它把 OpenGL ES、OpenCL、Metal、WebGPU 等底層硬體與圖形計算 API 抽象掉,讓開發者無需直接處理這些介面,就能在移動端與桌面端建置即時互動式 ML 體驗,覆蓋從複雜影片特效到生成式 AI 的場景。
機器之心● 精選 10/26 03:29 AI 評分84
開源專案 gpu-unlock-ada 通過修改 GPU 啟動階段的暫存器配置,讓 RTX 4090 在 FP16/BF16 輸入、FP32 累加的 Tensor Core 運算上,吞吐率從 165.6 TFLOPS 提升到 331.6 TFLOPS,接近翻倍,且無需刷 BIOS 或修改官方驅動。同樣的思路已在 RTX 3090 Ti、3080 等 30 系顯示卡和 2018 年的 RTX 2080 Ti 上覆現,Windows 11 也出現了 UEFI 實驗方案。
機器之心● 精選 10/24 14:37 AI 評分90
Google 在 PyTorch Conference 2026 上開源 TorchTPU,讓 TPU 與 GPU、CPU 並列,成為 PyTorch 的原生裝置。專案由 Google 和 Meta 聯合開發;在 Hugging Face Transformers v5 裡只需傳入 device_map="tpu" 即可部署,vLLM、SGLang、Ray、TorchTitan 等已同步接入。
NVIDIA blog10/21 10:30 AI 評分59
輝達在歐洲的雲合作伙伴集體擴容,其中 Mistral 在自有歐洲資料中心用 3800 塊 Grace Blackwell GPU 訓練出最新前沿多模態模型 Mistral Large 4,覆蓋編碼、agentic 工作流與多模態理解,其 Vera Rubin 基礎設施計劃 2027 年交付。Nscale 用 GB300 NVL72 與 DSX MaxLPS,在同等供電預算下多部署 37% 的 GPU,聚合推理吞吐提升近 50%。
量子位10/28 08:00 AI 評分61
無問芯穹(Infinigence AI)在輝達研究院的 GPU 運算元效能評測榜 SOL-ExecBench 上先後登頂 L1 基礎運算元、L2 融合運算元、Quant 量化與 FlashInfer-Bench 推理全部四大賽道;截至 10 月 26 日仍在 L1 與 Quant 兩賽道總分全球第一,在 235 道題中拿下 88 項單題第一,超過第二名單題第一數量的 2 倍,其中 L2 賽道的 82 道題中佔了 39 項第一。
The Verge AI10/15 14:30 AI 評分51
微軟與輝達在舊金山為首批 RTX Spark 筆記本舉辦發表會,這是輝達新的 AI PC 計算平台。其晶片採用 Arm 架構,而非 AMD、Intel 傳統的 x64,並搭配高效能 GPU,定位面向 AI 的 Windows 筆記本。微軟與輝達為此投入大量工作,讓 Windows 適配這批新機器。
NVIDIA blog10/23 02:00 AI 評分41
Firebird 與哈薩克政府簽署投資協議,獲美國出口許可在當地部署 4.5 萬塊 NVIDIA Grace Blackwell GPU,首期 AI 工廠與 Kazakhtelecom 共建,目標 2027 年第三季度商用,二期規劃使總容量達約 500 兆瓦。
TechCrunch AI● 精選 10/20 18:38 AI 評分80
Google 宣布開源 TorchTPU,PyTorch 應用只需改配置、無需重寫程式碼,就能執行在 Google 的 TPU 與 Google Cloud 上。據稱 85% 的 AI 應用基於 PyTorch,而它的許多特性原本專為 Nvidia GPU 設計。前一天 Amazon 也發布 TorchNeuron 支援自家 Trainium,並向 PyTorch 主專案提交程式碼,把各項特性與 Nvidia 晶片解耦。
Google Developers blog● 精選 10/20 16:50 AI 評分69
Google Research 補全了 32 位開源 Coral NPU 的 RISC-V 架構,新增 Matrix Execution Unit 後邊緣推理最高 1 TOPS,平均功耗目標 10 mW。同步釋出 v1.0 開源 IREE/MLIR 編譯器,JAX、PyTorch、TensorFlow 模型可直接編譯到 Coral NPU,不必手寫彙編,從模型到晶片共用一條開源工具鏈。
NVIDIA blog● 精選 10/21 10:50 AI 評分65
NVIDIA 在 GTC 柏林公布本地 AI 硬體全線進展:DGX Spark 64GB 將於 10 月 23 日由合作伙伴開售,最多八臺組成叢集、合計 1TB 統一記憶體。DGX Station for Windows 定於 12 月推出,支援製造業應用與 agent harness;Linux 版 DGX Station 以 748GB 一致記憶體服務 30 名以上使用者。
NVIDIA blog10/19 19:27 AI 評分53
德國聯邦政府與輝達簽署意向宣告,將聯合推進面向物理 AI 的前沿模型,並對接德國“工業 4.0 平台”。黃仁勳同時宣布投資 Agile Robots、Avelios Medical、Mirelo、Reflex Aerospace 四家德國初創,屬於其在歐洲近 100 億美元投入的一部分。西門子同日宣布與輝達合作推進自主工廠,全虛擬產線除錯可減少最多 85% 的工程工作量,基於智慧體的生產規劃最高可降本 20%。
Hacker News front page10/29 15:45 AI 評分63
SkyPilot 通過拓撲感知放置、硬體故障就地恢復和共享叢集自動碎片整理,讓 NVL72 上的多節點任務儘量保持在同一機架內,從同樣機架多提供 27% 可用 GPU。背景是跨機架任務仍會落到 InfiniBand:Hugging Face 測得訓練從 NVLink 切到 InfiniBand 吞吐下降 43%,而 NVL72 用統一 NVLink 連線單機架 72 塊 GPU,可把張量並行與專家並行的 all-reduce、all-to-all 留在機架內。
Hacker News front page● 精選 10/24 09:58 AI 評分81
GPU-unlock 1.0.0 發布,這個 Linux 核心模組能在 NVIDIA 驅動繫結前解鎖 GA102/GA103/GA104/GA106(RTX 30 系部分顯示卡)的 FP/BF16 指令發射速率,使其達到專業卡水平。3090 Ti 實測 BF16 GEMM 從 87.50 升至 157.41 TFLOPS,FP16 從 87.46 升至 118.39,TF32 從 42.58 升至 82.61;
TechCrunch AI10/20 16:20 AI 評分34
前輝達產品營銷負責人、現 Techable Ventures 創始人 Amulya Vishwanath 表示,物理 AI 目前仍處於「樂高時代」,機器人領域的 ChatGPT 時刻尚未到來。她認為,當前行業仍在搭建機械手、執行器等基礎構件,通用與專用機器人並行推進,只有這些模組成熟組合後才可能迎來突破。她同時強調人才是關鍵壁壘,大量人才正流向 Anthropic、輝達等大公司。
機器之心● 精選 11/6 06:23 AI 評分70
至知創新研究院發布分散式計算系統 Tessera,在 512 張 GPU 上完成約 3070 萬原子的完整能量與受力計算,單步耗時 1.684 秒,擴充套件效率達 89.7%。系統基於 E2Former V2 等變注意力架構,用 Hilbert 空間填充曲線劃分原子、每 10 步重建鄰居圖,並讓跨裝置通訊與本地計算重疊,把多層訊息傳遞的機器學習力場推到數千萬原子規模。
NVIDIA blog● 精選 10/2 13:00 AI 評分80
NVIDIA 宣布 DGX Spark 新增 64GB 統一記憶體版本,10 月 23 日由 Acer、ASUS、Dell、Gigabyte、HP、MSI 發售,起售價 4999 美元。該機型保留 GB10 Grace Blackwell 晶片、DGX OS 與完整 AI 軟體棧,支援最高 1000 億引數模型本地執行;兩臺可通過 ConnectX-7 直連組成 128GB 叢集,支援 2000 億引數模型,官方 Qwen 3.8 27B 測試效能提升至 1.7 倍。
TechCrunch AI10/30 13:00 AI 評分56
Runware 宣布要建工廠,像造車一樣在流水線上量產模組化 AI 資料中心,目標到 2028 年讓羅馬尼亞工廠日產能達到 30 兆瓦,約合每月近 1 吉瓦。其 Sonic 推理艙的建造時間將從三週縮短到一天,運抵後 48 小時內完成安裝上線;客戶可自備 GPU 並支付月費,也可直接向 Runware 租算力,電力與網路另計。
NVIDIA blog10/15 05:00 AI 評分30
由 Ericsson、AstraZeneca、Saab、SEB 等組成的瑞典聯合體啟用 Sferical One 超算,執行在兩套 NVIDIA DGX SuperPOD 上,共 16 機架 DGX GB300 系統、1152 塊 GPU,並將基於 Nemotron 開源模型建置服務。北歐正成為歐洲增長最快的基礎設施樞紐,AI 雲預計到 2027 年底在該地區部署 1 吉瓦容量,Bitdeer、CoreWeave、Nscale 等均在列。
Hacker News front page● 精選 11/4 08:46 AI 評分79
在 MSI Prestige 等 RTX Spark 筆記本上安裝原生 Linux 後,插電時 GPU 被鎖在約 780MHz,GPT-OSS-120B 推理只有 13.9 tokens/s,而 Windows 與 WSL 都在 65 tokens/s 左右,約慢 5 倍。
NVIDIA blog● 精選 10/21 09:30 AI 評分66
輝達在 GTC Berlin 發布 DSX POD 參考設計:由合作伙伴在模組化集裝箱內整合並驗證完整的 Vera Rubin AI 工廠,站點水電就緒後現場部署可從六個月縮短到 14 天。Vera Rubin 已全面量產,DSX 平台稱冷卻用水最多減少 100%,同等 AI 產出省電 30%。
TechCrunch AI10/8 15:00 AI 評分15
TechCrunch Disrupt 2026 將設 Smart Systems Stage 專場,由 Ambrosia Energy CEO Ben Longmier 與 Bloom Energy 資料中心解決方案負責人 Bill Thayer 對談 AI 基礎設施熱潮中的贏家。議題聚焦電力、電網、資料中心、冷卻與電氣裝置等物理層約束,以及哪些短缺會演變成獨立品類。