AISpot

搜尋

依意思最接近的 16 筆

Hacker News front pageAI 評分69

Intel 公布 D270 推理 GPU:480GB 記憶體、350W 風冷

Intel 公布面向 agentic AI 的資料中心推理 GPU D270,單卡最高 480GB LPDDR5X 記憶體,350W 風冷,不依賴 HBM。晶片面積從圖形與光追管線轉向 32 個 Xe3P 核心和 256 個 XMX 矩陣引擎,用於加速長上下文、多輪 agent 工作流的 prefill 與高併發服務。

Apple Machine Learning Research● 精選AI 評分69

Minions:聚合閒置 Apple Silicon 的分散式虛擬 GPU 雲

一篇新論文提出 Minions:把多臺 macOS 裝置上閒置的 Apple Silicon GPU 聚合成分散式虛擬 GPU 雲,用來跑大規模機器學習推理。作者認為集中式 GPU 基礎設施成本高、彈性有限、資源緊張時等待時間長,而 Apple Silicon 裝置的 GPU 在日常使用中大多處於空閒狀態。論文稱該方案讓團隊能夠利用現有裝置承載推理負載,具體排程方式與效能資料未在摘要中給出。

Hugging Face blog● 精選AI 評分69

Ai2 用 GPU 時間預算替代優先順序排程

Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。

Google Developers blog● 精選AI 評分68

Google 發布 ML Drift:端側通用 GPU 推理框架

Google AI Edge 推出 ML Drift,一個面向端側 AI 與機器學習推理的高效能通用 GPU 計算框架。它把 OpenGL ES、OpenCL、Metal、WebGPU 等底層硬體與圖形計算 API 抽象掉,讓開發者無需直接處理這些介面,就能在移動端與桌面端建置即時互動式 ML 體驗,覆蓋從複雜影片特效到生成式 AI 的場景。

量子位● 精選AI 評分71

SpaceX 為 Anthropic 供算力:22 萬塊 GPU,Claude Code 額度提高

SpaceX 與 Anthropic 的算力協議包含超 300 兆瓦新容量和 22 萬塊輝達 GPU,並提高 Claude Code 與 API 的使用額度;SpaceX 8 月首份財報顯示季度 AI 業務收入 25.61 億美元,同比增長 247%。算力緊張正在重塑矽谷關係,Google 2024 年花 27 億美元請回的 Gemini 聯合負責人 Noam Shazeer 因團隊算力被重新分配轉投 OpenAI。

NVIDIA blog● 精選AI 評分80

NVIDIA DGX Spark 推出 64GB 版,10 月 23 日 4999 美元起

NVIDIA 宣布 DGX Spark 新增 64GB 統一記憶體版本,10 月 23 日由 Acer、ASUS、Dell、Gigabyte、HP、MSI 發售,起售價 4999 美元。該機型保留 GB10 Grace Blackwell 晶片、DGX OS 與完整 AI 軟體棧,支援最高 1000 億引數模型本地執行;兩臺可通過 ConnectX-7 直連組成 128GB 叢集,支援 2000 億引數模型,官方 Qwen 3.8 27B 測試效能提升至 1.7 倍。

TechCrunch AIAI 評分70

AWS 稱已停止在與政府機構的資料中心談判中使用保密協議

AWS CEO Matt Garman 在部落格中表示,公司已不再在與政府機構合作建設資料中心時使用保密協議(NDA)。他同時反駁資料中心耗水過多、推高電價、汙染嚴重、無益社群四點說法,稱資料中心直接用水僅佔美國工業用水 0.5%,備用發電機 99.9% 時間閒置。目前全美有 100 多個資料中心禁令正在審議,紐約已宣布暫停大型資料中心許可一年。

NVIDIA blogAI 評分25

輝達稱 Vera Rubin NVL72 每兆瓦吞吐量超 GB300 30 倍

輝達援引 SemiAnalysis AgentX 資料稱,Vera Rubin NVL72 每兆瓦吞吐量超過 GB300 NVL72 的 30 倍,在 DeepSeek V4 Pro 上每百萬 token 成本最多低 45 倍。輝達以「高產、耐用、通用」概括 AI 工廠回報邏輯:每兆瓦 token 數決定收益,A100 出貨六年後仍在商用,CoreWeave 已將 2020 年首批裝置的預訂延長至 2029 年。

Hacker News front pageAI 評分67

Google 芬蘭兩處資料中心因未完成環評被令停工

芬蘭監管機構 LVV 要求 Google 在 10 月 23 日前暫停 Muhos 和 Kajaani 兩處資料中心的準備性施工,因其未完成環境影響評估。該工地屬 Google 在芬蘭北部約 130 億歐元的專案;Tuike Finland Oy 已在 Muhos 砍伐 330 公頃森林,Kajaani 伐木面積接近 200 公頃。LVV 稱伐樹、剝離表土與修路已大幅改變環境,不遵守將面臨罰款;Google 回應稱未達自身高標準,並計劃在 Muhos 植樹 130 公頃。

The Verge AIAI 評分67

微軟發布第三代自研 AI 晶片 Maia 300,2027 年投產

微軟發布第三代自研 AI 晶片 Maia 300,將其定位為微軟產品與服務的主要 AI 推理系統,計劃 2027 年開始投入生產部署。微軟雲業務執行副總裁 Scott Guthrie 表示,相比主流的 GPU 系統,Maia 300 每兆瓦可多輸出 40% 的 token,並更能應對最新的推理模型與 agentic 任務。該晶片的設計目標是提升雲端 AI 工作負載的成本與效率,減少對 Nvidia GPU 的依賴。

NVIDIA blog● 精選AI 評分71

NVIDIA 向 OCP 貢獻 Vera Rubin 機架設計,MGX 1.2 支援 250kW 機架

在 OCP 全球峰會上,NVIDIA 通過開放的 MGX 架構把 Vera Rubin 機架與計算托盤設計貢獻給 OCP,為系統廠商提供下一代 AI 工廠的共同基礎。更新的 MGX 1.2 規格新增機架級盲插液冷、可互操作機架互連和液冷 5000A 母線,支援最高 250kW 機架部署,並加入原生 19 英寸裝置支援。

TechCrunch AIAI 評分15

TechCrunch Disrupt 2026 設專場談 AI 基礎設施瓶頸與機會

TechCrunch Disrupt 2026 將設 Smart Systems Stage 專場,由 Ambrosia Energy CEO Ben Longmier 與 Bloom Energy 資料中心解決方案負責人 Bill Thayer 對談 AI 基礎設施熱潮中的贏家。議題聚焦電力、電網、資料中心、冷卻與電氣裝置等物理層約束,以及哪些短缺會演變成獨立品類。

Hacker News front pageAI 評分73

AI 設計的開源加速卡 openTPU 跑通十餘款模型

一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重,輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3,LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s;解碼受 DRAM 頻寬限制,實測跑到峰值的 82%-94%。

Ars Technica AIAI 評分73

美國逮捕涉嫌走私 3 億美元輝達晶片至中國的科技公司 CEO

美國司法部 10 月 2 日宣布逮捕 38 歲的 Earthmade Computer 執行長 Greg Lui,指控其利用虛假檔案將價值超 3 億美元的受出口管制輝達晶片伺服器走私至中國。起訴書稱,Lui 涉嫌與馬來西亞、新加坡等南亞國家的貨運代理公司合謀,非法轉運輝達 A100 和 H100 GPU。美方擔憂這些晶片可用於訓練大語言模型,可能帶來國家安全風險。