AISpot

搜尋

依意思最接近的 30 筆

NVIDIA blogAI 評分61

NVIDIA 發布 Minerva,為 AI 工廠提供端到端可觀測性

NVIDIA 發布 AIOps 平台 Minerva,為 AI 工廠提供端到端可觀測性。它把 GPU、網路、儲存、排程器與工作負載的遙測匯入動態知識圖譜,每小時分析數十億資料點,用於發現異常、預測故障並把告警風暴聚合為帶根因的事件;平台還內建 AI 助手,可連線外部 agentic 工具,目標是提升 GPU 正常執行時間與 AI 工廠產出。

Hugging Face blog● 精選AI 評分69

Ai2 用 GPU 時間預算替代優先順序排程

Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。

TechCrunch AI● 精選AI 評分80

Google 開源 TorchTPU,PyTorch 應用改配置即可跑在 TPU 上

Google 宣布開源 TorchTPU,PyTorch 應用只需改配置、無需重寫程式碼,就能執行在 Google 的 TPU 與 Google Cloud 上。據稱 85% 的 AI 應用基於 PyTorch,而它的許多特性原本專為 Nvidia GPU 設計。前一天 Amazon 也發布 TorchNeuron 支援自家 Trainium,並向 PyTorch 主專案提交程式碼,把各項特性與 Nvidia 晶片解耦。

Latent SpaceAI 評分60

SF Compute 談可程式設計資料中心:GPU 小時可買賣

SF Compute CEO Evan Conrad 在 AI Engineer NYC 上介紹了把資料中心做成可程式設計算力市場的思路。過去自建 GPU 超算叢集需要 5000 萬至 1 億美元前期投入,並要自己打通從硬體、韌體到核心的整棧;如今使用者可在其平台買賣當下與未來的 GPU 小時,按能否中斷、儲存恢復速度、GPU 代際與網路配置等約束撮合訂單。平台強調按物理資產進行交割,也就是向買方交付真正可用的算力,無須按價格指數支付現金;

Apple Machine Learning Research● 精選AI 評分69

Minions:聚合閒置 Apple Silicon 的分散式虛擬 GPU 雲

一篇新論文提出 Minions:把多臺 macOS 裝置上閒置的 Apple Silicon GPU 聚合成分散式虛擬 GPU 雲,用來跑大規模機器學習推理。作者認為集中式 GPU 基礎設施成本高、彈性有限、資源緊張時等待時間長,而 Apple Silicon 裝置的 GPU 在日常使用中大多處於空閒狀態。論文稱該方案讓團隊能夠利用現有裝置承載推理負載,具體排程方式與效能資料未在摘要中給出。

Google Developers blog● 精選AI 評分68

Google 發布 ML Drift:端側通用 GPU 推理框架

Google AI Edge 推出 ML Drift,一個面向端側 AI 與機器學習推理的高效能通用 GPU 計算框架。它把 OpenGL ES、OpenCL、Metal、WebGPU 等底層硬體與圖形計算 API 抽象掉,讓開發者無需直接處理這些介面,就能在移動端與桌面端建置即時互動式 ML 體驗,覆蓋從複雜影片特效到生成式 AI 的場景。

NVIDIA blogAI 評分62

Google Cloud 宣布 Vera Rubin A5X 例項下月正式可用

Google Cloud 與 NVIDIA 宣布 Vera Rubin 基礎設施正式可用,A5X 例項將於下月上線,並計劃擴充套件至歐洲。A5X 整合 Vera Rubin NVL72、ConnectX-9 SuperNICs、Virgo 網路與第四代液冷,面向大規模 agentic 推理與強化學習,Google Cloud 計劃在多個站點部署最多 96 萬塊 Rubin GPU。

Google Developers blog● 精選AI 評分69

Google 補全 Coral NPU 開源架構,邊緣推理 1 TOPS、功耗 10 mW

Google Research 補全了 32 位開源 Coral NPU 的 RISC-V 架構,新增 Matrix Execution Unit 後邊緣推理最高 1 TOPS,平均功耗目標 10 mW。同步釋出 v1.0 開源 IREE/MLIR 編譯器,JAX、PyTorch、TensorFlow 模型可直接編譯到 Coral NPU,不必手寫彙編,從模型到晶片共用一條開源工具鏈。

Hacker News front pageAI 評分69

Intel 公布 D270 推理 GPU:480GB 記憶體、350W 風冷

Intel 公布面向 agentic AI 的資料中心推理 GPU D270,單卡最高 480GB LPDDR5X 記憶體,350W 風冷,不依賴 HBM。晶片面積從圖形與光追管線轉向 32 個 Xe3P 核心和 256 個 XMX 矩陣引擎,用於加速長上下文、多輪 agent 工作流的 prefill 與高併發服務。

NVIDIA blog● 精選AI 評分72

NVIDIA 推出 DGX Spark 64GB,支援八機叢集執行 GLM 5.3

DGX Spark 64GB 將於 10 月 23 日由合作伙伴開售,可執行 Nemotron 3.5 Bolt 74B、Qwen3.8 27B、Gemma 4 26B-A4B 等模型。藉助內建 ConnectX-7,最多八臺 DGX Spark 可組成叢集,合計 1TB 統一記憶體,足以承載 GLM 5.3 這類前沿模型。本月晚些時候 NVIDIA Sync 將上線 Model Launcher,可一鍵下載匹配配置的模型與容器並接入 OpenCode;

NVIDIA blogAI 評分59

Mistral Large 4 用 3800 塊 GB200 訓練,輝達歐洲雲合作伙伴同步擴容

輝達在歐洲的雲合作伙伴集體擴容,其中 Mistral 在自有歐洲資料中心用 3800 塊 Grace Blackwell GPU 訓練出最新前沿多模態模型 Mistral Large 4,覆蓋編碼、agentic 工作流與多模態理解,其 Vera Rubin 基礎設施計劃 2027 年交付。Nscale 用 GB300 NVL72 與 DSX MaxLPS,在同等供電預算下多部署 37% 的 GPU,聚合推理吞吐提升近 50%。

TechCrunch AI● 精選AI 評分81

AWS 發布 TorchNeuron,一行配置把 PyTorch 應用遷到 Trainium

AWS 發布開發工具 TorchNeuron,用 PyTorch 寫的 AI 應用只需改一行配置即可跑在自研晶片 Trainium 上,無需重寫程式碼。AWS 稱約 85% 的 AI 應用基於 PyTorch,熟悉 PyTorch 的開發者可直接上手。亞馬遜還會把解耦 PyTorch 與特定晶片的程式碼回饋上游,推動框架硬體無關;Trainium 兼顧訓練與推理,AWS 強調價效比,語音 AI 公司 Deepgram 遷移後每美元處理音訊量提升 70%。

TechCrunch AIAI 評分34

前輝達高管:物理 AI 仍處樂高時代,尚未迎來機器人版 ChatGPT 時刻

前輝達產品營銷負責人、現 Techable Ventures 創始人 Amulya Vishwanath 表示,物理 AI 目前仍處於「樂高時代」,機器人領域的 ChatGPT 時刻尚未到來。她認為,當前行業仍在搭建機械手、執行器等基礎構件,通用與專用機器人並行推進,只有這些模組成熟組合後才可能迎來突破。她同時強調人才是關鍵壁壘,大量人才正流向 Anthropic、輝達等大公司。

NVIDIA blogAI 評分25

輝達稱 Vera Rubin NVL72 每兆瓦吞吐量超 GB300 30 倍

輝達援引 SemiAnalysis AgentX 資料稱,Vera Rubin NVL72 每兆瓦吞吐量超過 GB300 NVL72 的 30 倍,在 DeepSeek V4 Pro 上每百萬 token 成本最多低 45 倍。輝達以「高產、耐用、通用」概括 AI 工廠回報邏輯:每兆瓦 token 數決定收益,A100 出貨六年後仍在商用,CoreWeave 已將 2020 年首批裝置的預訂延長至 2029 年。

The Verge AIAI 評分51

首批 RTX Spark 筆記本發布:Arm 晶片,Windows 專門最佳化

微軟與輝達在舊金山為首批 RTX Spark 筆記本舉辦發表會,這是輝達新的 AI PC 計算平台。其晶片採用 Arm 架構,而非 AMD、Intel 傳統的 x64,並搭配高效能 GPU,定位面向 AI 的 Windows 筆記本。微軟與輝達為此投入大量工作,讓 Windows 適配這批新機器。

NVIDIA blog● 精選AI 評分66

輝達發布 DSX POD,Vera Rubin 工廠現場部署縮至 14 天

輝達在 GTC Berlin 發布 DSX POD 參考設計:由合作伙伴在模組化集裝箱內整合並驗證完整的 Vera Rubin AI 工廠,站點水電就緒後現場部署可從六個月縮短到 14 天。Vera Rubin 已全面量產,DSX 平台稱冷卻用水最多減少 100%,同等 AI 產出省電 30%。

NVIDIA blogAI 評分43

NVIDIA RTX Spark 發布,一臺面向本地 AI 的 Windows PC

NVIDIA 將於 10 月 16 日正式發布 RTX Spark,一款面向創作者、玩家和 AI agent 的 Windows PC,主打本地 AI 效能。Tom's Hardware、TrustedReviews 等媒體評測稱其遊戲與本地 AI 表現突出,Artificial Analysis 也提供了獨立測試資料。當天舊金山、柏林、臺北、北京、首爾、伊斯坦布林等地舉辦發布活動,多數需提前報名,北京場通過微信報名。

機器之心● 精選AI 評分83

崑崙萬維開源 Matrix-Game 4.0:單張 RTX 5090 即時跑 AI 遊戲

崑崙萬維發布並開源 Matrix-Game 4.0,稱其為全球首個可在消費級顯示卡上即時執行的影片大模型遊戲。基於 Wan2.2 5B 改造,單張 RTX 5090 上以 480p 實現 60 FPS 遊戲執行,按鍵到畫面端到端延遲低於 150ms,1 步去噪穩態生成 83 FPS,視訊記憶體峰值約 18.5 GiB。作為對比,輝達同期 StreamRender-H3 需 8 張 GB200,互動延遲約 500ms。開源內容包括模型權重和可由開發者直接修改、擴充套件的遊戲程式碼。

r/LocalLLaMA top of the dayAI 評分42

專用推理引擎興起,放棄通用性換極致效能

近期出現一批極窄用途的推理執行時,包括 Strata、ninfer、DwarfStar、Splash、llamAmpere、gufo 等。它們刻意放棄 llama.cpp 與 vLLM 擅長的通用性,只針對少數模型甚至單一硬體家族(如 Strix Halo)做最佳化。作者認為通用執行時負責相容、過擬合執行時負責極致效能將成為常態,並有助於智慧的民主化與去中心化,讓現有硬體在特定配置下榨出最大輸出。

Hacker News front pageAI 評分74

RTX Spark 筆記本裝上 Arch Linux,116GiB 記憶體池由 CPU 與 CUDA 共用

官方只支援 Windows 的 ASUS ProArt P16(128GB 記憶體版)已被裝上 Arch Linux ARM 並能正常使用。作者基於 NVIDIA 面向 Ubuntu 的核心工作,補齊 ACPI 覆蓋、hid-asus 鍵盤與音訊驅動,做出可啟動映象,並擴充套件 Archinstall 4.5 來安裝硬體支援;7-Zip 單執行緒成績與 Windows 基本持平,20 執行緒壓縮約領先 5%、解壓約領先 3%。

NVIDIA blogAI 評分55

NVIDIA Vera CPU 獲 Nebius、Nscale 等歐洲雲商採用

NVIDIA Vera CPU 被 Nebius、Nscale、Verda 等歐洲 AI 雲服務商採用,用於搭建面向 agent 的基礎設施。Vera 承擔 agent 檢索資訊、執行程式碼與執行工具時的 CPU 計算,官方稱在同時執行數千個任務時仍能保持回應速度。Dell、HPE、Lenovo、Supermicro、Bull 將推出 Vera 系統;ClickHouse、SAP、Elastic 等稱早期測試中分析與 ETL 負載表現良好;

NVIDIA blogAI 評分53

輝達與德國簽約推進工業 AI,並投資四家初創

德國聯邦政府與輝達簽署意向宣告,將聯合推進面向物理 AI 的前沿模型,並對接德國“工業 4.0 平台”。黃仁勳同時宣布投資 Agile Robots、Avelios Medical、Mirelo、Reflex Aerospace 四家德國初創,屬於其在歐洲近 100 億美元投入的一部分。西門子同日宣布與輝達合作推進自主工廠,全虛擬產線除錯可減少最多 85% 的工程工作量,基於智慧體的生產規劃最高可降本 20%。

Hacker News front page● 精選AI 評分84

Google 開源 TorchTPU,為 TPU 提供 PyTorch 原生後端

Google 開源 TorchTPU,讓 PyTorch 模型可直接跑在 TPU 上,PyPI 最新版本為 0.2.0。專案提供 TPU 的 ATen 核心實現、XLA 計算編譯快取,支援資料並行與張量並行分散式訓練,並接入 torch.compile() 圖模式執行,附帶 Llama、Qwen、ResNet、DLRM、minGPT、UNet 等範例。安裝要求 Python 3.11+,Marimo 互動筆記本需在 TPU VM(如 v6e 例項)上執行。

量子位● 精選AI 評分71

SpaceX 為 Anthropic 供算力:22 萬塊 GPU,Claude Code 額度提高

SpaceX 與 Anthropic 的算力協議包含超 300 兆瓦新容量和 22 萬塊輝達 GPU,並提高 Claude Code 與 API 的使用額度;SpaceX 8 月首份財報顯示季度 AI 業務收入 25.61 億美元,同比增長 247%。算力緊張正在重塑矽谷關係,Google 2024 年花 27 億美元請回的 Gemini 聯合負責人 Noam Shazeer 因團隊算力被重新分配轉投 OpenAI。

量子位● 精選AI 評分88

Anthropic 實測:GLM-5.2 端到端自主複製攻陷 8 臺裝置

Anthropic 兩位安全研究員 William Zhou 與 Daniel Freeman 發布「自主複製與適應(ARA)」安全實驗:在 8 個 GCP 節點(Android 15 redroid)組成的隔離網路裡,GLM-5.2 在 5 次測試中 4 次自主攻陷並部署全部 8 臺裝置,另 1 次拿下 7 臺。研究還顯示,Qwen3.5-9B 能在 9 種硬體中的 8 種上自行排錯並部署 Llama3.1-8B;

X @elonmuskAI 評分19

馬斯克稱 SpaceX 曾向 AWS、GCP 求租推理算力

馬斯克表示,SpaceX 曾嘗試從 AWS、GCP 或任何其他供應商租用推理算力,目的是把負載從自家訓練叢集上分流出去。他稱此前流傳的那段對話正是 SpaceX 在這些洽談中經歷的情形,但未披露涉及的具體供應商、算力規模、報價與時間。該表態發布於 2026 年 10 月 19 日。

TechCrunch AIAI 評分41

Gudea 獲 700 萬美元種子輪,用 AI 預警社交媒體危機

Gudea 上週宣布完成 700 萬美元種子輪融資,由 Mudita Venture Partners 和 Silicon Road Ventures 聯合領投,公司累計融資約 1500 萬美元。其 AI 平台分析資訊在 X、Reddit、TikTok 等 500 多個主流與邊緣網站上的傳播路徑與推動者,而不只是統計提及量和曝光數,目前已有近 40 家客戶,包括財富 50 強電信與零售企業、政府機構和一家大型 AI 實驗室。