搜尋 關鍵字 語意 依意思最接近的 30 筆
機器之心● 精選 10/24 14:56 AI 評分70
VentureBeat Intelligence 在 2026 年 7 至 9 月的三輪調研(385 名受訪者)顯示,79% 的企業表示其 GPU 至少一半時間完全閒置,這一比例三個月穩定在 77% 至 81%。但在這批企業中,70% 仍計劃未來 12 個月引入、擴充或更換 AI 計算平台;計劃採用新平台的受訪者中有 91% 拿不出經財務部門稽核的 ROI 資料。新採購意向中 90% 投向公有云與模型 API,僅 8% 考慮擴建本地私有叢集。
機器之心● 精選 10/26 03:29 AI 評分84
開源專案 gpu-unlock-ada 通過修改 GPU 啟動階段的暫存器配置,讓 RTX 4090 在 FP16/BF16 輸入、FP32 累加的 Tensor Core 運算上,吞吐率從 165.6 TFLOPS 提升到 331.6 TFLOPS,接近翻倍,且無需刷 BIOS 或修改官方驅動。同樣的思路已在 RTX 3090 Ti、3080 等 30 系顯示卡和 2018 年的 RTX 2080 Ti 上覆現,Windows 11 也出現了 UEFI 實驗方案。
Hugging Face blog● 精選 10/9 15:20 AI 評分69
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。
Google Developers blog● 精選 10/8 22:10 AI 評分68
Google AI Edge 推出 ML Drift,一個面向端側 AI 與機器學習推理的高效能通用 GPU 計算框架。它把 OpenGL ES、OpenCL、Metal、WebGPU 等底層硬體與圖形計算 API 抽象掉,讓開發者無需直接處理這些介面,就能在移動端與桌面端建置即時互動式 ML 體驗,覆蓋從複雜影片特效到生成式 AI 的場景。
Hacker News front page● 精選 10/24 09:58 AI 評分81
GPU-unlock 1.0.0 發布,這個 Linux 核心模組能在 NVIDIA 驅動繫結前解鎖 GA102/GA103/GA104/GA106(RTX 30 系部分顯示卡)的 FP/BF16 指令發射速率,使其達到專業卡水平。3090 Ti 實測 BF16 GEMM 從 87.50 升至 157.41 TFLOPS,FP16 從 87.46 升至 118.39,TF32 從 42.58 升至 82.61;
NVIDIA blog10/22 15:00 AI 評分61
NVIDIA 發布 AIOps 平台 Minerva,為 AI 工廠提供端到端可觀測性。它把 GPU、網路、儲存、排程器與工作負載的遙測匯入動態知識圖譜,每小時分析數十億資料點,用於發現異常、預測故障並把告警風暴聚合為帶根因的事件;平台還內建 AI 助手,可連線外部 agentic 工具,目標是提升 GPU 正常執行時間與 AI 工廠產出。
Apple Machine Learning Research● 精選 10/12 00:00 AI 評分69
一篇新論文提出 Minions:把多臺 macOS 裝置上閒置的 Apple Silicon GPU 聚合成分散式虛擬 GPU 雲,用來跑大規模機器學習推理。作者認為集中式 GPU 基礎設施成本高、彈性有限、資源緊張時等待時間長,而 Apple Silicon 裝置的 GPU 在日常使用中大多處於空閒狀態。論文稱該方案讓團隊能夠利用現有裝置承載推理負載,具體排程方式與效能資料未在摘要中給出。
量子位● 精選 10/26 09:31 AI 評分66
一批明星研究者創辦的 Neolab 在模型遲遲沒跑出來的情況下,把融資後提前鎖定的算力轉手賣出,做起了轉售 GPU 的生意。具體做法有三種:溢價轉手 1 至 3 年長期算力租約、按天或按周拆賣閒置 GPU 例項,以及直接用開源模型提供按 token 計費的推理 API;背景是 H200 現貨租金一度上漲約 160%、B200 漲 120%、H100 仍有約 35% 溢價。Dealroom 統計的 29 家典型 Neolab 累計融資 230 億美元,真正推出商業化產品的不到 35%,馬斯克則評論當下缺的是電而不是卡。
TechCrunch AI● 精選 10/20 18:38 AI 評分80
Google 宣布開源 TorchTPU,PyTorch 應用只需改配置、無需重寫程式碼,就能執行在 Google 的 TPU 與 Google Cloud 上。據稱 85% 的 AI 應用基於 PyTorch,而它的許多特性原本專為 Nvidia GPU 設計。前一天 Amazon 也發布 TorchNeuron 支援自家 Trainium,並向 PyTorch 主專案提交程式碼,把各項特性與 Nvidia 晶片解耦。
NVIDIA blog● 精選 10/21 09:30 AI 評分66
輝達在 GTC Berlin 發布 DSX POD 參考設計:由合作伙伴在模組化集裝箱內整合並驗證完整的 Vera Rubin AI 工廠,站點水電就緒後現場部署可從六個月縮短到 14 天。Vera Rubin 已全面量產,DSX 平台稱冷卻用水最多減少 100%,同等 AI 產出省電 30%。
Hacker News front page10/12 21:35 AI 評分69
Intel 公布面向 agentic AI 的資料中心推理 GPU D270,單卡最高 480GB LPDDR5X 記憶體,350W 風冷,不依賴 HBM。晶片面積從圖形與光追管線轉向 32 個 Xe3P 核心和 256 個 XMX 矩陣引擎,用於加速長上下文、多輪 agent 工作流的 prefill 與高併發服務。
機器之心● 精選 10/24 14:37 AI 評分90
Google 在 PyTorch Conference 2026 上開源 TorchTPU,讓 TPU 與 GPU、CPU 並列,成為 PyTorch 的原生裝置。專案由 Google 和 Meta 聯合開發;在 Hugging Face Transformers v5 裡只需傳入 device_map="tpu" 即可部署,vLLM、SGLang、Ray、TorchTitan 等已同步接入。
Latent Space● 精選 10/20 19:31 AI 評分65
SF Compute CEO Evan Conrad 在 Latent Space 播客中表示,其平台不只買賣 GPU 小時的現貨與遠期,還負責物理交付:買家拿到的是能直接跑負載的算力,而非對指數的現金結算。為此公司自建了雲的大部分運營能力,處理可中斷性、儲存恢復速度、GPU 代際與網路軟體配置等同時影響合約和價格的約束。他還提到可線上切分 InfiniBand 網路,以及此前 2.45 億美元的算力銷售。
NVIDIA blog10/23 02:00 AI 評分41
Firebird 與哈薩克政府簽署投資協議,獲美國出口許可在當地部署 4.5 萬塊 NVIDIA Grace Blackwell GPU,首期 AI 工廠與 Kazakhtelecom 共建,目標 2027 年第三季度商用,二期規劃使總容量達約 500 兆瓦。
The Verge AI10/23 12:00 AI 評分45
AI 工具正在加速老遊戲的反編譯與重編譯移植,也讓專注遊戲儲存的社群遭到衝擊。過去一個月,瀏覽器裡的《光環》、iPhone 上的《風之杖》、混合現實中的《任天堂明星大亂鬥》等非常規移植專案高頻走紅。愛好者用 decomps/recomps 逆向拆解遊戲,再為新平台重建;AI 提高了移植速度,卻撕裂了原本緊密的儲存社群。
Google Developers blog● 精選 10/20 16:50 AI 評分69
Google Research 補全了 32 位開源 Coral NPU 的 RISC-V 架構,新增 Matrix Execution Unit 後邊緣推理最高 1 TOPS,平均功耗目標 10 mW。同步釋出 v1.0 開源 IREE/MLIR 編譯器,JAX、PyTorch、TensorFlow 模型可直接編譯到 Coral NPU,不必手寫彙編,從模型到晶片共用一條開源工具鏈。
llama.cpp releases10/9 14:20 AI 評分42
llama.cpp 發布建置 b11527(PR #30219),WebGPU 後端移除 1D workgroup 派發,所有原本使用 1D 派發的運算元(如 rms_norm)統一改為 2D workgroup dispatch。
Hacker News front page10/30 11:16 AI 評分42
這段影片認為,當前的 AI 熱潮不能簡單類比 2000 年網際網路泡沫:網際網路時代鋪設的光纖等基礎設施壽命可達數十年,而支撐 AI 的 GPU 大約三年就會過時。影片據此說明 AI 基礎設施資產的折舊節奏與網際網路時代不同,進而影響對泡沫與投資回報的判斷。該影片在 Hacker News 上獲得 5 分、2 條評論,完整論證需看原影片。
Google Developers blog10/28 23:20 AI 評分61
Google Play 服務中的 LiteRT 現在提供由 ML Drift 驅動的 GPU 推理,效能約提升 1.4 倍,並配套新的 CompiledModel API。開發者如果不再把 LiteRT 二進位制打包進應用,改為使用 Play 服務提供的版本,應用體積可減少約 8MB,同時執行時能在數十億臺裝置上自動更新。更新依賴即可採用,也可藉助新的 Android Studio LiteRT skill 自動遷移。
Hacker News front page10/6 16:23 AI 評分73
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重,輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3,LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s;解碼受 DRAM 頻寬限制,實測跑到峰值的 82%-94%。
量子位10/28 08:00 AI 評分61
無問芯穹(Infinigence AI)在輝達研究院的 GPU 運算元效能評測榜 SOL-ExecBench 上先後登頂 L1 基礎運算元、L2 融合運算元、Quant 量化與 FlashInfer-Bench 推理全部四大賽道;截至 10 月 26 日仍在 L1 與 Quant 兩賽道總分全球第一,在 235 道題中拿下 88 項單題第一,超過第二名單題第一數量的 2 倍,其中 L2 賽道的 82 道題中佔了 39 項第一。
Ars Technica AI11/6 16:19 AI 評分29
前 Rockstar 技術總監 Obbe Vermeij 認為,AI 輔助反編譯的 GTA VI PC 移植版這一潛在威脅,可能促使 Rockstar 加快官方 PC 版開發。此前報導提到,PC 玩家正嘗試藉助 Nvidia DLSS 顯示卡執行主機版 GTA VI,而 AI 輔助反編譯的移植版想必很快就會出現。
The Verge AI10/15 14:30 AI 評分51
微軟與輝達在舊金山為首批 RTX Spark 筆記本舉辦發表會,這是輝達新的 AI PC 計算平台。其晶片採用 Arm 架構,而非 AMD、Intel 傳統的 x64,並搭配高效能 GPU,定位面向 AI 的 Windows 筆記本。微軟與輝達為此投入大量工作,讓 Windows 適配這批新機器。
Hacker News front page10/29 15:45 AI 評分63
SkyPilot 通過拓撲感知放置、硬體故障就地恢復和共享叢集自動碎片整理,讓 NVL72 上的多節點任務儘量保持在同一機架內,從同樣機架多提供 27% 可用 GPU。背景是跨機架任務仍會落到 InfiniBand:Hugging Face 測得訓練從 NVLink 切到 InfiniBand 吞吐下降 43%,而 NVL72 用統一 NVLink 連線單機架 72 塊 GPU,可把張量並行與專家並行的 all-reduce、all-to-all 留在機架內。
Hacker News front page● 精選 11/4 08:46 AI 評分79
在 MSI Prestige 等 RTX Spark 筆記本上安裝原生 Linux 後,插電時 GPU 被鎖在約 780MHz,GPT-OSS-120B 推理只有 13.9 tokens/s,而 Windows 與 WSL 都在 65 tokens/s 左右,約慢 5 倍。
The Verge AI10/30 18:21 AI 評分70
Google 一顆搭載 TPU 的衛星已在軌啟動 AI 晶片,機載 Gemma 4 模型完成首次太空推理並回傳結果。測試中模型按提示寫了一首關於身處太空的俳句,Google 還試了其他太空主題打油詩與遙測提示詞。這是實驗專案 Project Suncatcher 的一部分,最終目標是建設太空 AI 資料中心;該衛星此前已發射入軌。
llama.cpp releases10/4 00:37 AI 評分33
llama.cpp 發布 b11382 版本,為 WebGPU 後端的 fill/set_rows 操作加入 f16 支援(PR #29897)。該版本同時更新了覆蓋 macOS、iOS、Linux、Android、Windows 與 openEuler 的多平台建置產物,包括 Apple Silicon、CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon NPU…
NVIDIA blog● 精選 10/21 10:50 AI 評分65
NVIDIA 在 GTC 柏林公布本地 AI 硬體全線進展:DGX Spark 64GB 將於 10 月 23 日由合作伙伴開售,最多八臺組成叢集、合計 1TB 統一記憶體。DGX Station for Windows 定於 12 月推出,支援製造業應用與 agent harness;Linux 版 DGX Station 以 748GB 一致記憶體服務 30 名以上使用者。
機器之心● 精選 10/15 02:44 AI 評分83
崑崙萬維發布並開源 Matrix-Game 4.0,稱其為全球首個可在消費級顯示卡上即時執行的影片大模型遊戲。基於 Wan2.2 5B 改造,單張 RTX 5090 上以 480p 實現 60 FPS 遊戲執行,按鍵到畫面端到端延遲低於 150ms,1 步去噪穩態生成 83 FPS,視訊記憶體峰值約 18.5 GiB。作為對比,輝達同期 StreamRender-H3 需 8 張 GB200,互動延遲約 500ms。開源內容包括模型權重和可由開發者直接修改、擴充套件的遊戲程式碼。
NVIDIA blog10/15 17:00 AI 評分43
NVIDIA 將於 10 月 16 日正式發布 RTX Spark,一款面向創作者、玩家和 AI agent 的 Windows PC,主打本地 AI 效能。Tom's Hardware、TrustedReviews 等媒體評測稱其遊戲與本地 AI 表現突出,Artificial Analysis 也提供了獨立測試資料。當天舊金山、柏林、臺北、北京、首爾、伊斯坦布林等地舉辦發布活動,多數需提前報名,北京場通過微信報名。