奧特曼:PC 囤記憶體太浪費,本地推理不如集中雲端
奧特曼在 Cheeky Pint 採訪中稱,讓每個人把緊缺的 DRAM 裝進電腦、利用率僅 5% 是「相當糟糕」的全球資源配置,記憶體應集中到雲端資料中心。他認為 AI 熱潮已推高 PC 與手機價格,而記憶體廠商因歷史上過度擴產險些破產、如今擴產保守,「看不見的手」已經失靈;OpenAI 的對策是自研晶片、自建資料中心,乃至用機器人運營晶圓廠的「自我複製的資料中心」。
依意思最接近的 19 筆
奧特曼在 Cheeky Pint 採訪中稱,讓每個人把緊缺的 DRAM 裝進電腦、利用率僅 5% 是「相當糟糕」的全球資源配置,記憶體應集中到雲端資料中心。他認為 AI 熱潮已推高 PC 與手機價格,而記憶體廠商因歷史上過度擴產險些破產、如今擴產保守,「看不見的手」已經失靈;OpenAI 的對策是自研晶片、自建資料中心,乃至用機器人運營晶圓廠的「自我複製的資料中心」。
VentureBeat Intelligence 在 2026 年 7 至 9 月的三輪調研(385 名受訪者)顯示,79% 的企業表示其 GPU 至少一半時間完全閒置,這一比例三個月穩定在 77% 至 81%。但在這批企業中,70% 仍計劃未來 12 個月引入、擴充或更換 AI 計算平台;計劃採用新平台的受訪者中有 91% 拿不出經財務部門稽核的 ROI 資料。新採購意向中 90% 投向公有云與模型 API,僅 8% 考慮擴建本地私有叢集。
清華 MADSys 實驗室與趨境科技提出 KTransformers-FineTune(KT-FT),讓 CPU 用主存中的權重直接完成 MoE 專家計算、GPU 只負責注意力,LoRA 微調吞吐達到 ZeRO-Offload 等解除安裝基線的 2.5~21.2 倍。該方案已作為執行後端接入 LlamaFactory,CPU 側用 AVX-512/AMX 指令集計算專家,支援微調與推理在同等硬體下一鍵執行。
OpenAI 週一在發布 Grid Protectors Program 的公告中啟用新稱呼,把資料中心稱為 compute campus(計算園區),該計劃首個站點設在喬治亞州 Effingham County。報導指出,資料中心因噪音大、耗資源而長期不受歡迎,甚至形成罕見的跨黨派反對,這次改名被視為緩和政治反彈、為 AI 基礎設施鋪路的舉措。配圖中得州 Abilene 的 Stargate 資料中心也用了同一說法。
據 Axios 報導,OpenAI 正籌備美國中期選舉後的公關行動,其中一項是把資料中心重新包裝為「AI 計算園區」。首席全球事務官 Chris Lehane 同時提出為 AI 設「限速」、推動美國參與制定全球標準,並讓公眾更多感受到 AI 在日常生活中的作用。他把當前圍繞資料中心的爭論稱為「良性且健康」,認為社群應讓企業為這類專案負責。
Sam Altman 在 Cheeky Pint 訪談中表示,個人把全球有限的 DRAM 留在自己電腦裡、只使用 5% 的時間,從全球分配角度看相當糟糕,雲端最大化利用率才是解法。他提到 OpenAI 獲准買下全球 40% 的 DRAM 產量,而美光已宣布退出消費級記憶體生產。OpenAI 還在自研代號 Jalapeno 的 AI 晶片,稱該晶片由 AI 為 AI 設計。
在 Capcom Open Conference RE: 2026 上,程式設計師 Satoshi Ishida 以「REX 專案的前景與未來」為題演講,稱制作《生化危機》級別遊戲時連簡單任務都極其耗時,解決方案是把 AI 技術成功整合進開發流程。他表示為「與 AI 共同創造遊戲的未來」做準備。Capcom 此前曾稱不會使用 AI。
開源專案 gpu-unlock-ada 通過修改 GPU 啟動階段的暫存器配置,讓 RTX 4090 在 FP16/BF16 輸入、FP32 累加的 Tensor Core 運算上,吞吐率從 165.6 TFLOPS 提升到 331.6 TFLOPS,接近翻倍,且無需刷 BIOS 或修改官方驅動。同樣的思路已在 RTX 3090 Ti、3080 等 30 系顯示卡和 2018 年的 RTX 2080 Ti 上覆現,Windows 11 也出現了 UEFI 實驗方案。
一篇新論文提出 Minions:把多臺 macOS 裝置上閒置的 Apple Silicon GPU 聚合成分散式虛擬 GPU 雲,用來跑大規模機器學習推理。作者認為集中式 GPU 基礎設施成本高、彈性有限、資源緊張時等待時間長,而 Apple Silicon 裝置的 GPU 在日常使用中大多處於空閒狀態。論文稱該方案讓團隊能夠利用現有裝置承載推理負載,具體排程方式與效能資料未在摘要中給出。
Ollama 官方帳號引述 jmorgan 在 This Week in AI 播客(與 Jason 對談)中的說法,稱企業 AI 正在經歷它的“PC 時刻”。該推文未給出具體產品、資料或時間表,只是觀點性表態,沒有更多細節。
NVIDIA Vera CPU 被 Nebius、Nscale、Verda 等歐洲 AI 雲服務商採用,用於搭建面向 agent 的基礎設施。Vera 承擔 agent 檢索資訊、執行程式碼與執行工具時的 CPU 計算,官方稱在同時執行數千個任務時仍能保持回應速度。Dell、HPE、Lenovo、Supermicro、Bull 將推出 Vera 系統;ClickHouse、SAP、Elastic 等稱早期測試中分析與 ETL 負載表現良好;
OpenAI 啟動 Grid Protectors 計劃,讓未來的計算園區在電網緊張時主動降低用電需求。計劃從喬治亞州開始,規劃中的 Effingham County 園區將由 OpenAI 承擔全部基礎設施與供電成本,並與 Georgia Power 達成最高 1,000 兆瓦的柔性需求回應,相當於約 70 萬戶家庭的平均用電量。
NVIDIA 發布 AIOps 平台 Minerva,為 AI 工廠提供端到端可觀測性。它把 GPU、網路、儲存、排程器與工作負載的遙測匯入動態知識圖譜,每小時分析數十億資料點,用於發現異常、預測故障並把告警風暴聚合為帶根因的事件;平台還內建 AI 助手,可連線外部 agentic 工具,目標是提升 GPU 正常執行時間與 AI 工廠產出。
AI 工具正在加速老遊戲的反編譯與重編譯移植,也讓專注遊戲儲存的社群遭到衝擊。過去一個月,瀏覽器裡的《光環》、iPhone 上的《風之杖》、混合現實中的《任天堂明星大亂鬥》等非常規移植專案高頻走紅。愛好者用 decomps/recomps 逆向拆解遊戲,再為新平台重建;AI 提高了移植速度,卻撕裂了原本緊密的儲存社群。
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重,輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3,LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s;解碼受 DRAM 頻寬限制,實測跑到峰值的 82%-94%。
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。
高通在 2026 財年第四季度財報電話會上表示,由於智慧手機銷量同比下滑約 20%,公司將大力押注 AI 資料中心業務。它計劃通過今年早些時候宣布的與亞馬遜、Meta 的合作切入這一市場,預計 2027 年第一季度資料中心收入約 6.5 億美元,2027 年底達到 50 億美元,2029 年達到 150 億美元。作為對比,公司 2026 年總營收為 104 億美元。
近期出現一批極窄用途的推理執行時,包括 Strata、ninfer、DwarfStar、Splash、llamAmpere、gufo 等。它們刻意放棄 llama.cpp 與 vLLM 擅長的通用性,只針對少數模型甚至單一硬體家族(如 Strix Halo)做最佳化。作者認為通用執行時負責相容、過擬合執行時負責極致效能將成為常態,並有助於智慧的民主化與去中心化,讓現有硬體在特定配置下榨出最大輸出。
官方只支援 Windows 的 ASUS ProArt P16(128GB 記憶體版)已被裝上 Arch Linux ARM 並能正常使用。作者基於 NVIDIA 面向 Ubuntu 的核心工作,補齊 ACPI 覆蓋、hid-asus 鍵盤與音訊驅動,做出可啟動映象,並擴充套件 Archinstall 4.5 來安裝硬體支援;7-Zip 單執行緒成績與 Windows 基本持平,20 執行緒壓縮約領先 5%、解壓約領先 3%。