奧特曼:PC 囤記憶體太浪費,本地推理不如集中雲端
奧特曼在 Cheeky Pint 採訪中稱,讓每個人把緊缺的 DRAM 裝進電腦、利用率僅 5% 是「相當糟糕」的全球資源配置,記憶體應集中到雲端資料中心。他認為 AI 熱潮已推高 PC 與手機價格,而記憶體廠商因歷史上過度擴產險些破產、如今擴產保守,「看不見的手」已經失靈;OpenAI 的對策是自研晶片、自建資料中心,乃至用機器人運營晶圓廠的「自我複製的資料中心」。
依意思最接近的 30 筆
奧特曼在 Cheeky Pint 採訪中稱,讓每個人把緊缺的 DRAM 裝進電腦、利用率僅 5% 是「相當糟糕」的全球資源配置,記憶體應集中到雲端資料中心。他認為 AI 熱潮已推高 PC 與手機價格,而記憶體廠商因歷史上過度擴產險些破產、如今擴產保守,「看不見的手」已經失靈;OpenAI 的對策是自研晶片、自建資料中心,乃至用機器人運營晶圓廠的「自我複製的資料中心」。
Sam Altman 在 Cheeky Pint 訪談中表示,個人把全球有限的 DRAM 留在自己電腦裡、只使用 5% 的時間,從全球分配角度看相當糟糕,雲端最大化利用率才是解法。他提到 OpenAI 獲准買下全球 40% 的 DRAM 產量,而美光已宣布退出消費級記憶體生產。OpenAI 還在自研代號 Jalapeno 的 AI 晶片,稱該晶片由 AI 為 AI 設計。
OpenAI CEO Sam Altman 在 YouTube 頻道 Cheeky Pint 的喝酒訪談中稱本地推理“相當糟糕”,認為全球有限的 DRAM 應優先供給資料中心,而不是留在個人電腦裡。他給出的理由是,讓大量 DRAM 分散在家用電腦中、僅被使用約 5% 的時間,從全球資源分配角度看非常不合理。該訪談中並未宣布 OpenAI 的產品或政策變化,討論則集中在本地執行模型與記憶體供應分配。
VentureBeat Intelligence 在 2026 年 7 至 9 月的三輪調研(385 名受訪者)顯示,79% 的企業表示其 GPU 至少一半時間完全閒置,這一比例三個月穩定在 77% 至 81%。但在這批企業中,70% 仍計劃未來 12 個月引入、擴充或更換 AI 計算平台;計劃採用新平台的受訪者中有 91% 拿不出經財務部門稽核的 ROI 資料。新採購意向中 90% 投向公有云與模型 API,僅 8% 考慮擴建本地私有叢集。
Reddit 的 r/LocalLLaMA 版塊一則帖子被版主以違反第 3 條規則為由刪除,評論區仍在討論 8GB 視訊記憶體加 16GB 記憶體的低配硬體如何跑本地模型。有使用者提到 32GB 記憶體加 12GB 視訊記憶體可執行 LFM2.5,也有人建議 Ling 3.0 tiny 或 Gemma 配合 mmap。另有評論稱專家快取即將進入 llama.cpp,未來或支援從磁碟流式載入專家。
高通在 2026 財年第四季度財報電話會上表示,由於智慧手機銷量同比下滑約 20%,公司將大力押注 AI 資料中心業務。它計劃通過今年早些時候宣布的與亞馬遜、Meta 的合作切入這一市場,預計 2027 年第一季度資料中心收入約 6.5 億美元,2027 年底達到 50 億美元,2029 年達到 150 億美元。作為對比,公司 2026 年總營收為 104 億美元。
Fadell 在 MIT Future Fest 上表示,Rabbit R1、Humane Ai Pin 和 Limitless 掛墜這批第一代 AI 硬體失敗,是因為沒有解決任何真實需求,只是對極客有趣的技術。他指出全球不到 0.01% 的人用過人類助理,多數消費者並不知道助理是什麼,建立信任需要數年。
OpenAI CEO Sam Altman 在 X 上回應外界對其記憶體相關言論的批評,稱自己的原意是希望全球大幅提升記憶體產量,讓人們能在電腦裡裝儘可能多的記憶體。他把 X 暱稱改成 "Ram Altman",並稱此前說法被斷章取義,強調自己長期主張擴大記憶體生產。相關討論由 The Verge 報導。
Altman 在播客訪談中回應記憶體短缺問題時稱,從全球資源分配角度看,把記憶體集中在資料中心比分散到個人 PC 更好,儘管很多人期待本地推理能靠開源模型解決。他認為「所有東西都放資料中心」並非必需,但個人裝置承載推理的設想在全球分配層面並不划算。此前他已就 AI 對數學的影響發表看法。
本週美股科技股集體重挫:Google 創下史上最差單日表現,Intel 跌幅為尼克松政府以來最大,納斯達克距回撥僅一步之遙。2023 年以來 AI 支出累計已達 1.6 萬億美元,摩根大通預計未來十年每年約 1 萬億美元;大型雲廠商今年約 2500 億美元資本開支靠發債融資,明年這一比例將升至約 35%。高盛測算這些廠商可承接的投資級債務上限約 5100 億美元,是當前預計借款額的兩倍多;而風險更高的新型雲廠商 CoreWeave 本月債券收益率已升至 15%。
輝達在 GTC Berlin 發布 DSX POD 參考設計:由合作伙伴在模組化集裝箱內整合並驗證完整的 Vera Rubin AI 工廠,站點水電就緒後現場部署可從六個月縮短到 14 天。Vera Rubin 已全面量產,DSX 平台稱冷卻用水最多減少 100%,同等 AI 產出省電 30%。
馬斯克在 X 上發帖表示,中國將在 2028 年生產大量 RAM(記憶體)。該表態沒有給出具體產能數字、涉及廠商或產品細節,也未說明判斷依據。帖子發布於 2026 年 10 月 15 日。
ASML 預計第四季度銷售額將高於市場預期,強勁的訂單表現緩解了外界對 AI 支出熱潮後繼乏力的擔憂。路透社 2026 年 10 月 14 日的報導稱,此前投資者擔心 AI 相關資本開支見頂,這份指引與訂單資料緩和了這一憂慮。
TechCrunch Disrupt 2026 將設 Smart Systems Stage 專場,由 Ambrosia Energy CEO Ben Longmier 與 Bloom Energy 資料中心解決方案負責人 Bill Thayer 對談 AI 基礎設施熱潮中的贏家。議題聚焦電力、電網、資料中心、冷卻與電氣裝置等物理層約束,以及哪些短缺會演變成獨立品類。
llama.cpp 發布 b11901 建置,SYCL 後端的重排(reorder)臨時記憶體被限制在 32 MiB(PR #31062)。該版本照例提供各平台預編譯包,包括 macOS Apple Silicon、Linux/Windows 的 CUDA 12.8 與 CUDA 13.4、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16,以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon NPU。
一位開發者把 AI Agent 跑在了只有 48MB RAM 的諾基亞 110 功能機上,並已用它自動化了幾個操作。他平時用這部手機來減少螢幕時間,最初嘗試刷入 Android 系統,因記憶體只有 48MB 而失敗,隨後花幾天時間逆向工程,最終讓 AI Agent 在這臺手機上執行。該帖發在 Hacker News 的 Show HN 板塊,目前 15 分、3 條評論,作者未說明所用的是哪個 AI 模型,也沒列出具體自動化了哪些操作。
《Snow Crash》作者 Neal Stephenson 在 Core Memory 播客與 Ashlee Vance 對談約兩小時,坦言連自己都被這輪 AI 熱潮打了個措手不及。他討論奇點是否已經臨近、當下是否算 AI 的曼哈頓計劃時刻,並指出與中國的 AI 競賽存在熟悉的兩難:沒人願意在對手可能更快時放慢腳步。
Blackstone 高管 Jas Khaira 在 TechCrunch Disrupt 上稱,對 AI 基建債務的擔憂被誇大:多數資料中心為超大規模廠商而建,債務由信用最好的公司支撐。管理 1.3 萬億美元資產的 Blackstone 自稱是超大規模廠商之外最大的算力持有方,2023 年以 GPU 和客戶合同為抵押向 CoreWeave 放貸 23 億美元,還參與了 Crux AI 50 億美元投資與 Firmus 100 億美元信貸。
路透社 2026 年 10 月 15 日報導,市場拋售與利率上行正在考驗 AI 資料中心的交易熱潮。報導圍繞以 AI 算力為名的資料中心投資與融資,在資本市場轉冷的背景下能否延續此前的勢頭展開,該文在 Hacker News 上獲得 11 分、5 條評論。原文未給出具體交易金額與涉及企業。
Runware 宣布要建工廠,像造車一樣在流水線上量產模組化 AI 資料中心,目標到 2028 年讓羅馬尼亞工廠日產能達到 30 兆瓦,約合每月近 1 吉瓦。其 Sonic 推理艙的建造時間將從三週縮短到一天,運抵後 48 小時內完成安裝上線;客戶可自備 GPU 並支付月費,也可直接向 Runware 租算力,電力與網路另計。
官方只支援 Windows 的 ASUS ProArt P16(128GB 記憶體版)已被裝上 Arch Linux ARM 並能正常使用。作者基於 NVIDIA 面向 Ubuntu 的核心工作,補齊 ACPI 覆蓋、hid-asus 鍵盤與音訊驅動,做出可啟動映象,並擴充套件 Archinstall 4.5 來安裝硬體支援;7-Zip 單執行緒成績與 Windows 基本持平,20 執行緒壓縮約領先 5%、解壓約領先 3%。
開發者用自研開源推理引擎 TensorSharp,在 RTX 3080 Laptop(16GB 視訊記憶體)+32GB 記憶體+SSD 的普通筆記本上執行 Qwen3.8 Flash Next 176B。做法是量化加 MoE 感知的統一排程,把快取、視訊記憶體、記憶體和 SSD 按專家啟用情況分層協調。對比 Strata:解碼 11.09 對 10.24 tok/s,但整程耗時 16.54 秒對 62.15 秒。
一篇新論文提出 Minions:把多臺 macOS 裝置上閒置的 Apple Silicon GPU 聚合成分散式虛擬 GPU 雲,用來跑大規模機器學習推理。作者認為集中式 GPU 基礎設施成本高、彈性有限、資源緊張時等待時間長,而 Apple Silicon 裝置的 GPU 在日常使用中大多處於空閒狀態。論文稱該方案讓團隊能夠利用現有裝置承載推理負載,具體排程方式與效能資料未在摘要中給出。
Anthropic 在提交給美國 SEC 的 S-1 上市檔案中承認,其 AI 資料中心正越來越依賴天然氣(主要成分是甲烷)供電。檔案稱,爭奪電力供應與電力充足的資料中心選址的競爭十分激烈,公司資料中心的建設因此容易受到燃料成本上漲和現有供應鏈約束的衝擊。這意味著生成式 AI 的算力擴張與化石燃料繫結,供電成本與穩定性風險已被寫進公開的上市披露。
OpenAI CEO 奧特曼在內部員工會議上提出 AI 競賽的三種終局:建立全球監管機構、頂級實驗室合併為一,以及一家公司率先突破關鍵技術。最極端情形下,率先突破的公司甚至能讓競爭對手的 GPU 集體癱瘓,奧特曼稱這是「糟糕透頂」的結局。前兩條分別參考 IAEA 與 CERN 模式;他也承認 OpenAI 目前無法輕易放棄技術領先爭奪。
Cloudflare 披露 Workers AI 上的 GLM-5.3 出現跨請求 KV 快取洩露,155 條回應混入了其他使用者請求的資料。問題從 8 月 27 日持續到 9 月 9 日,隻影響長度超過 681,280 token 的提示詞:上下文視窗設為 1,048,576 token,但 prefill KV 池只有 681,280 token,SGLang 遇到超長請求時沒有返回錯誤,解碼節點反而讀取了殘留的快取頁。
Cerebras 聯合創始人兼 CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上稱,人人家裡都有一臺 AI 裝置的未來並不遙遠,個人 AI 助理會像手機一樣部分在本地執行、部分回到雲端。他預計這些助理會非常瞭解使用者、擁有獨立的安全邊界,還能接入信用卡代為購物。Feldman 自己已用一組 agent 整理日程、準備通話物件的背景資料,但他表示消費級創意留給其他創業者,Cerebras 只做平台。
美國科技巨頭的表外 AI 相關債務在六個月內增長約 90%,規模達到約 3.2 萬億美元。據日經報導,這類債務來自 AI 相關的承諾與義務,Google、Meta 等公司的這部分規模已相當於其總資產的約 80%。在巨頭持續向資料中心等 AI 基礎設施投入巨資之際,投資者對看似無休止的支出愈發警惕。
《The Verge》一名作者開始連載自己日常使用本地 AI 的體驗,此前他一直不願把最私人的資料交給雲端服務。他認為如今在本地執行較強模型已越來越可行,但不確定是否值得為一臺配了大容量、價格不菲記憶體的電腦或筆記本花大錢。文章還提到 Apple 對新款 Mac 桌面機的宣傳。他自認不是 AI 專家,會邊用邊寫。
Cerebras CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上反駁 AI 末日論,稱 AI 界有些領袖「也許不該被允許公開講話」。他認為領袖們應多講 AI 的潛在收益,例如讓子孫「永遠見不到死於癌症的人」,同時承認強大技術必然伴隨被壞人掌握的風險,需要合理監管。他還把部分負面輿論歸因於資料中心行業過去在美國未像電力、油氣行業那樣與當地社群溝通,並點名巴西、加拿大、芬蘭、冰島、挪威、墨西哥、瑞典正鼓勵企業建資料中心。