AISpot
所屬事件:Altman 稱本地推理浪費 DRAM,OpenAI 自研 Jalapeno 晶片(3 個來源 · 3 則報導)

OpenAI CEO Sam Altman 在 10 月底播出的 Cheeky Pint 播客訪談中表示,讓每個人都把全球有限的 DRAM 裝在自己電腦裡、只使用 5% 的時間,從全球資源分配角度看「相當糟糕」,記憶體應集中到雲端資料中心以提高利用率;他認為不少人以為有了開源模型、能在自己電腦上跑就可以解決問題,這一直… 看完整事件

奧特曼:PC 囤記憶體太浪費,本地推理不如集中雲端

奧特曼在 Cheeky Pint 採訪中稱,讓每個人把緊缺的 DRAM 裝進電腦、利用率僅 5% 是「相當糟糕」的全球資源配置,記憶體應集中到雲端資料中心。他認為 AI 熱潮已推高 PC 與手機價格,而記憶體廠商因歷史上過度擴產險些破產、如今擴產保守,「看不見的手」已經失靈;OpenAI 的對策是自研晶片、自建資料中心,乃至用機器人運營晶圓廠的「自我複製的資料中心」。

奧特曼罕見從全球 DRAM 資源配置角度否定本地推理,並解釋記憶體漲價下廠商擴產保守的邏輯,對關心本地跑模型與硬體價格的讀者有參考價值。

原標題:奥特曼:PC上装内存太浪费,最好留给AI数据中心
閱讀原文

同一事件共有 3 則報導(3 個來源),看事件全貌

評分68 / 72(平均 70,門檻 65)
狀態精選

相關報導

機器之心AI 評分51

奧特曼提 AI 競賽三種終局,最壞可癱瘓對手 GPU

OpenAI CEO 奧特曼在內部員工會議上提出 AI 競賽的三種終局:建立全球監管機構、頂級實驗室合併為一,以及一家公司率先突破關鍵技術。最極端情形下,率先突破的公司甚至能讓競爭對手的 GPU 集體癱瘓,奧特曼稱這是「糟糕透頂」的結局。前兩條分別參考 IAEA 與 CERN 模式;他也承認 OpenAI 目前無法輕易放棄技術領先爭奪。

The Verge AIAI 評分43

The Verge 作者開啟本地 AI 日常使用連載,權衡隱私與記憶體成本

《The Verge》一名作者開始連載自己日常使用本地 AI 的體驗,此前他一直不願把最私人的資料交給雲端服務。他認為如今在本地執行較強模型已越來越可行,但不確定是否值得為一臺配了大容量、價格不菲記憶體的電腦或筆記本花大錢。文章還提到 Apple 對新款 Mac 桌面機的宣傳。他自認不是 AI 專家,會邊用邊寫。

Apple Machine Learning Research● 精選AI 評分69

Minions:聚合閒置 Apple Silicon 的分散式虛擬 GPU 雲

一篇新論文提出 Minions:把多臺 macOS 裝置上閒置的 Apple Silicon GPU 聚合成分散式虛擬 GPU 雲,用來跑大規模機器學習推理。作者認為集中式 GPU 基礎設施成本高、彈性有限、資源緊張時等待時間長,而 Apple Silicon 裝置的 GPU 在日常使用中大多處於空閒狀態。論文稱該方案讓團隊能夠利用現有裝置承載推理負載,具體排程方式與效能資料未在摘要中給出。