AISpot

Altman 稱本地推理浪費 DRAM,OpenAI 自研晶片 Jalapeno

Hacker News front page新聞報導地端推論

Sam Altman 在 Cheeky Pint 訪談中表示,個人把全球有限的 DRAM 留在自己電腦裡、只使用 5% 的時間,從全球分配角度看相當糟糕,雲端最大化利用率才是解法。他提到 OpenAI 獲准買下全球 40% 的 DRAM 產量,而美光已宣布退出消費級記憶體生產。OpenAI 還在自研代號 Jalapeno 的 AI 晶片,稱該晶片由 AI 為 AI 設計。

在記憶體漲價、美光退出消費級記憶體之際,Altman 直接否定本地推理的記憶體分配邏輯,並披露 40% DRAM 採購份額與自研晶片 Jalapeno,對在本地跑模型和關注硬體價格的人有參考價值。

原標題:Sam Altman Thinks You're Wasting DRAM
閱讀原文

評分48 / 60(平均 54,門檻 76)
狀態未入選

相關報導

The Verge AIAI 評分45

Altman:記憶體放資料中心比放個人電腦更划算

Altman 在播客訪談中回應記憶體短缺問題時稱,從全球資源分配角度看,把記憶體集中在資料中心比分散到個人 PC 更好,儘管很多人期待本地推理能靠開源模型解決。他認為「所有東西都放資料中心」並非必需,但個人裝置承載推理的設想在全球分配層面並不划算。此前他已就 AI 對數學的影響發表看法。

The Verge AIAI 評分48

Altman 稱理解數學家處境,但 OpenAI 數學攻勢不會停

OpenAI CEO Sam Altman 在週四發布的 Cheeky Pint 播客中表示,他同情那些被大量 AI 生成結果淹沒、難以釐清頭緒的數學家,但公司無意收手,並暗示其儲備的發現還有更多。他說,從總體上看,世界理應理解宇宙如何運作,但他對這種方法本身抱有共情。這是他少有的直接承認 OpenAI 對數學研究群體造成衝擊的表態。