AISpot

搜尋

依意思最接近的 30 筆

機器之心● 精選AI 評分70

奧特曼:PC 囤記憶體太浪費,本地推理不如集中雲端

奧特曼在 Cheeky Pint 採訪中稱,讓每個人把緊缺的 DRAM 裝進電腦、利用率僅 5% 是「相當糟糕」的全球資源配置,記憶體應集中到雲端資料中心。他認為 AI 熱潮已推高 PC 與手機價格,而記憶體廠商因歷史上過度擴產險些破產、如今擴產保守,「看不見的手」已經失靈;OpenAI 的對策是自研晶片、自建資料中心,乃至用機器人運營晶圓廠的「自我複製的資料中心」。

The Verge AIAI 評分21

Altman 回應記憶體言論:希望人人都能裝足夠多 RAM

OpenAI CEO Sam Altman 在 X 上回應外界對其記憶體相關言論的批評,稱自己的原意是希望全球大幅提升記憶體產量,讓人們能在電腦裡裝儘可能多的記憶體。他把 X 暱稱改成 "Ram Altman",並稱此前說法被斷章取義,強調自己長期主張擴大記憶體生產。相關討論由 The Verge 報導。

The Verge AIAI 評分45

Altman:記憶體放資料中心比放個人電腦更划算

Altman 在播客訪談中回應記憶體短缺問題時稱,從全球資源分配角度看,把記憶體集中在資料中心比分散到個人 PC 更好,儘管很多人期待本地推理能靠開源模型解決。他認為「所有東西都放資料中心」並非必需,但個人裝置承載推理的設想在全球分配層面並不划算。此前他已就 AI 對數學的影響發表看法。

Hacker News front pageAI 評分54

Altman 稱本地推理浪費 DRAM,OpenAI 自研晶片 Jalapeno

Sam Altman 在 Cheeky Pint 訪談中表示,個人把全球有限的 DRAM 留在自己電腦裡、只使用 5% 的時間,從全球分配角度看相當糟糕,雲端最大化利用率才是解法。他提到 OpenAI 獲准買下全球 40% 的 DRAM 產量,而美光已宣布退出消費級記憶體生產。OpenAI 還在自研代號 Jalapeno 的 AI 晶片,稱該晶片由 AI 為 AI 設計。

Hacker News front pageAI 評分46

逆向工程後,AI Agent 跑在 48MB 記憶體的諾基亞 110 上

一位開發者把 AI Agent 跑在了只有 48MB RAM 的諾基亞 110 功能機上,並已用它自動化了幾個操作。他平時用這部手機來減少螢幕時間,最初嘗試刷入 Android 系統,因記憶體只有 48MB 而失敗,隨後花幾天時間逆向工程,最終讓 AI Agent 在這臺手機上執行。該帖發在 Hacker News 的 Show HN 板塊,目前 15 分、3 條評論,作者未說明所用的是哪個 AI 模型,也沒列出具體自動化了哪些操作。

Hacker News front pageAI 評分54

Altman 稱 DRAM 應優先供資料中心,本地推理很糟糕

OpenAI CEO Sam Altman 在 YouTube 頻道 Cheeky Pint 的喝酒訪談中稱本地推理“相當糟糕”,認為全球有限的 DRAM 應優先供給資料中心,而不是留在個人電腦裡。他給出的理由是,讓大量 DRAM 分散在家用電腦中、僅被使用約 5% 的時間,從全球資源分配角度看非常不合理。該訪談中並未宣布 OpenAI 的產品或政策變化,討論則集中在本地執行模型與記憶體供應分配。

量子位● 精選AI 評分71

記憶張量開源 MemT 1.0,記憶原生模型最大 288B 引數

記憶張量開源 MemT 1.0 系列記憶原生模型,最大型號 Flash 總引數 288B、啟用 17B,較小的 Nano 為 36B 總參、3B 啟用。兩者分別在選定的 Transformer 模組里加入與原注意力並行的記憶分支,把經驗編碼成可更新的內部矩陣狀態,據稱為記憶原生模型首次做到近 300B 引數規模的工程驗證。在 SWE-bench Verified 的 500 項任務各跑三次中,Nano 三次全成功率由無經驗的 54.00% 升至 62.80%;

機器之心● 精選AI 評分77

多模態 Agent 記憶基準 WorldMemArena 發布

加州大學聖塔芭芭拉分校、斯坦福等六家機構聯合提出多模態 Agent 記憶評測基準 WorldMemArena,論文已被 NeurIPS 2026 接收。該基準含 400 多項多會話任務、24,258 組問答與 15,595 張影像截圖,把記憶拆成寫入、維護、檢索、使用四個環節來定位失敗原因。初步結果顯示,存得多不等於用得好:M2A 記憶召回率 86.83%,問答正確率僅 50.14%;

機器之心● 精選AI 評分76

記憶張量開源首個記憶原生基座模型 MemT 1.0

記憶張量發布並開源 MemT 1.0,稱其為業內首個記憶原生基座模型,歷史資訊被編碼為可更新的內部記憶狀態,隨每輪對話逐 token 更新並可跨會話儲存恢復。兩個版本為 MemT-1.0-Flash(288B 引數、17B 啟用、336M 動態記憶)與 Nano(36B 引數、3B 啟用、10M 動態記憶)。

機器之心● 精選AI 評分73

NeurIPS 2026:MemSkill 讓智慧體進化記憶技能

南洋理工大學等機構在 NeurIPS 2026 發表 MemSkill,把新增、更新、刪除、跳過等記憶操作封裝為可學習、可複用、可進化的 Memory Skills,並用下游任務反饋最佳化技能選擇、根據失敗案例擴充技能庫。實驗在 LLaMA 與 Qwen 上覆蓋 LoCoMo、LongMemEval 與 ALFWorld,均取得最高 L-J 分數與 ALFWorld 平均成功率,且技能庫可跨模型、跨資料集直接遷移而無需重訓。

量子位AI 評分58

openJiuwen AgentMemory 上線 OmniMem-Lens,長影片召回精度最高升 45.7%

openJiuwen AgentMemory 0.2.0 上線多模態記憶能力 OmniMem-Lens,用視覺畫面與 ASR 語音雙流交叉對焦,把長影片切在真實事件邊界上並分層儲存,替代按固定時間視窗盲切。L1/L2 記憶單元已文字化、向量化,可接入主流向量資料庫;記憶離線建好,線上按語義匹配 L1/L2,僅在需要視覺核驗時調取 L0 原始幀。

Hacker News front pageAI 評分74

RTX Spark 筆記本裝上 Arch Linux,116GiB 記憶體池由 CPU 與 CUDA 共用

官方只支援 Windows 的 ASUS ProArt P16(128GB 記憶體版)已被裝上 Arch Linux ARM 並能正常使用。作者基於 NVIDIA 面向 Ubuntu 的核心工作,補齊 ACPI 覆蓋、hid-asus 鍵盤與音訊驅動,做出可啟動映象,並擴充套件 Archinstall 4.5 來安裝硬體支援;7-Zip 單執行緒成績與 Windows 基本持平,20 執行緒壓縮約領先 5%、解壓約領先 3%。

llama.cpp releases● 精選AI 評分73

llama.cpp 伺服器新增 --models-memory-max,可按記憶體閾值動態解除安裝模型

llama.cpp 伺服器新增 --models-memory-max 引數,當已載入模型超過設定的記憶體上限時自動動態解除安裝。該限制以每臺裝置分別計算的記憶體餘量(margin)形式生效,載入前會把待載入模型的大小計入估算,並用 no_alloc 預估模型載入所需記憶體;只有在記憶體超限且沒有空閒模型可解除安裝時,才拒絕新的載入請求。此次還修正了兩個問題:測量子程序的記憶體統計偏差會使 --fit 下把其他程序佔用算成零,以及排隊載入被閾值阻塞時陷入反覆重試。

llama.cpp releasesAI 評分39

llama.cpp b11901 將 SYCL 重排臨時記憶體限制在 32 MiB

llama.cpp 發布 b11901 建置,SYCL 後端的重排(reorder)臨時記憶體被限制在 32 MiB(PR #31062)。該版本照例提供各平台預編譯包,包括 macOS Apple Silicon、Linux/Windows 的 CUDA 12.8 與 CUDA 13.4、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16,以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon NPU。

Hugging Face blog● 精選AI 評分69

Ai2 用 GPU 時間預算替代優先順序排程

Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。

量子位● 精選AI 評分70

北大聯合 IBM 發表綜述,定義現代模擬計算

北京大學孫仲團隊聯合 IBM 蘇黎世研究院與矽谷公司 Unconventional AI,在 Nature 旗下期刊發表綜述,為“現代模擬計算”給出正式定義:面向矩陣計算、基於阻變儲存器、具備高精度與可擴充套件路徑。配套的安納智芯 AMC 電路採用位切片方案,以 8 個 3 位元切片實現 24 位定點精度,求解相對誤差經 3 次迭代降到 10^-4、最終收斂至 10^-7,追平數字 FP32。團隊稱同等精度下吞吐量約為輝達 H100 的 1000 倍、能效約 100 倍,且可在 28 奈米成熟製程製造;

機器之心AI 評分42

OpenAI 將 RSI 列為戰略目標,MemoraX 展示記憶驅動自進化

OpenAI 於 9 月 21 日發布官方戰略宣告,把自動化 AI 研究員與遞迴自我改進(RSI)列為下一階段重要目標,並計劃在 2028 年 3 月前打造真正的自動化 AI 研究員;Anthropic 同期披露,截至 8 月 Claude 已在約 26% 的內部 AI 研發工作中承擔主導角色。

llama.cpp releasesAI 評分41

llama.cpp b11583:無快取路徑避免記憶體重複分配

llama.cpp 發布 b11583,主要改動是在「no cache」路徑下避免圖記憶體的重複分配(#30439),即不使用 prompt 快取時可減少反覆申請與釋放視訊記憶體/記憶體。該版本照例提供 macOS、Linux、Windows、Android 等平台的預編譯包,其中 macOS Apple Silicon 的 KleidiAI 建置和 openEuler 建置本次標記為 DISABLED。

Hacker News front pageAI 評分68

Vx 發布:把 CPU、GPU、NPU 記憶體寫進型別系統的程式語言

Vx 是一門面向異構計算的系統程式語言,把 CPU、GPU、NPU 與加速器記憶體納入型別系統,主機執行緒解引用裝置指標會直接編譯報錯而非執行時崩潰。它要求跨記憶體空間的資料移動顯式呼叫 transfer(),並用機器檔案描述 H100、H200、B200、A100、MI300X、Apple M4 等真實硬體的記憶體層級與互連,編譯期據此接受或拒絕放置方案。

量子位AI 評分45

8GB 版 M4 iPad Pro 被曝實裝 12GB 記憶體,仍不滿足新 Siri AI 門檻

拆機照片與記憶體顆粒編號顯示,部分標稱 8GB 的 M4 iPad Pro 主機板上裝的是兩顆 6GB 美光顆粒、合計 12GB,但使用者可用記憶體仍為 8GB。蘋果未解釋原因,外界推測與產品分級和供應鏈成本有關,多出的 4GB 能否啟用尚無確鑿證據。iPadOS 27 的新 Siri 語音、高精度端側聽寫要求 M4 及以上晶片加至少 12GB 統一記憶體,這批使用者因此被卡在門外;而現款 M4 iPad Air 與 M5 iPad Pro 的 256GB/512GB 版本已標配 12GB。

Hacker News front pageAI 評分42

文章稱 agent 不需要記憶外掛,應改用文件式記憶

2026 年 10 月 3 日,一篇技術文章批評市面上的 agent 記憶外掛本質都是 RAG:把會話切成片段存入向量庫,每次提示注入最相似的 5 條,存在相似度不等於正確、片段脫離上下文、舊記憶被當作事實、無法審計等問題。作者主張改用文件式記憶,讓 agent 工作前查閱 Markdown 文件、工作後更新,並稱已把這一思路做成外掛 Operator Memory,不使用向量資料庫和嵌入。

r/LocalLLaMA top of the dayAI 評分70

llama.cpp 新 PR 將 Qwen4 索引器視訊記憶體減半

llama.cpp 的 PR #29825 通過最佳化索引器分數記憶體,把 Qwen Flash Next 等 Qwen4 模型的視訊記憶體佔用減半。實測在上下文 131072、ub 2048 時從 3.0 GiB 降至 1.5 GiB,262144、ub 4096 時從 11.7 GiB 降至 5.6 GiB。作者稱 logits 逐位一致、pp/tg 速度不變,僅分數因 fp32 舍入有差異;有使用者反饋解碼速度約降 10%。

Hacker News front pageAI 評分69

Intel 公布 D270 推理 GPU:480GB 記憶體、350W 風冷

Intel 公布面向 agentic AI 的資料中心推理 GPU D270,單卡最高 480GB LPDDR5X 記憶體,350W 風冷,不依賴 HBM。晶片面積從圖形與光追管線轉向 32 個 Xe3P 核心和 256 個 XMX 矩陣引擎,用於加速長上下文、多輪 agent 工作流的 prefill 與高併發服務。

r/LocalLLaMA top of the dayAI 評分11

r/LocalLLaMA 熱議 8GB 視訊記憶體跑本地模型的困境

Reddit 的 r/LocalLLaMA 版塊一則帖子被版主以違反第 3 條規則為由刪除,評論區仍在討論 8GB 視訊記憶體加 16GB 記憶體的低配硬體如何跑本地模型。有使用者提到 32GB 記憶體加 12GB 視訊記憶體可執行 LFM2.5,也有人建議 Ling 3.0 tiny 或 Gemma 配合 mmap。另有評論稱專家快取即將進入 llama.cpp,未來或支援從磁碟流式載入專家。