依意思最接近的 24 筆
一位開發者把 AI Agent 跑在了只有 48MB RAM 的諾基亞 110 功能機上，並已用它自動化了幾個操作。他平時用這部手機來減少螢幕時間，最初嘗試刷入 Android 系統，因記憶體只有 48MB 而失敗，隨後花幾天時間逆向工程，最終讓 AI Agent 在這臺手機上執行。該帖發在 Hacker News 的 Show HN 板塊，目前 15 分、3 條評論，作者未說明所用的是哪個 AI 模型，也沒列出具體自動化了哪些操作。
VentureBeat Intelligence 在 2026 年 7 至 9 月的三輪調研（385 名受訪者）顯示，79% 的企業表示其 GPU 至少一半時間完全閒置，這一比例三個月穩定在 77% 至 81%。但在這批企業中，70% 仍計劃未來 12 個月引入、擴充或更換 AI 計算平台；計劃採用新平台的受訪者中有 91% 拿不出經財務部門稽核的 ROI 資料。新採購意向中 90% 投向公有云與模型 API，僅 8% 考慮擴建本地私有叢集。
《The Verge》一名作者開始連載自己日常使用本地 AI 的體驗，此前他一直不願把最私人的資料交給雲端服務。他認為如今在本地執行較強模型已越來越可行，但不確定是否值得為一臺配了大容量、價格不菲記憶體的電腦或筆記本花大錢。文章還提到 Apple 對新款 Mac 桌面機的宣傳。他自認不是 AI 專家，會邊用邊寫。
Reddit 的 r/LocalLLaMA 版塊一則帖子被版主以違反第 3 條規則為由刪除，評論區仍在討論 8GB 視訊記憶體加 16GB 記憶體的低配硬體如何跑本地模型。有使用者提到 32GB 記憶體加 12GB 視訊記憶體可執行 LFM2.5，也有人建議 Ling 3.0 tiny 或 Gemma 配合 mmap。另有評論稱專家快取即將進入 llama.cpp，未來或支援從磁碟流式載入專家。
llama.cpp 伺服器新增 --models-memory-max 引數，當已載入模型超過設定的記憶體上限時自動動態解除安裝。該限制以每臺裝置分別計算的記憶體餘量（margin）形式生效，載入前會把待載入模型的大小計入估算，並用 no_alloc 預估模型載入所需記憶體；只有在記憶體超限且沒有空閒模型可解除安裝時，才拒絕新的載入請求。此次還修正了兩個問題：測量子程序的記憶體統計偏差會使 --fit 下把其他程序佔用算成零，以及排隊載入被閾值阻塞時陷入反覆重試。
llama.cpp 的 PR #29825 通過最佳化索引器分數記憶體，把 Qwen Flash Next 等 Qwen4 模型的視訊記憶體佔用減半。實測在上下文 131072、ub 2048 時從 3.0 GiB 降至 1.5 GiB，262144、ub 4096 時從 11.7 GiB 降至 5.6 GiB。作者稱 logits 逐位一致、pp/tg 速度不變，僅分數因 fp32 舍入有差異；有使用者反饋解碼速度約降 10%。
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300，叢集規模從 88 到 1024 塊 GPU，服務約 150 名內部研究者，GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹（最終 100% 工作負載都標為 HIGH）以及值班工程師大量時間用於協商關閉不可搶佔任務。
記憶張量開源 MemT 1.0 系列記憶原生模型，最大型號 Flash 總引數 288B、啟用 17B，較小的 Nano 為 36B 總參、3B 啟用。兩者分別在選定的 Transformer 模組里加入與原注意力並行的記憶分支，把經驗編碼成可更新的內部矩陣狀態，據稱為記憶原生模型首次做到近 300B 引數規模的工程驗證。在 SWE-bench Verified 的 500 項任務各跑三次中，Nano 三次全成功率由無經驗的 54.00% 升至 62.80%；
llama.cpp 發布 b11446，Metal 後端修復量化 flash attention 中 threadgroup memory 超額佔用的問題，對應 PR #29340。
llama.cpp 發布 b11884 建置，修復 DRY 取樣（dry sequence breaker）導致 CPU 與記憶體被耗盡的問題，對應 PR #31035。
模型雲服務商 Neuralwatt 分析一個月流量發現，同一模型下不同 agent harness 的 prompt 快取命中率差異明顯，未快取輸入佔 1.6%–11.1%，而一次快取未命中會讓請求能耗約為全快取時的兩倍，GLM-5.3 上接近 2.5 倍。命中率 92% 相當於每 100 個輸入 token 有 8 個未快取，97% 時只有 3 個，prefill 工作量相差 2.7 倍。
LFM3 已在 LM Studio 上線，官方稱其執行時記憶體佔用約 1 GB，可在消費級硬體上本地載入。LM Studio 已開出該模型的頁面，使用者可在應用內直接下載使用。原文未披露引數量、上下文長度與授權條款等細節。
馬斯克在 X 上發帖表示，中國將在 2028 年生產大量 RAM（記憶體）。該表態沒有給出具體產能數字、涉及廠商或產品細節，也未說明判斷依據。帖子發布於 2026 年 10 月 15 日。
OpenAI 於 9 月 21 日發布官方戰略宣告，把自動化 AI 研究員與遞迴自我改進（RSI）列為下一階段重要目標，並計劃在 2028 年 3 月前打造真正的自動化 AI 研究員；Anthropic 同期披露，截至 8 月 Claude 已在約 26% 的內部 AI 研發工作中承擔主導角色。
llama.cpp 發布 b11583，主要改動是在「no cache」路徑下避免圖記憶體的重複分配（#30439），即不使用 prompt 快取時可減少反覆申請與釋放視訊記憶體/記憶體。該版本照例提供 macOS、Linux、Windows、Android 等平台的預編譯包，其中 macOS Apple Silicon 的 KleidiAI 建置和 openEuler 建置本次標記為 DISABLED。
官方只支援 Windows 的 ASUS ProArt P16（128GB 記憶體版）已被裝上 Arch Linux ARM 並能正常使用。作者基於 NVIDIA 面向 Ubuntu 的核心工作，補齊 ACPI 覆蓋、hid-asus 鍵盤與音訊驅動，做出可啟動映象，並擴充套件 Archinstall 4.5 來安裝硬體支援；7-Zip 單執行緒成績與 Windows 基本持平，20 執行緒壓縮約領先 5%、解壓約領先 3%。
有使用者報告，用 Strata 執行 Qwen3.8 Next 的 IQ3_XXS 權重（接近 80GB），在 DDR4 記憶體加 7900XTX 的慢速平台上穩定達到 45-70 token/s，編碼時因 mtp 有時更高。同一臺機器上經調優的 llama.cpp 最高約 22.5t/s，且該使用者認為品質明顯更好，但不推薦 Q2 權重。12GB 和 16GB 顯示卡使用者有類似結果，DDR5 平台則顯著更快。
2026 年 10 月 3 日，一篇技術文章批評市面上的 agent 記憶外掛本質都是 RAG：把會話切成片段存入向量庫，每次提示注入最相似的 5 條，存在相似度不等於正確、片段脫離上下文、舊記憶被當作事實、無法審計等問題。作者主張改用文件式記憶，讓 agent 工作前查閱 Markdown 文件、工作後更新，並稱已把這一思路做成外掛 Operator Memory，不使用向量資料庫和嵌入。
記憶張量發布並開源 MemT 1.0，稱其為業內首個記憶原生基座模型，歷史資訊被編碼為可更新的內部記憶狀態，隨每輪對話逐 token 更新並可跨會話儲存恢復。兩個版本為 MemT-1.0-Flash（288B 引數、17B 啟用、336M 動態記憶）與 Nano（36B 引數、3B 啟用、10M 動態記憶）。
加州大學聖塔芭芭拉分校、斯坦福等六家機構聯合提出多模態 Agent 記憶評測基準 WorldMemArena，論文已被 NeurIPS 2026 接收。該基準含 400 多項多會話任務、24,258 組問答與 15,595 張影像截圖，把記憶拆成寫入、維護、檢索、使用四個環節來定位失敗原因。初步結果顯示，存得多不等於用得好：M2A 記憶召回率 86.83%，問答正確率僅 50.14%；
llama.cpp 發布 b11901 建置，SYCL 後端的重排（reorder）臨時記憶體被限制在 32 MiB（PR #31062）。該版本照例提供各平台預編譯包，包括 macOS Apple Silicon、Linux/Windows 的 CUDA 12.8 與 CUDA 13.4、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16，以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon NPU。
軟體工程學者 Diomidis Spinellis 在部落格中判斷，AI 將接管大部分認知工作，思考會像狩獵、書法和木工一樣，從謀生手段變成休閒愛好。他給出三個驅動因素：效能更高、成本更低、可用性更高，並提到 OpenAI 內部模型已解決數百個此前未解的數學問題。文中還提到到 2030 年數萬億美元的資料中心投資將帶來更多算力，政府可能以監管和稅收限制 AI，但歷史上的類似舉措未能阻止技術革命；他建議保持靈活、跟上進展，並在工作之外建立有意義的生活。
企業一度鼓勵員工儘可能多地使用 AI，即所謂的 #tokenmaxxing，隨後賬單隨之而來。報導援引一項針對近 400 家企業的調查稱，其中只有 11% 能準確預測自己的 AI 支出。AI 使用量以 token 計量，而企業發現 token 很難統計，這讓 AI 預算幾乎無法編制。
香港科技大學、香港城市大學、復旦、CMU、NYU、NTU 等機構聯合發布 110 頁綜述《The Past Frames the Future: Memory for Autoregressive Video Generation》，系統梳理自迴歸影片生成中的 Memory 機制。