浙大等發布 WorldMemBench,評測影片世界模型記憶
浙江大學、復旦大學、螞蟻集團與南京大學團隊推出 WorldMemBench,用可控的“離開—回訪”鏡頭評測影片世界模型的記憶。基準含 260 個案例、23 個內容類別,分靜態記憶、動態記憶及影片品質、相機跟隨四個維度,測試了 HY-WorldPlay、LingBot-World 等九個模型。結果顯示靜態與動態記憶的強項分化:HY-WorldPlay 七項靜態指標全部領先,LingBot-World 動態記憶總分最高;
找到 50 筆
浙江大學、復旦大學、螞蟻集團與南京大學團隊推出 WorldMemBench,用可控的“離開—回訪”鏡頭評測影片世界模型的記憶。基準含 260 個案例、23 個內容類別,分靜態記憶、動態記憶及影片品質、相機跟隨四個維度,測試了 HY-WorldPlay、LingBot-World 等九個模型。結果顯示靜態與動態記憶的強項分化:HY-WorldPlay 七項靜態指標全部領先,LingBot-World 動態記憶總分最高;
OpenAI 於 9 月 21 日發布官方戰略宣告,把自動化 AI 研究員與遞迴自我改進(RSI)列為下一階段重要目標,並計劃在 2028 年 3 月前打造真正的自動化 AI 研究員;Anthropic 同期披露,截至 8 月 Claude 已在約 26% 的內部 AI 研發工作中承擔主導角色。
Percepta 公布新架構 Spotlight,用可讀寫記憶取代注意力機制,宣稱是首個實現記憶無限增長而不增加訪問成本的架構。每個 token 只讀寫少量記憶單元,稀疏度可任意調節,不像 MoE 那樣固定啟用比例。該架構把負責計算的智慧模組與存放知識、流程和狀態的記憶分離,模型權重不隨記憶增長而改變,可自行決定載入與覆寫,從而無需重訓練即可獲得新能力。
這篇博文把線性層、MLP 和自注意力解釋為不同形式的記憶儲存,並估算容量:在 64 維 key 下,線性層約存 64 條記憶,MLP 約 2700 條,自注意力可超過 100 萬條。它用干擾-訊號比衡量召回品質:儲存越多,鍵之間干擾越大,干擾等於訊號時達到容量;鍵正交時召回才精確。文章還指出梯度下降的一步可視為寫入一條 key 為輸入、value 為負梯度乘學習率的記憶,並配有互動式應用展示召回如何失敗。
2026 年 10 月 3 日,一篇技術文章批評市面上的 agent 記憶外掛本質都是 RAG:把會話切成片段存入向量庫,每次提示注入最相似的 5 條,存在相似度不等於正確、片段脫離上下文、舊記憶被當作事實、無法審計等問題。作者主張改用文件式記憶,讓 agent 工作前查閱 Markdown 文件、工作後更新,並稱已把這一思路做成外掛 Operator Memory,不使用向量資料庫和嵌入。
馬斯克在 X 發帖,內容只有一句,提到 Grok @Bot 的記憶轉移。帖子沒有說明這句話的具體含義、功能上線時間或適用範圍,也沒有附上任何說明或連結,目前可確認的資訊僅此一條。
Honeycomb 提出用六張固定尺寸的二維特徵平面(HexMemory)儲存場景,讓影片世界模型的記憶不隨影片長度增長。預設配置為 512 解析度、特徵秩 48,約 73.9 MB;降到 256 解析度後僅 19.8 MB,閉環 PSNR 只從 17.22 dB 微降到 17.10 dB。在 WorldScore 閉環重訪測試中它取得最佳結果:PSNR 17.22 dB、SSIM 0.504、光流誤差 3.00 畫素,明顯優於 Spatia 的 6.64 畫素。
開發者 FeiZ 發布基於 DeepSeek Harness 的民間外掛 ds-bot,可把多個 Bot 組成團隊,每個 Bot 擁有獨立名稱、職責、指令、形象與可切換的模型,並具備持久化長期記憶。它支援設定 Main Bot 主管,訊息預設由主管回覆並排程其他 Bot,以降低群聊的 token 消耗;記憶以 Markdown 檔案儲存,每輪對話後自動審查增刪改,資料儲存在本機 DSH 目錄的 bot/ 與 sessions/ 中。
llama.cpp 發布 b11683 版本,Vulkan 後端修復了 GPU 可見主機記憶體的相關問題,並減少主機指標匯入失敗時的日誌刷屏。該版本把 MoltenVK 排除在共享記憶體匯入之外,同時因 amdgpu 效能問題,在 AMD 上停用了主機記憶體緩衝區共享。
斯坦福大學計算機博士 Alex Wang 於 10 月 15 日發布部落格,把線性層、MLP 與自注意力統一解釋為不同形式的聯想記憶儲存器,並從記憶之間的干擾出發推匯出這些結構。在 64 維 Key 的隨機記憶實驗中,線性儲存器容量約 64 條,平方 ReLU 的 GLU 式 MLP 約 2700 條,採用固定縮放係數的自注意力理論容量約 120 萬條;1/√d_k 縮放以及 YaRN 等長上下文擴充套件策略也能從干擾角度得到解釋。
清華大學 THUNLP 實驗室聯合面壁智慧、OpenBMB 等團隊開源智慧體作業系統 PilotDeck 2.0,用 WorkSpace 工作艙隔離各專案的檔案、記憶與任務,記憶白盒化可檢視、修改、刪除,並支援後臺常駐執行長任務。其 Smart Routing 按任務難度分發模型:實測主 Sonnet 4.6 加子 MiniMax-M2.7 得 70.6 分、成本 3.15 美元,單體 Sonnet 4.6 為 69.1 分、18.36 美元,約省六分之五。
Grok Bot 的語音通話功能迎來升級,官方稱通話更快、更可靠,並且更擅長記住過往對話內容。公告沒有給出具體的速度提升幅度、模型版本、上線時間,也未說明可用範圍與訂閱要求,目前僅有三項體驗層面的改進描述。
開發者用自研開源推理引擎 TensorSharp,在 RTX 3080 Laptop(16GB 視訊記憶體)+32GB 記憶體+SSD 的普通筆記本上執行 Qwen3.8 Flash Next 176B。做法是量化加 MoE 感知的統一排程,把快取、視訊記憶體、記憶體和 SSD 按專家啟用情況分層協調。對比 Strata:解碼 11.09 對 10.24 tok/s,但整程耗時 16.54 秒對 62.15 秒。
Mistral AI 發布 Agents API,在 Chat Completion API 之外提供專門的 agent 框架。該 API 內建程式碼執行、網頁搜尋、影像生成(由 Black Forest Lab FLUX1.1 [pro] Ultra 驅動)、文件庫 RAG 與 MCP 工具等聯結器,並支援跨對話持久記憶、有狀態會話、流式輸出和多 agent 編排。開發者可通過指定 agent_id 或直接指定模型發起會話,並隨時續接或從任一節點新建分支。
llama.cpp 發布建置版本 b11390,主要修復了 CUDA 後端在 n_expert 遠大於 n_ubatch 時的 MMQ 記憶體故障(#29941)。
Google 公布 Private AI Compute 新架構,將在雲端加入持久化記憶層,實現跨裝置連續 AI 助手體驗,同時保持端側級別的隱私標準。資料加密存放在雲端專用儲存中,解密金鑰僅保留在使用者裝置上,Google 自身也無法讀取;模型需要呼叫時通過端到端加密通道進入硬體隔離的安全飛地,臨時解密、寫入新上下文後立即重新加密。此前該平台及業界同類方案均為無狀態,任務結束即清除上下文。
Reddit 的 r/LocalLLaMA 版塊一則帖子被版主以違反第 3 條規則為由刪除,評論區仍在討論 8GB 視訊記憶體加 16GB 記憶體的低配硬體如何跑本地模型。有使用者提到 32GB 記憶體加 12GB 視訊記憶體可執行 LFM2.5,也有人建議 Ling 3.0 tiny 或 Gemma 配合 mmap。另有評論稱專家快取即將進入 llama.cpp,未來或支援從磁碟流式載入專家。
llama.cpp 發布 b11594 建置,其中 Vulkan 後端新增多裝置訪問 GPU 可見主機記憶體的能力,並補上了 Windows 支援。該改動(#29741)還清理了多餘的換行、處理 nullptr 並修正啟用條件。
llama.cpp 發布 b11583,主要改動是在「no cache」路徑下避免圖記憶體的重複分配(#30439),即不使用 prompt 快取時可減少反覆申請與釋放視訊記憶體/記憶體。該版本照例提供 macOS、Linux、Windows、Android 等平台的預編譯包,其中 macOS Apple Silicon 的 KleidiAI 建置和 openEuler 建置本次標記為 DISABLED。
llama.cpp 發布 b11424 建置版本,修復 Vulkan 後端 Flash Attention 的共享記憶體越界寫問題(#29988)。該版本照例提供 macOS/iOS、Linux、Windows、Android 的預編譯包,涵蓋 Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL、OpenCL 等後端,並附驍龍 CPU/Adreno GPU/Hexagon NPU 的安裝指引。
llama.cpp 發布建置 b11693,核心改動是修復 SYCL 後端在 mul_mat、split buffer 和 host pool 中的記憶體錯誤(PR #29889)。該版本同時更新了預編譯產物清單,覆蓋 macOS/iOS、Linux、Windows、Android,包含 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO 以及 SYCL FP32/FP16 等後端。
Graphicle 是 Graphify 的 Rust 重寫版,把倉庫對映成程式碼圖,並記住專案文件、決策與過往 agent 會話,向 Claude Code、Codex、Cursor 等 MCP 客戶端返回帶檔案和行號的引用摘錄。它完全本地執行,無需 API key、帳號或遙測;brew 安裝後執行 graphicle setup 即可索引倉庫並接入檢測到的客戶端,graphicle disconnect 可撤銷全部改動。
搭載 Blackwell RTX GPU 與 Grace CPU 的 RTX Spark 筆記本已正式開售,起售價 2399 美元,最高提供 128GB 統一記憶體與 1 petaflop AI 算力。華碩、戴爾、惠普、聯想、微軟、微星首批出貨,主打在輕薄 Windows PC 上本地執行 AI、內容創作與遊戲,官方稱還有更多機型在路上。
llama.cpp 發布 b11446,Metal 後端修復量化 flash attention 中 threadgroup memory 超額佔用的問題,對應 PR #29340。
輝達 RTX Spark N1X 處理器正式上市,首批發售的 Windows 筆記本來自六家廠商,其中微軟 Surface Laptop Ultra 配備 128GB 統一記憶體。這是面向筆記本和小型桌上型電腦的 Arm 架構 SoC,整合 RTX Blackwell 顯示卡,核心數量眾多,主打以統一記憶體執行較大規模的本地 AI 模型,對標蘋果、英特爾、AMD 和高通。目前已有四款機型完成測試,包括華碩的 64GB 版本。
Vx 是一門面向異構計算的系統程式語言,把 CPU、GPU、NPU 與加速器記憶體納入型別系統,主機執行緒解引用裝置指標會直接編譯報錯而非執行時崩潰。它要求跨記憶體空間的資料移動顯式呼叫 transfer(),並用機器檔案描述 H100、H200、B200、A100、MI300X、Apple M4 等真實硬體的記憶體層級與互連,編譯期據此接受或拒絕放置方案。
llama.cpp 合併 PR #28531,在共享記憶體為 32KB 的三星 GPU 上停用 Vulkan 後端的大矩陣乘分塊(large matmul tile),以規避該硬體配置下的問題。該改動由 Claude Opus 輔助完成,並附有建置證明連結。
llama.cpp 的 PR #29825 通過最佳化索引器分數記憶體,把 Qwen Flash Next 等 Qwen4 模型的視訊記憶體佔用減半。實測在上下文 131072、ub 2048 時從 3.0 GiB 降至 1.5 GiB,262144、ub 4096 時從 11.7 GiB 降至 5.6 GiB。作者稱 logits 逐位一致、pp/tg 速度不變,僅分數因 fp32 舍入有差異;有使用者反饋解碼速度約降 10%。
Intel 公布面向 agentic AI 的資料中心推理 GPU D270,單卡最高 480GB LPDDR5X 記憶體,350W 風冷,不依賴 HBM。晶片面積從圖形與光追管線轉向 32 個 Xe3P 核心和 256 個 XMX 矩陣引擎,用於加速長上下文、多輪 agent 工作流的 prefill 與高併發服務。
Nvidia 宣布自 2026 年 10 月 2 日起,2019 年發布的 Shield TV Pro 立即漲價 100 美元,從 199.99 美元升至 299.99 美元。Nvidia 發言人向 Ars 確認,漲價源於包括記憶體在內的元器件成本在全行業大幅上漲。該裝置搭載 Tegra X1+ 處理器,支援 AI 畫質提升與幾乎全部媒體格式的硬體解碼,非 Pro 版本已停產。
llama.cpp 合併多項改動,將 indexer 分數視訊記憶體佔用減半:原先同時存在兩個 [n_pool, n_idx_h, n_tokens] f32 張量,現改為逐頭計算並原地累加為單個 [n_pool, n_tokens] 分數。同時 CUDA 支援 4 頭、Metal 以函式常量讀取頭數、Vulkan 按 64 鍵×8 token 分塊並改用 fp16 點積,indexer 改為呼叫 ggml_lightning_indexer 且鍵只讀一次。
面壁智慧與 OpenBMB 開源 MiniCPM-V 4.7,其中 35B-A3B 是 MiniCPM-V 系列首個 MoE 模型,約 3G 記憶體就能在 iOS、安卓裝置上流暢執行,iPhone 17 Pro Max 上解碼速度超過每秒 13 個 token。另有實際引數 1.3B 的 1B 版本,主打 OCR、數學與影片理解。
Black Forest Labs 發布 5.6B 引數的開源權重模型 FLUX 3 Image Klein,支援文生圖、影像編輯和最多 10 張參考圖的多參考生成,並保留原生 4K 與邊界框控制。INT8 版本可在 8GB 視訊記憶體的 NVIDIA RTX 顯示卡上通過 ComfyUI 或 Diffusers 執行,蒸餾模型在 RTX 5090 上約 4 秒生成一張 1MP 影像,RTX 4070 上不到 9 秒。
微軟在兩年來的首場線下活動中發布 Surface Laptop Ultra,這是首款搭載 Nvidia RTX Spark SoC 的裝置,起售價 2599 美元,10 月 16 日開始發貨,現已開啟預售。它可選 5120 核或 6144 核 Blackwell GPU,統一記憶體最高 128GB LPDDR5x,依靠統一記憶體分配而非傳統視訊記憶體上限,兼顧本地 AI 開發部署與 3A 遊戲執行。
官方只支援 Windows 的 ASUS ProArt P16(128GB 記憶體版)已被裝上 Arch Linux ARM 並能正常使用。作者基於 NVIDIA 面向 Ubuntu 的核心工作,補齊 ACPI 覆蓋、hid-asus 鍵盤與音訊驅動,做出可啟動映象,並擴充套件 Archinstall 4.5 來安裝硬體支援;7-Zip 單執行緒成績與 Windows 基本持平,20 執行緒壓縮約領先 5%、解壓約領先 3%。
llama.cpp 發布 b11723 建置,Hexagon NPU 後端的 FLASH_ATTN_EXT 得到改進,可支援更長上下文與滑動視窗注意力(SWA)模型(#30731)。同一批改動還包括掩碼塊跳過以減少 DMA 取數、微調 hmx→hvx 切換閾值以提升 gemma-4 表現,以及讓 hmx 門控計入 mdev.count。
r/LocalLLaMA 使用者集中討論名為 Strata 的推理方案,稱其是專為 Qwen 3.8 Flash Next 打造的 llama.cpp 分支,面向 12GB 以上視訊記憶體的 GPU。使用者實測在 16GB 視訊記憶體、24GB 視訊記憶體及 64GB 記憶體等配置上可執行該開源模型,有人報告解碼約 82 tok/s、60 tok/s 或 1200pp,並稱速度約為 Qwen 3.8 27B 在 llama.cpp 上的兩倍。也有人質疑相關帖子是機器人營銷,討論其是否為炒作。
《The Verge》一名作者開始連載自己日常使用本地 AI 的體驗,此前他一直不願把最私人的資料交給雲端服務。他認為如今在本地執行較強模型已越來越可行,但不確定是否值得為一臺配了大容量、價格不菲記憶體的電腦或筆記本花大錢。文章還提到 Apple 對新款 Mac 桌面機的宣傳。他自認不是 AI 專家,會邊用邊寫。
NVIDIA 宣布 RTX Spark 筆記本將於 10 月 16 日上市,該平台最高提供 128GB 統一記憶體與 1 petaflop AI 算力。為本地 agent 打造的 Nemotron 3.5 Bolt 74B 將在 10 月 15 日發布,採用 74B 引數、9B 啟用的 MoE 架構,以 2-bit 量化裝入 24GB 記憶體。
一位開發者把 AI Agent 跑在了只有 48MB RAM 的諾基亞 110 功能機上,並已用它自動化了幾個操作。他平時用這部手機來減少螢幕時間,最初嘗試刷入 Android 系統,因記憶體只有 48MB 而失敗,隨後花幾天時間逆向工程,最終讓 AI Agent 在這臺手機上執行。該帖發在 Hacker News 的 Show HN 板塊,目前 15 分、3 條評論,作者未說明所用的是哪個 AI 模型,也沒列出具體自動化了哪些操作。
ROME 攻擊通過惡意 Python 模組直接在 GPU 記憶體中改寫模型權重,使同一檢查點對同一問題給出語義不同的答案,磁碟檔案卻沒有任何變化。傳統 EDR/ADR 只監控檔案、程序和網路,因而看不到這類僅由額外 CUDA 核心啟動完成的篡改。Stealthium 的執行時感測器把每次 CUDA 核心啟動關聯回發起它的 Python 程式碼,並結合權重變化與呼叫棧進行檢測;其實驗室復現顯示,攻擊表現為標準推理加一批額外 CUDA 啟動。
明略科技與中國科學院自動化研究所聯合提出 VisionHOPE,稱其為首個以自修改學習系統為核心的通用視覺骨幹網路,程式碼、底層運算元與預訓練權重已按 MIT 協議開源。模型在單次前向計算中一邊讀圖、一邊更新決定特徵關聯、學習步長與記憶保留的規則,由五類可更新記憶協同完成。VisionHOPE-S 以 52.9M 引數在 ImageNet-1K 取得 85.2% Top-1 準確率,引數量不到 VMamba-B 的六成、準確率高 1.3 個百分點;
llama.cpp 合併 PR #29990,在 MUSA 後端改用向量版 lightning indexer kernel。原因是 MUSA 架構 21 與 22 的靜態共享記憶體上限為 28 KB,而 tile kernel 需要 33 KB,所以 tile kernel 不用於 MUSA;CUDA 與 ROCm 仍執行合併後的原 kernel,沒有變化。
微軟搭載 Nvidia 晶片的 Surface RTX Spark Dev Box 已開啟預售,定價 5,999 美元,預計 11 月發貨。它採用 Nvidia Arm 架構的 RTX Spark 平台與 128GB 統一記憶體,100 瓦熱設計功耗,機身是兼作散熱器的 3D 列印陽極氧化鋁外殼,外觀類似 Xbox Series X 頂部散熱孔。價格高於 Nvidia 去年推出的 DGX Spark 迷你主機,原文將漲價歸因於記憶體等零部件短缺導致 PC 價格上行。
馬斯克在 X 上發帖表示,中國將在 2028 年生產大量 RAM(記憶體)。該表態沒有給出具體產能數字、涉及廠商或產品細節,也未說明判斷依據。帖子發布於 2026 年 10 月 15 日。
Meta 發布 Muse Wonder 系列兩款模型 Muse Wonder 與 Muse Wonder Full,稱在個人與專業 agent 任務、記憶與編碼基準上達到當前最優;Muse Wonder 即日起通過 Meta Model API 和 Muse Code 提供,Muse Wonder Full 僅面向 Muse Code 訂閱者。
由 Kubernetes 建立者 Craig McLuckie 和 Joe Beda 創辦的 Stacklok 推出雲原生 agent harness Mecatl,6 月起在 GitHub 開源。Mecatl 把 agent loop 與客戶端、模型提供商、狀態儲存和執行環境解耦,會話與記憶不再以 JSONL 檔案躺在本地磁碟,而是放進雲端可管理的系統,供企業集中治理。
有使用者在 Reddit 發帖討論對 Kimi K3.5 的期待,稱 K3 已是令人喜愛的模型,好奇 K3.5 會有多強。帖主回顧稱 K2 已經不錯,K2.5 憑藉持續學習階段提升到全新水平,據其記憶使用了超過 20-25T token。該帖未提供 K3.5 的發布時間、引數或官方資訊。
llama.cpp 建置 b11488 新增 LiquidAI/d1-omni-600M 決策模型支援,服務端可通過 images 與 input_audio 直接接收音訊輸入,模型與多模態輸入打通。同時決策型別 d1omni 更名為 lfm2-d1-omni,images 成為 files 的別名,無記憶的 lfm2 被限定為非因果模式,CUDA 後端保留 conformer 的 GLU sigmoid。四筆改動均標註由 Claude Opus 5.5 協助完成;
Anthropic 發布基於 Claude Managed Agents(beta)的 agent 自動化參考實現:按 cron 計劃讀取 Slack 頻道與 GitHub PR,依據上次執行留下的書籤只取新增內容,再把簡報發到指定 Slack 頻道。配套程式碼含 agent、部署、環境、記憶與 vault 等配置,用 ant apply 寫入 Claude API 工作區,憑據存於 vault、沙箱內只留佔位符;