Memorilla 用 16 個記憶 token 為凍結 LLM 做記憶
Memorilla 是一種面向凍結 LLM 的記憶系統：它先把文件一次性編碼為可複用的向量，再學習把每次查詢所需的資訊放進模型輸入的嵌入空間，只需 16 個記憶 token。在覆蓋個性化、長文件與知識密集型問答的八個基準中，它在五個上優於 Mem0、MemoRAG 等方案；在 FactKG 上準確率達 84.33%，超過全上下文推理的 80.43%，而表示源文件所用 token 少了 108 倍。
論文給出具體數字：16 個記憶 token 就在多數基準上超過 Mem0、MemoRAG，並在 FactKG 上以少 108 倍的 token 反超全上下文；對做長上下文、智慧體記憶與 RAG 方案的人有直接參考價值。
原標題：Memorilla: Latent Semantic Memory for LLMs
閱讀原文
| 評分 | 75 / 74（平均 74，門檻 76） |
|---|---|
| 狀態 | 未入選 |
相關報導
記憶張量開源首個記憶原生基座模型 MemT 1.0
記憶張量發布並開源 MemT 1.0，稱其為業內首個記憶原生基座模型，歷史資訊被編碼為可更新的內部記憶狀態，隨每輪對話逐 token 更新並可跨會話儲存恢復。兩個版本為 MemT-1.0-Flash（288B 引數、17B 啟用、336M 動態記憶）與 Nano（36B 引數、3B 啟用、10M 動態記憶）。
NeurIPS 2026：MemSkill 讓智慧體進化記憶技能
南洋理工大學等機構在 NeurIPS 2026 發表 MemSkill，把新增、更新、刪除、跳過等記憶操作封裝為可學習、可複用、可進化的 Memory Skills，並用下游任務反饋最佳化技能選擇、根據失敗案例擴充技能庫。實驗在 LLaMA 與 Qwen 上覆蓋 LoCoMo、LongMemEval 與 ALFWorld，均取得最高 L-J 分數與 ALFWorld 平均成功率，且技能庫可跨模型、跨資料集直接遷移而無需重訓。
文章稱 agent 不需要記憶外掛，應改用文件式記憶
2026 年 10 月 3 日，一篇技術文章批評市面上的 agent 記憶外掛本質都是 RAG：把會話切成片段存入向量庫，每次提示注入最相似的 5 條，存在相似度不等於正確、片段脫離上下文、舊記憶被當作事實、無法審計等問題。作者主張改用文件式記憶，讓 agent 工作前查閱 Markdown 文件、工作後更新，並稱已把這一思路做成外掛 Operator Memory，不使用向量資料庫和嵌入。
研究：LLM 用 1866 年電報體壓縮記錄可省近半 token
一份 50 篇材料、約 1300 題的新基準（Telegraph Test，程式碼與資料已開源）顯示，只需一句小寫指令讓模型用 1866 年跨大西洋電纜時代的電報體（cablese）撰寫壓縮記錄，輸出 token 可省 40%–49%，而下游模型讀取這些記錄的準確率不低於明文（恢復比 0.99–1.10）。GLM-5.3-Flash 自身省 48.4%，qwen3.8-27b 省 48.9%，gemma-4-31b 省 40.4%；
llama.cpp 新 PR 將 Qwen4 索引器視訊記憶體減半
llama.cpp 的 PR #29825 通過最佳化索引器分數記憶體，把 Qwen Flash Next 等 Qwen4 模型的視訊記憶體佔用減半。實測在上下文 131072、ub 2048 時從 3.0 GiB 降至 1.5 GiB，262144、ub 4096 時從 11.7 GiB 降至 5.6 GiB。作者稱 logits 逐位一致、pp/tg 速度不變，僅分數因 fp32 舍入有差異；有使用者反饋解碼速度約降 10%。