2026 年 10 月 20 日，記憶張量發布並開源記憶原生基座模型 MemT 1.0，稱其為業內首個記憶原生基座模型，同時公開技術報告以及 GitHub、HuggingFace、ModelScope 倉庫。該系列的思路是把歷史資訊編碼成可更新的內部記憶狀態，隨每輪對話逐 token 更新並支援跨會話儲存恢復；外掛記憶… 看完整事件
記憶張量開源 MemT 1.0，記憶原生模型最大 288B 引數
記憶張量開源 MemT 1.0 系列記憶原生模型，最大型號 Flash 總引數 288B、啟用 17B，較小的 Nano 為 36B 總參、3B 啟用。兩者分別在選定的 Transformer 模組里加入與原注意力並行的記憶分支，把經驗編碼成可更新的內部矩陣狀態，據稱為記憶原生模型首次做到近 300B 引數規模的工程驗證。在 SWE-bench Verified 的 500 項任務各跑三次中，Nano 三次全成功率由無經驗的 54.00% 升至 62.80%；
記憶原生模型首次做到近 300B 引數規模的工程驗證，並給出成功率、1.86 倍推理速度與 1/66 狀態佔用等實測數字，對關注長會話成本與持續學習路線的開發者有參考價值。
原標題：RSI三块关键拼图，MemT 1.0从模型层补上「记忆」
閱讀原文
| 評分 | 70 / 72（平均 71，門檻 65） |
|---|---|
| 狀態 | 精選 |
相關報導
176B MoE 模型在 16GB 視訊記憶體筆記本上跑通
開發者用自研開源推理引擎 TensorSharp，在 RTX 3080 Laptop（16GB 視訊記憶體）+32GB 記憶體+SSD 的普通筆記本上執行 Qwen3.8 Flash Next 176B。做法是量化加 MoE 感知的統一排程，把快取、視訊記憶體、記憶體和 SSD 按專家啟用情況分層協調。對比 Strata：解碼 11.09 對 10.24 tok/s，但整程耗時 16.54 秒對 62.15 秒。
浙大等發布 WorldMemBench，評測影片世界模型記憶
浙江大學、復旦大學、螞蟻集團與南京大學團隊推出 WorldMemBench，用可控的“離開—回訪”鏡頭評測影片世界模型的記憶。基準含 260 個案例、23 個內容類別，分靜態記憶、動態記憶及影片品質、相機跟隨四個維度，測試了 HY-WorldPlay、LingBot-World 等九個模型。結果顯示靜態與動態記憶的強項分化：HY-WorldPlay 七項靜態指標全部領先，LingBot-World 動態記憶總分最高；
Mistral 發布時序基礎模型 Timestral，209M 版本登頂三大基準
Mistral 發布首個時間序列基礎模型家族 Timestral，最大的 209M 引數版本在 GIFT-Eval、TIME、fev-bench 三個公開基準上均排名第一，且引數量只有此前最優模型的三分之二。家族含 5M、28M、123M、209M 四個規模，支援機率與多變數預測、已知未來協變數，零樣本即可使用。推理無需 GPU，在 8 執行緒標準伺服器 CPU 上，用三週 15 分鐘粒度歷史預測未來一天，5M 耗時 10ms、209M 為 140ms；
llama.cpp b11446 修復 Metal 量化 flash attention 執行緒組記憶體超額
llama.cpp 發布 b11446，Metal 後端修復量化 flash attention 中 threadgroup memory 超額佔用的問題，對應 PR #29340。
自注意力可存超百萬條記憶：Transformer 記憶容量解讀
這篇博文把線性層、MLP 和自注意力解釋為不同形式的記憶儲存，並估算容量：在 64 維 key 下，線性層約存 64 條記憶，MLP 約 2700 條，自注意力可超過 100 萬條。它用干擾-訊號比衡量召回品質：儲存越多，鍵之間干擾越大，干擾等於訊號時達到容量；鍵正交時召回才精確。文章還指出梯度下降的一步可視為寫入一條 key 為輸入、value 為負梯度乘學習率的記憶，並配有互動式應用展示召回如何失敗。