Hacker News front pageAI 評分74
Memorilla 用 16 個記憶 token 為凍結 LLM 做記憶
Memorilla 是一種面向凍結 LLM 的記憶系統:它先把文件一次性編碼為可複用的向量,再學習把每次查詢所需的資訊放進模型輸入的嵌入空間,只需 16 個記憶 token。在覆蓋個性化、長文件與知識密集型問答的八個基準中,它在五個上優於 Mem0、MemoRAG 等方案;在 FactKG 上準確率達 84.33%,超過全上下文推理的 80.43%,而表示源文件所用 token 少了 108 倍。