Percepta 發布 Spotlight 架構：智慧與記憶分離

Percepta 發布新架構 Spotlight，用可讀寫記憶取代 attention，宣稱是首個記憶無限增長而訪問成本不上升的架構。它把做計算的智慧模組與存知識、技能和狀態的記憶分開，記憶增長時模型權重不變。模型逐 token 決定載入與覆蓋哪些記憶單元，因此無需重訓練即可獲得新能力。

對在本地跑開源模型、受上下文長度和權重限制的你，這條路線提示了一種不改權重、靠可寫外掛記憶擴充套件能力的思路。

原標題：New Architecture from Percepta: Spotlight — separating intelligence from memory, allowing knowledge and skills to grow without changing the model's weights.
閱讀原文