Percepta 發布 Spotlight 架構,記憶可無限增長
Percepta 公布新架構 Spotlight,用可讀寫記憶取代注意力機制,宣稱是首個實現記憶無限增長而不增加訪問成本的架構。每個 token 只讀寫少量記憶單元,稀疏度可任意調節,不像 MoE 那樣固定啟用比例。該架構把負責計算的智慧模組與存放知識、流程和狀態的記憶分離,模型權重不隨記憶增長而改變,可自行決定載入與覆寫,從而無需重訓練即可獲得新能力。
找到 4 筆;也可以試試 語意搜尋
Percepta 公布新架構 Spotlight,用可讀寫記憶取代注意力機制,宣稱是首個實現記憶無限增長而不增加訪問成本的架構。每個 token 只讀寫少量記憶單元,稀疏度可任意調節,不像 MoE 那樣固定啟用比例。該架構把負責計算的智慧模組與存放知識、流程和狀態的記憶分離,模型權重不隨記憶增長而改變,可自行決定載入與覆寫,從而無需重訓練即可獲得新能力。
10 月 20 日,飛書與豆包工作主辦的 AI 先鋒未來人才大賽總決賽在北京舉行,12 組選手使用飛書和豆包工作解決企業真實業務命題,並聯合數智教育發展國際大學聯盟發布《AI 時代人才標準全景觀察》,該報告彙集 4300 多支戰隊資料與 108 家企業人才觀。金獎由“秋陽裡 Pipeline”獲得,銀獎為“見微智探”“氨心排程”。大賽開放全部飛書 AI 功能與無限 Token,其中 80% 以上 Token 用量發生在豆包工作;數十家企業現場設崗,三支戰隊進入反選 offer 環節。
10 月 20 日,飛書豆包工作 AI 先鋒未來人才大賽總決賽在北京舉行,12 組選手用飛書與豆包工作解決企業真實業務命題,現場評出金銀銅獎。大賽與數智教育發展國際大學聯盟共同發布《AI 時代人才標準全景觀察》,資料來自 4300 多支戰隊和 108 家企業的人才觀。比賽向選手開放全部飛書 AI 功能與無限 Token,其中 80% 以上 Token 消耗發生在豆包工作;有團隊用豆包工作 3 天、3000 元完成一部 120 分鐘短劇,傳統真人短劇需 25 至 40 天、成本 50 萬至 100 萬元。
Karpathy 給 Opus 5 輸入《魔戒》第一段、100 萬 token 預算(約 10 美元),要求用 Three.js 渲染,模型執行約 2 小時後寫出 5500 行程式化渲染程式碼。他認為這類任務標誌 LLM 測試正走出「畫個騎腳踏車的鵜鶘 SVG」階段,因為沒人會花時間做這種高度定製的作品,而 LLM 有無限耐心。他也指出弱點:LLM 無法原生高效地觀看影片或玩遊戲,Opus 5 只能緩慢截圖檢查,多次出錯並留下不少瑕疵。