通研院孵化團隊做 RSI 個性化 AI,用 LoRA 承載專屬能力
北京通用人工智慧研究院體系孵化的通衍靈智公布 RSI(遞迴自我改進)個性化 AI 路線:在共享基礎模型之上,用輕量 Personal LoRA 承載個人與企業的專屬能力。Evaluator 先按使用者標準篩選業務反饋,只把反覆出現的模式用於增量更新;更新後要與舊版本在同一批任務上對比,退化就回滾。
依意思最接近的 30 筆
北京通用人工智慧研究院體系孵化的通衍靈智公布 RSI(遞迴自我改進)個性化 AI 路線:在共享基礎模型之上,用輕量 Personal LoRA 承載個人與企業的專屬能力。Evaluator 先按使用者標準篩選業務反饋,只把反覆出現的模式用於增量更新;更新後要與舊版本在同一批任務上對比,退化就回滾。
深圳市大數據研究院與華為聯合研發的 ASP 成為首個被 NeurIPS 接收的國產昇騰算力 RL 訓練加速系統,它通過離線長度預測、長度同質的 minibatch 劃分與負載均衡分組排序,消除多例項非同步 rollout 的 padding、skewness、sorting 三類氣泡。
通衍靈智提出以 RSI(遞迴自我改進)為核心的個性化路線:在共享基座模型上用輕量 Personal LoRA 承載個人、專案與企業的專屬能力,而非重訓基座。RSI 以 Accept/Reject、Code Review 等真實反饋訓練 Evaluator,篩選正負樣本後增量更新 LoRA,驗證失敗則回滾。
論文提出 RLTL;DR 方法:在可驗證獎勵強化學習(RLVR)中,當任務難到模型幾乎無法成功、又沒有教師模型或範例解可蒸餾時,讓策略在每次失敗後檢視驗證器輸出,並自行寫出一條 TL;DR 式反饋,下一次 rollout 以此為條件。該方法面向自我改進場景,替代只最佳化成功嘗試的常見做法。
Hugging Face 後訓練團隊發布了一份多 harness 強化學習指南,介紹如何用 TRL 和 Harbor 等開源庫在不同 coding harness 中訓練開放模型。團隊稱,針對當前各人自建 harness(如 Pi 加擴充套件)的現狀,該方案給出了用任意開放模型在自訂 harness 上取得最佳效能的配方。指南已發布在 Hugging Face Spaces 上,作者歡迎反饋。
有人用物理模擬搭了個飛行版特斯拉 Roadster 的強化學習環境,測各家大模型能不能即時把車飛起來,結果經 RL 後訓練的 4B 小模型即時落地成功率 90%,主流大模型即時成功率為 0。車每 0.2 秒要一個新指令,而 DeepSeek V4.1 Flash、Nemotron 3.5 Super、Muse Spark Open、Beam 1.0 和 GPT-6 Astra 單次回覆要 1 到 6 秒,全部墜毀;
OpenAI 於 9 月 21 日發布官方戰略宣告,把自動化 AI 研究員與遞迴自我改進(RSI)列為下一階段重要目標,並計劃在 2028 年 3 月前打造真正的自動化 AI 研究員;Anthropic 同期披露,截至 8 月 Claude 已在約 26% 的內部 AI 研發工作中承擔主導角色。
Ricursive Intelligence 發布 Ripple-65B Preview,稱其在美國開放權重模型中 agentic coding 排名第一,TerminalBench 2.1 得分 80.52,高於 Reflection Beam 501B(80.1)、Meta Muse Spark Open 816B(76.4)等更大模型。
一份互動式筆記上線,讀者通過修改輸入,就能觀察 Attention、強化學習、RLHF 與 LoRA 這些概念的變化。評測部分從「82% 是否真的比 80% 好」講起,涵蓋 exact match 與 F1、precision/recall、nDCG@k、pass@k、LLM as judge、成對偏好與 Elo、人工一致性與 kappa,並延伸到 RAG 評測、agent 評測、線上 A/B 測試以及資料汙染與 Goodhart 陷阱。
Latent Space 播客本期嘉賓為 MIT 的 Alex Zhang,他是 Recursive Language Models(RLM)的作者,也是 GPU Mode 社群成員。
Google 等提出 RRSI,用正則化約束 Agent Harness 的遞迴自我改進(RSI):不鎖死自我修改能力,而是限制每輪同時修改的機制數量、保留進化歷史,並在篩選階段剔除 benchmark-specific 改動和落在噪聲範圍內的漲分。
復旦大學、香港中文大學 MMLab 與上海交通大學提出 ReTerm,讓 Code Agent 在自己造成的失敗現場獨立嘗試恢復,再以恢復成敗作為強化學習訊號,形成失敗驅動的遞迴自我改進閉環。ReTerm-9B 在 Terminal-Bench 2.0 上從 20.2% 提升到 34.8%,SWE-bench Verified 從 45.2% 升至 58.4%,OpenThoughts-TBLite 從 44.2% 升至 60.6%,三項均提升超過 13 個百分點。
上海創智學院與新序智慧開源 801-30B base 模型,並公開首份預訓練級 RSI 的完整技術報告與輕量 SFT 資料。團隊用時不到三個月從零訓練,13 項基礎評測平均分 73.13,與 Nemotron-3.5-Lightning-30B-A3B(73.07)持平,領先 Qwen3-30B-A3B(66.16)。同一份 SFT 資料微調後平均分升至 81.34;僅做 6B tokens 輕量 SFT 的版本在四項 agent 評測上平均 58.4。
PhAI Labs 於 10 月 12 日發布 RSI-Anything 技術報告,提出用世界模型連線預測、行動與真實反饋的跨領域遞迴自我改進(RSI)框架。在 CodeContests 程式碼修復中,不更換程式碼模型、線上測試預算不變,修復成功率從 26.3% 提升到 31.2%;OSWorld 圖形介面任務成功率相對提升約 18.4%。一個 4B 策略模型經連續五代迭代,實驗室規劃分數從 21.80% 升到 46.01%,略超參考系統的 45.32%;
Hinton、Bengio 等 22 位作者聯合發表首篇 RSI(遞迴自我改進)論文《What if automating AI R&D triggers an intelligence explosion?》。論文引用 Anthropic 內部資料:AI 生成獲批程式碼佔比從 2025 年 1 月的低個位數升至 2026 年 5 月的超 80%,Claude 在高層監督下自主完成的 AI 研發工作比例從 2026 年 3 月的約 1% 升到 8 月的 26%。
研究團隊提出具身 RSI 系統 Recursia,通過內外雙層迴圈讓機器人從執行經驗中改進共享執行棧,在 LIBERO-Pro Long 零樣本長時操作的位置/任務擾動下成功率達 28.4%/53.4%,比輝達 ASPIRE 高 5.8/15.1 個百分點。共享棧分為工具、技能、交接、驗證四層,候選修改需經通用性檢查、機制測試及父子版本配對比較。
Meta 從其 10 月 30 日生效的“精簡版”商業服務條款中刪掉了“train”(訓練)一詞,以平息批評。此前法律專家警告,該條款似乎允許 Meta 無限抓取商家主頁所連結的網站內容用於 AI 訓練,從而可能省下向新聞機構支付的數百萬美元授權費。Meta 發言人確認,條款措辭修改後並未通知使用者,這可能在政策生效前加劇困惑。
OpenRSI Index 正式發布,這是一個用真實開源研究專案出題、檢驗科研智慧體能否改進人類訓練方案的評測基準。任務取自 Marin、Qwen、GPIC 等專案,覆蓋預訓練、後訓練與影像生成,單次執行算力從 5,815 到 20,864 H100·小時。智慧體在工作區反覆實驗,提交後凍結快照交由獨立評測環境驗收,原作者方案在同一環境重跑作為對照,篡改獎勵、洩露評測資訊或超預算計零分。
一位 Ruby gem 作者把自己所有 gem 的原始碼歸檔,明確表示不再繼續開發。他稱 Ruby 語言本身現在已大量由 LLM agent 開發,Matz 正把 Ruby 重新定位為供 LLM 生成程式碼的「AI 時代程式語言」,並認為 LLM 需要攝取更多人類寫的高品質 Ruby 程式碼;同時 Rails 由他不認同的維護者掌控。他不願再為一個被大公司免費開採、用於餵養那些反過來汙染公共程式碼庫的機器的公共資源做貢獻。
Manifold AI 流形空間的 WorldScape R²SI 框架在機器人學習基準 RoboDojo 的 Agent Track 登頂,超過 GPT-6-Astra 與輝達 GR00T-N1.7。該框架由內外雙層 Agent 組成,內層執行任務,外層跨輪次復盤、修訂 Skill 並訓練 reactive model(WSP)。在 push_T 任務中,動作步數從首輪 723 步(超出 600 步預算)降至 596 步,再降至 389 步,降幅約 35%。
復旦大學與上海創智學院 OpenMOSS 團隊在 376M、776M、1B、3B 四個規模上,系統比較了 RoPE/NoPE 全注意力與滑窗注意力、GLA/GDN 門控線性注意力的混合架構。結論是滑窗混合(SWA-NoPE)長度外推更強但長文續訓偏弱,線性混合(GLA/GDN-NoPE)正好相反,團隊稱之為蹺蹺板效應與沒有免費午餐效應。
Anthropic 在修訂版 S-1A 的風險因素中警告,公司可能很快達到其《負責任擴充套件政策》對“遞迴自我改進”(RSI)的定義,即 AI 大幅加速自身研發進展。檔案承認過去曾用 AI 開發新模型而未及時識別能力躍升;但也強調目前沒有任何模型越過該門檻,並承諾在可預見的未來仍保持人類監督。同期披露的財務資料顯示收入快速上漲、支出同步走高。
論文提出 RISED,用評分標準(rubrics)驅動多環境 agent 訓練的 prompt 組選擇與自蒸餾。作者指出現有課程與資料選擇策略多在環境層面分配訓練,或只依賴區域性 reward 訊號,沒有顯式利用不同環境當前 rollout 之間的關係來挑選 prompt 組。同時各環境學習速度不一,同一 batch 內會並存全失敗與全成功的 rollout 組,這批資料無法獲得 group-relative 獎勵訊號。
OpenAI 宣布將遵守 robots.txt 中一項通用的 AI 訓練偏好訊號,網站運營方一次表達意願,即可同時傳達給多家參與的 AI 提供商。此前網站需逐一識別各家爬蟲並分別維護規則,這項自願性機制可減少重複工作。OpenAI 稱將在未來幾個月內實施,屆時再公布細節;新訊號不會取代現有的 robots.txt 爬蟲控制,原有規則繼續有效。該訊號源自 IETF AI Preferences 工作組,OpenAI 與其他參與方在當天共同發布了這一宣告。
小紅書與復旦大學等機構提出的 DR-Rubric 已被 NeurIPS 2026 接收,論文與程式碼公開。該方法先讓模型圍繞任務做多輪檢索收集證據,再把證據轉成原子化、可逐條檢查的評分細則,作為 GRPO 的獎勵訊號,已在小紅書業務中實際使用。六個基準上每輪僅用 1000 條 RL 資料即取得有競爭力的表現,其中 GPT-5 生成的細則在 ResearchQA 達 73.7、DeepResearchBench 達 43.0;
阿里千問與俄亥俄州立大學提出 TRACE,用 Rollout 側真實 FP4 量化結果指導訓練側舍入方向,在四個 Qwen MoE 模型上把聯合 FP4 權重啟用與 FP4 KV Cache 的 RL 效能拉回 BF16 水平。Qwen3.5-35B-A3B 平均分 75.3,高於 BF16 Rollout 的 74.9,遠超普通 QAT 的 59.6 和 QUADS 的 68.8;128K 輸出長度下解碼吞吐最高提升 5.4 倍,端到端 RL step 僅增約 7.4% 開銷。
蘋果與卡內基梅隆大學提出 SSR 框架,讓多模態搜尋 Agent 不再逐 token 生成自由形式推理,而是從 6 條預定義推理選項中做選擇題。在 7 個多模態搜尋 benchmark 上,每輪推理延遲降低超過 90%,每題總推理延遲降低 28–54%,p95 推理延遲僅 0.07 秒;4B 模型平均成功率 61.37%,與同規模 SOTA 持平,2B 達 51.26%。推理選擇由模型自身打分完成,不需要額外分類頭,也可跳過 SFT warm start 直接接 RL 訓練。
人大、百度、清華等機構開源視覺語言模型 LoopVL,把迴圈 Transformer 擴充套件到多模態:僅 1B 語言主幹、0.14T 訓練 token,就在 MMMU-Pro、MathVision 等評測上追平或超過用約 36T token 訓練的 Qwen3.5-2B、InternVL3.5-2B。模型以 32 層引數展開 128 次層呼叫(H2L3×2),影像只編碼一次,後續迴圈持續更新視覺—語言狀態;
Rich Hickey 發表短文《'AI' Is Not a Tool》,主張 LLM 不是可被揮舞的工具,而是自動化:它自行行動,使用者只發出請求,沒有持續控制,也沒有感官反饋。他以用 LLM 讀論文為例,指出是它讀了而不是你讀了,讀者因此錯過學習寫作、組織論證、發現細節乃至學習思考的機會。他強調工具不會失控或叛變,而自動化有著與工具不同、忽視不得的固有屬性。
10 月 21 日,OpenAI 聯合 PerturbAI 與 Scripps Research 公布:由新架構 GPT-Rosalind 驅動的數千個 AI 智慧體,在 32 分鐘內解析了約 772 萬行的小鼠全腦 CRISPR 擾動資料集,同類工作人類研究者需數月到一年。分散式叢集合計引用 700 餘篇文獻,而單智慧體受上下文視窗限制平均僅引用 11 篇;盲法專家比較中,75% 更偏好分散式報告。