找到 11 筆
何愷明團隊發布 NAT-ARC，用 ImageNet 上 MAE 預訓練的視覺編碼器解 ARC 抽象推理題，最佳單模型（0.6B 引數）在 ARC-1 上 pass@2 達 63.4%，整合後 70.2%。該方法不依賴 LLM，預訓練階段不使用 ARC 格子，僅複用 MAE 公開 checkpoint，測試時對每題做 LoRA 微調。論文稱這是純視覺方案首次逼近專用 LLM 系統水平，並顯示預訓練打通了視覺路線的 scaling 瓶頸。
LittleBit 專案放出論文官方實現，可把 LLM 權重壓縮到 1.0 至 0.1 bits-per-weight，推理時保持原模型結構不變。ICML 2026 的 LittleBit-2 新增 Joint-ITQ 初始化，通過 --use_itq 開啟，只改初始化、不增加推理開銷，並支援 SmoothSign 量化感知訓練與可選殘差分解。
有人在 GitHub 上對本地執行的大語言模型進行「拷問」和「疼痛」實驗，引發 X 上關於 AI 倫理的激烈爭論，部分有效利他主義者和相信 LLM 有感知的人要求 GitHub 刪除該專案。爭論源於近期多篇關於 AI 意識和「模型福利」的病毒式論文與博文，Anthropic 也曾在部落格和「Claude 憲法」中提及模型福利。文章認為 LLM 並不具備意識，其基於人類文字訓練的技術沒有通向意識的合理路徑。
論文提出 RISED，用評分標準（rubrics）驅動多環境 agent 訓練的 prompt 組選擇與自蒸餾。作者指出現有課程與資料選擇策略多在環境層面分配訓練，或只依賴區域性 reward 訊號，沒有顯式利用不同環境當前 rollout 之間的關係來挑選 prompt 組。同時各環境學習速度不一，同一 batch 內會並存全失敗與全成功的 rollout 組，這批資料無法獲得 group-relative 獎勵訊號。
多模態大模型選視覺編碼器有了免訓練評測方法 RAVEL，在三個 LLM 上其評分與下游實際表現的 Spearman 相關係數平均達 0.85。團隊訓練評測了 210 個 MLLM（70 個視覺編碼器配置 × Qwen3-1.7B、Qwen2.5-1.5B、SmolLM2-1.7B），發現候選池擴大後原有跨模態指標失效，甚至不如單模態指標。
維基媒體基金會上週五就《紐約時報》等出版商起訴 OpenAI、微軟的系列 AI 版權案提交法庭之友意見書，明確不站任何一方。它主張法院應允許大語言模型在版權作品上訓練，但不應允許聊天機器人把作品原樣複述給使用者。基金會警告，過於非黑即白的判決要麼讓維基人失去有用的 AI 工具，要麼危及開放網路。
有作者撰文反駁“沒人知道大語言模型如何工作”的說法，稱 LLM 是純機械系統。文中拆解一次推理：文字先切成 token 並數值化，經矩陣乘法、注意力、歸一化與非線性變換逐層計算啟用，最終得到下一個 token 的機率分佈並按解碼規則輸出；訓練用損失函式回傳誤差調整引數，日常呼叫不會改動引數。作者強調只要有模型與工具，就能記錄每層啟用、檢查注意力頭與權重、增刪元件觀察變化，Transformer Circuits 與 circuit tracing 等可解釋性研究也在公開推進。
哈爾濱工業大學（深圳）團隊的 STILL 被 NeurIPS 2026 接收，這是首個按內容而非位置在同一注意力層內混合 Softmax 與線性注意力的框架：先用區域性滑窗內的自顯著性分數挑出重要 token 交給 Softmax，其餘交給線性注意力，並用保範數對映 NP-Map 保住預訓練範數結構。它僅用 0.04B token 完成對預訓練 LLM 的線性化，16K 上下文下視訊記憶體削減 80%、預填充加速 83%；
Leash Bio 發布 Minos——一個讓 AI 智慧體進行可驗證科學推理的測試環境，同時公開預印本、部落格與開放資料集。其 DNA 編碼庫（DEL）多年積累的資料可提供數萬條「lab-in-the-loop」模擬，正好用作科學強化學習環境。在該沙盒中，LLM 需用自然語言推理構效關係，在 650 萬分子中、以 100 次預算找出最佳結合物。團隊自研的 Hermes 僅用自家資料訓練，在公開基準上與 Boltz 相當。
舊金山成立兩年的 Mirror Particle 認為用 LLM 角色扮演目標人群來預測人類行為的方法行不通，改為從零訓練模擬人類動因、並追蹤其隨時間變化的世界模型。它結合客戶資料、時事、流行文化與社交媒體建模人群，重點看真實發生的「已顯現行為」而非問卷自述。公司已完成天使輪、接近敲定首輪風投，將參加 TechCrunch Disrupt 2026 的 Startup Battlefield 200。初期面向市場研究與品牌產品策略；
一個面向美國聯邦法規的 Git 式版本記錄系統問世：選定日期即可看到當日生效的法條原文，每句按寫入它的法案著色。作者以 2017 年以來的發布點按日期重放修訂來驗證：九個 title 共 365 處修訂，361 處與下一發布點完全一致，每條附來源法案與生效日期（261 條隨頒佈生效、72 條依生效日期註釋、29 條依修訂案日期）。動機之一是模型缺乏法條沿革，慕尼黑工大研究發現模型會套用訓練截止後被取代的規則，某模型單獨作答正確率 24%，檢索到條文後升至 87%。