何愷明團隊提出 NAT-ARC,純視覺方案解 ARC 達 70.2%
何愷明團隊提出 NAT-ARC,用 ImageNet 上 MAE 預訓練的 encoder 做純視覺 ARC 解法,不依賴 LLM。單模型 0.6B 引數在 ARC-1 拿到 63.4% pass@2,整合約 2B 引數達 70.2%。論文稱預訓練打通了視覺路線的 scaling 瓶頸。
0.6B 小模型靠公開 MAE 權重預訓練就逼近 8B 專用 LLM,且無預訓練時模型越大反而掉點——你本地跑開源模型時,可優先看預訓練權重而非堆引數。
原標題:何恺明团队新作:看猫片就能学会ARC挑战
閱讀原文
| 評分 | 68 / 65(平均 66,門檻 65) |
|---|---|
| 狀態 | 精選 |