Hacker News front page● 精選AI 評分77
LeCun 論文證明柏拉圖表示假說,JEPA 樣本效率高 42 倍
LeCun 參與的論文把柏拉圖表示假說變成定理:在不同模態上分別訓練的 JEPA,只要正樣本是同一場景的兩個好視角,就能學到僅差一個旋轉的相同表示。作者稱下一 token 預測相當於使用壞視角的 JEPA,因而語言模型只能靠規模與視覺對齊;在 14.5 萬條描述到 9.4 億張網路影像文字上驗證了對齊縮放律。相同語料下,好視角所需樣本比下一 token 預測少 42 倍;