LeCun 稱對 AI 滅絕人類零擔憂,批 EA 有毒
圖靈獎得主 Yann LeCun 表示對 AI 消滅人類「完全」不擔心,對近期一系列 AI 失控事件「零擔憂」,認為這些事件源於人類監督與系統設計缺陷、完全可預防。他批評有效利他主義(EA)「超級有毒」,稱 Anthropic CEO Dario Amodei「完全被誤導」甚至「瘋狂」,並認為 AI 高管渲染滅絕風險是「最糟糕的營銷」。他目前主要精力放在創辦新公司 AMI Labs。
找到 6 筆
圖靈獎得主 Yann LeCun 表示對 AI 消滅人類「完全」不擔心,對近期一系列 AI 失控事件「零擔憂」,認為這些事件源於人類監督與系統設計缺陷、完全可預防。他批評有效利他主義(EA)「超級有毒」,稱 Anthropic CEO Dario Amodei「完全被誤導」甚至「瘋狂」,並認為 AI 高管渲染滅絕風險是「最糟糕的營銷」。他目前主要精力放在創辦新公司 AMI Labs。
LeCun 提交的新論文從數學上證明了柏拉圖表徵假說,並給出可操作的條件:訓練文字模型時,應讓它學習同一場景的不同描述,也就是“好檢視”,不要學習同一句話的截斷版本。用 1.09 億引數編碼器訓練 9 億樣本,在 WIT-1024 上取得 0.184 的對齊分數,高於 Qwen2.5-72B 的 0.154 和 Llama-3-70B 的 0.151。達到相近對齊水平時,下一 token 預測需要 9 億樣本,好檢視 JEPA 僅需 2160 萬,相差約 42 倍;
LeCun 參與的論文把柏拉圖表示假說變成定理:在不同模態上分別訓練的 JEPA,只要正樣本是同一場景的兩個好視角,就能學到僅差一個旋轉的相同表示。作者稱下一 token 預測相當於使用壞視角的 JEPA,因而語言模型只能靠規模與視覺對齊;在 14.5 萬條描述到 9.4 億張網路影像文字上驗證了對齊縮放律。相同語料下,好視角所需樣本比下一 token 預測少 42 倍;
10 月 20 日,千訣科技在南京首屆物理 AI 與世界模型大會上發布預測式世界模型 Polibrain,已在四足、人形、輪式、雙臂等機器人形態上開展適配。該模型不生成未來畫面,而是在潛在表徵空間預測真正影響任務的狀態變化,並串聯感知、決策、執行與反饋形成閉環。千訣稱其與清華團隊 2025 年在 ICML 發表的隱變數可辨識性研究,比 LeCun 團隊相近論文早約一年。公司不造機器人本體,以松耦合架構讓不同形態機器人共享對世界的理解。
有人做了一款工具,追蹤 AI 行業領袖在影片中的公開表態,並展示他們觀點隨時間的變化。目前收錄了 Dario Amodei(累計 54 條)、Alex Karp(51 條)、Marc Andreessen(49 條)、Sam Altman(45 條)、Palmer Luckey(40 條)、Satya Nadella(23 條)、Elon Musk(21 條)、Yann LeCun(6 條)等人,頁面同時標註本週新增條數,例如 Alexandr Wang 本週有 5 條。
AlphaGo 核心作者 Thore Graepel 在 MIT Technology Review 發文稱 LLM 不會推理,並已離開 Google DeepMind 創業做可審計的機器推理。他指出 AlphaGo 第 37 手是策略網路加搜尋機制的結果,而 LLM 的思維鏈仍只是預測下一個 token,缺少可檢查的認知狀態、知識與推理的分離,且常事後編造解釋。Yann LeCun 表示讚賞,認為真正推理必須涉及搜尋。