密碼學家 Matthew Green:AI 衝擊下公鑰加密有 15% 機率失去信心
密碼學家 Matthew Green 在 Twitter 上給出機率估計:有 1% 機率我們生活在 Minicrypt,即公鑰加密不可能存在的假想世界,另有 15% 機率會在功能上對現有公鑰加密演算法失去信心。他認為 AI 產出意外發現的速度,與人類替換標準的速度相差幾個數量級,只有提前做好準備才能從這類衝擊中恢復。Minicrypt 出自 Russell Impagliazzo 提出的假想世界。
找到 7 筆
密碼學家 Matthew Green 在 Twitter 上給出機率估計:有 1% 機率我們生活在 Minicrypt,即公鑰加密不可能存在的假想世界,另有 15% 機率會在功能上對現有公鑰加密演算法失去信心。他認為 AI 產出意外發現的速度,與人類替換標準的速度相差幾個數量級,只有提前做好準備才能從這類衝擊中恢復。Minicrypt 出自 Russell Impagliazzo 提出的假想世界。
數學家 Jeremy Avigad 在客座文章中寫道,過去幾個月 AI 已能輕鬆生成一年前足以發表的數學成果,數學家日常工作流程中相當一部分必然改變。他給出三個應對方向,前兩個是解更難的問題、想更大的思想,並指出目前 AI 攻克的開放問題多是把現有技術拼接而成,靠強化學習訓練的系統長於超人式機敏,卻可能缺少創造力與更高層的戰略思考。
一篇部落格文章提出,軟體工程師可能一直屬於藍領技術工種而非白領:兩者的本質都是製造或修理東西,只是開發者面對的是位元而非原子。作者認為這一誤判部分加劇了開發者當前的 AI 身份焦慮,因為歷史上藍領工人更能消化技術變革,白領反而受衝擊最大。文章還稱,開發者享受了約 30 年被當作明星的高薪與話語權,如今如同紡織工面對織布機、伐木工面對電鋸,需要學會使用新工具繼續謀生,手工活雖難再賺錢但仍可出於興趣保留。
10 月 6 日,OpenAI 在 GitHub 公開 722 篇 AI 數學手稿,分屬 372 個結果族、含 377 項新證明,約三分之一涉及重要猜想,多數由一款尚未發布的內部模型生成,平均每項結果的計算量相當於 ChatGPT Pro 思考約 3 小時。發布兩天後 OpenAI 因錯誤撤回 3 篇,多位數學家指出部分手稿未必真正證明了所聲稱的結論。
一篇評論用斯特魯加茨基兄弟的科幻小說《路邊野餐》類比 AI 對科學的衝擊:AI 實驗室正成批產出數學發現,多到要另附導讀,速度遠超學界消化能力。作者稱這類「發現傾倒」會出現在所有能閉環快速驗證的領域;NYU 數學教授 Tristan Buckmaster 提到最近一批 AI 科學論文讓整個研究專案一夜之間被抹掉。文章的核心判斷是答案將越來越先於理解到來,理解成為瓶頸,這或許也是反加速主義少有的有效論據。
IMF 在最新《全球金融穩定報告》中把 AI 股價回撥列為三大風險之一,另兩項是政府借貸成本上升與大規模網路攻擊。報告稱 AI 公司估值高企、債務與槓桿攀升,加上迴圈融資安排,回撥衝擊可能波及全球,亞洲市場暴露最大,英國和歐元區相對隔離。「七巨頭」現佔標普 500 逾 35%(十年前 12%),過去三年超大規模雲廠商與較弱 AI 企業間有 3000 億美元交易、6500 億美元債務,對應 1.4 萬億美元未來承諾。
數學教授 Álvaro Lozano-Robledo 在客座文章中回應學生的職業焦慮:LLM 的進展正衝擊數學研究與教育,他最擔心的是學界因此失去一整代數學家。不少原本準備讀數學博士的學生正在改換方向,他們追問 AI 是否會超越人類做純數學研究、數學家是否還有用、現在該不該讀博。作者強調目前沒人知道答案,並提醒對高調預測未來的人保持警惕,同時啟動 Human Mathematicians in the Age of AI 訪談專案收集多元意見。