用免費 ChatGPT 和 Gemini 偽造論文,測試 IEEE 期刊防線
作者僅用免費版 ChatGPT(GPT-5.3/5.2 Mini)與 Gemini(3 Flash)進行多輪提示,生成了一篇描述從未進行過的光學孤子研究的完整假論文,並與 IEEE Access 合作測試其期刊防線。他把論文拆成摘要、方法、圖表和參考文獻逐段生成,經過十幾次提示後成品看起來相當可信,並按 IEEE Access 格式排版,且全程未直接編輯輸出。
依意思最接近的 30 筆
作者僅用免費版 ChatGPT(GPT-5.3/5.2 Mini)與 Gemini(3 Flash)進行多輪提示,生成了一篇描述從未進行過的光學孤子研究的完整假論文,並與 IEEE Access 合作測試其期刊防線。他把論文拆成摘要、方法、圖表和參考文獻逐段生成,經過十幾次提示後成品看起來相當可信,並按 IEEE Access 格式排版,且全程未直接編輯輸出。
哈佛-史密森天體物理中心研究者 P. K. G. Williams 發表 14 頁 arXiv 論文,論證 AI 提供了將科學文獻這一資訊公地圈佔為私有財富的工具。論文以英國 1600–1800 年圈地運動為類比框架,指出 AI 圈佔的關鍵特徵是借“slop spam”低質生成內容淹沒文獻、破壞支撐公地的社會系統,而非經典的“公地悲劇”。文章橫跨天體物理儀器方法與計算與社會兩個分類,附 32 條參考文獻,主張這套概念可為審視 AI 對科研生態的衝擊提供學術基礎。
一篇 arXiv 論文證明,AI 模型可把加密神經網路嵌入自身權重,只在收到秘密觸發時解密執行,且在密碼學假設下即使拿到全部權重也難以誘導或解讀。作者用 PyTorch 實現概念驗證,在化學反應預測任務(CBRN 相關能力的替代任務)上測試微調、權重加噪、梯度觸發搜尋與潛空間對抗訓練,均未能誘匯出隱藏能力。該文被 NeurIPS 2026 接收,共 22 頁,作者已公開模型以支援防禦研究。
Hinton、Bengio 等 22 位作者聯合發表首篇 RSI(遞迴自我改進)論文《What if automating AI R&D triggers an intelligence explosion?》。論文引用 Anthropic 內部資料:AI 生成獲批程式碼佔比從 2025 年 1 月的低個位數升至 2026 年 5 月的超 80%,Claude 在高層監督下自主完成的 AI 研發工作比例從 2026 年 3 月的約 1% 升到 8 月的 26%。
OpenAI 於 10 月 7 日撤回 3 篇數學論文:起因是《Algebraicity of Weil classes on split abelian eightfolds》中的符號錯誤,使 stabilization-trace 消去論證及所用構造失效,另兩篇依賴該構造的論文一併撤回,現已附說明並連結存檔版本。同期還修訂了 14 篇論文的證明、陳述與假設,另有 13 篇論文更新引用;新增 6 項形式化後,核心結果形式化比例為 300/719,約 42%。
OpenAI 公開了由一款尚未發布的前沿模型產出的 722 篇論文手稿,稱其中解答了數百個長期懸而未決的數學問題。這批手稿覆蓋 372 個結果族,把相關論文歸入同一組,結果已預期數週才公布。新成立的獨立數學家顧問組 AGMAI 負責對外溝通這些成果。此前數學界對這些突破既感震動也存在爭議,並引發了關於研究倫理與學術規範的討論。
UniPat AI 發布 PaperBenchX,稱其為國際上首個多學科端到端論文結果復現基準,從 93 篇論文建置 93 個復現任務,橫跨電磁、光子、化學、材料、生物、機器人等 12 個研究方向和 10 種領域原生科學環境,含 3168 條專家校驗評分項。在這 93 個任務上,表現最強的 GPT-6 Astra 完整復現率只有 13.98%,建模與執行階段平均得分約 62%,驗證階段僅 42.8%。
10 月 6 日,OpenAI 在 GitHub 公開 722 篇 AI 數學手稿,分屬 372 個結果族、含 377 項新證明,約三分之一涉及重要猜想,多數由一款尚未發布的內部模型生成,平均每項結果的計算量相當於 ChatGPT Pro 思考約 3 小時。發布兩天後 OpenAI 因錯誤撤回 3 篇,多位數學家指出部分手稿未必真正證明了所聲稱的結論。
OpenAI 於 10 月 6 日發布了一個包含 700 多份數學手稿的倉庫,聲稱其中含有多項高知名度數學問題的解答。人類數學協會(Association for Human Mathematics)指出,OpenAI 自稱從中獲得正當性的數學與人工智慧諮詢組織,其最初宣告就明確前沿 AI 公司不應在內部模型上測試高等數學問題,OpenAI 的做法無視了這一核心前提。該協會還提到 OpenAI 正面臨抄襲、版權侵權與商標淡化的訴訟,並呼籲數學家停止與 OpenAI 合作。
OpenAI 在 GitHub 公開了 722 篇由內部未發布前沿模型生成的數學手稿,涵蓋數論、代數幾何、分析、組合數學等方向,其中約 300 項核心結果完成 Lean 形式化驗證,佔 42%。公司稱模型共嘗試超過 4000 個問題,一項典型成果平均消耗約 3 小時 ChatGPT Pro thinking 算力,但未公開所用模型與提示詞。
據《華盛頓郵報》2026 年 10 月 9 日報導,一個與伊朗相關的行動利用 ChatGPT 在美國真實新聞媒體上植入了虛假文章。訊息被轉載至 Hacker News 後引發討論。目前公開資訊僅限報導標題與連結,涉事媒體名單、文章數量以及 OpenAI 與相關媒體的回應均未披露。
OpenAI 在公開 GitHub 倉庫發布 722 篇數學手稿,稱其來自一個未發布的內部前沿模型。這批結果出自約 4000 道研究問題的評估,分成 372 個結果族,平均每個結果消耗約 3 小時 ChatGPT Pro 算力,發布內容含論文、證明產物與部分推理摘要,模型本身不公開。OpenAI 稱發布方式諮詢過高等研究院的數學與 AI 獨立顧問組,Sam Altman 稱之為“發現的新紀元”。
OpenAI 宣布在數學、電腦科學和物理領域取得三項「重大」發現,距其批次發布數百篇手稿不到一個月。這次電腦科學與物理的結果由 OpenAI 稱為「shepherds」的外部專家引導產出;數學問題則按這些專家的建議,直接公開 AI 輸出,交由研究者自行給出解釋。相關結果已於當天加入 GitHub。
GitHub 上新開源專案 Open Academic Paper Gen,用多智慧體工作流把論文初稿生成拆成九個階段,最大特點是在拿到文獻全文後定位相關段落,核驗正文引用是否真被原文支撐,有頁碼時還會標出對應 PDF 頁碼。它從 OpenAlex、Crossref、Semantic Scholar 和 arXiv 檢索文獻,生成證據表後分析趨勢、診斷創新性、列提綱寫作,再做引用核驗與模擬審稿,可匯出 Markdown、LaTeX 與 RIS、BibTeX。
軟體基礎設施部落格 The Consensus 上線自研「AI tells」檢測器,用靜態規則比對 2023 年前後的寫作差異,處於第 99 百分位的文章將失去首頁 At a Glance 板塊、社交媒體和每週 newsletter 的推薦資格。該檢測器不判斷文章是否由 AI 撰寫,只提示讀起來像 AI 寫作,作者稱它偶爾也會誤判自己的文章。讀者仍可在 feed 搜尋中用 aitells<90 過濾,作者也承認規則可被繞過,但認為這反而會促使各家寫出自己的風格。
arXiv 新論文指出,用 Lean 機械驗證 AI 自動形式化的數學證明,並不能保證原始自然語言證明本身正確。作者 Bastounis、Circelli 與 Hansen 證明,要做到語義忠實的翻譯必須消解自然語言數學文字的歧義,而該問題在可解複雜度指數(SCI)層級中為無窮,比停機問題(SCI=1)更難。
OpenAI 把一個尚未發布的內部模型產出的 722 篇數學手稿一次性放上 GitHub,歸入 372 個「成果族」,覆蓋數論、幾何、理論計算機、數學物理等 17 個方向。清單裡既有證明也有證偽,摘要中出現「證偽」「反例」的成果族約 50 個;約六成附有 Lean 形式化,其餘只能算聲稱,且絕大多數尚未經過同行評審。涉及的包括準黎曼猜想、BSD 公式、有理數域上的希爾伯特第十問題、唯一遊戲猜想、Hadwiger 猜想反例、埃爾德什等差數列猜想等。
一篇評論用斯特魯加茨基兄弟的科幻小說《路邊野餐》類比 AI 對科學的衝擊:AI 實驗室正成批產出數學發現,多到要另附導讀,速度遠超學界消化能力。作者稱這類「發現傾倒」會出現在所有能閉環快速驗證的領域;NYU 數學教授 Tristan Buckmaster 提到最近一批 AI 科學論文讓整個研究專案一夜之間被抹掉。文章的核心判斷是答案將越來越先於理解到來,理解成為瓶頸,這或許也是反加速主義少有的有效論據。
Jeremy Avigad、Kevin Buzzard 等七位數學家聯合發文,反對在 OpenAI 上週發布後興起的「儘快形式化全部數學」呼籲,認為做得不好會造成持久損害、浪費鉅額資源。文中舉例:Anthropic 稱 Claude 用 1300 萬行程式碼、11 天完成費馬大定理的形式化驗證,Buzzard 稱讚成果卻表示不會停下自己手頭的形式化工作;Math, Inc. 試圖劫持 Viazovska 球堆積形式化專案,原團隊最終棄用 AI 程式碼重做。
一位專攻選擇公理的數學家公開批評 OpenAI 的預印本,該文聲稱證明了分拆原理不蘊含選擇公理這一懸置逾百年的問題。他指論文結構混亂、術語不當,引用至少三份未發表、未經評審、也未上傳 arXiv 的講義,還包含他認為不該被證明的引理 7.4 與 8.1,若投稿期刊應被直接拒稿。他並批評 OpenAI 一次放出數百個表述難懂的「解答」,讓研究者疲於應付,也擔心資助方與政策制定者據此以為數學家可被機器人取代。
數學家陶哲軒在 SAIR 演講中公開呼籲模型公司放慢數學研究節奏,稱 AI 無休止加速卻對後果一無所知,並稱之為 Proof Indigestion(證明消化不良):AI 只在生成解答與 Lean 驗證上狂飆,理解、評審、寫入教科書幾乎停滯。此前他與 25 位菲爾茲獎得主聯名發表公開信,批評把數學當 benchmark 刷分。OpenAI 隨後回應,宣布在普林斯頓高等研究院設立數學與人工智慧顧問小組,但宣告寫明該小組不就數學上的內部進展提供建議。
OpenAI 的 math GitHub 倉庫於 10 月 25 日發布預印本,標題直接宣稱指數時間假說(ETH)不成立。該條目在 Hacker News 上僅獲 26 分、3 條評論;目前公開資訊只有 PDF 連結,論證與細節需檢視原文。
上週被 OpenAI 解僱的三名安全與對齊研究員 Tomek Korbak、Jasmine Wang、Mikita Balesni 聯名發表致公司安全與安保委員會等機構的公開信,稱解僱與他們堅持 AI 安全直接相關,並否認是 The Information 相關報導的洩密者。Jasmine 稱唯一理由是她曾獲授權訪問一位高管信箱、IT 未完成權限撤銷;Tomek 稱數月來一直提出思維鏈可監測性下降的擔憂,並擔心 OpenAI 借解僱縮減與外部審計機構 METR 的合作。
PhAI Labs 聯合 16 家機構提出科研 Agent 遞迴自我改進框架 DiscoveryRSI,並訓練出 DiscoveryRSI-27B。在把 AI 假設與後續發表文獻對照的評測中,DiscoveryRSI 有 6.3% 的假設找到可用的研究依據,約為 GPT 組 2.5% 的 2.5 倍,Claude Opus 5 組以 2.3% 墊底。兩輪自改進後,241 個留出問題上的假設品質均分從 4.86 升至 5.39,可證偽性從 4.00 升至 6.20。
OpenAI 近幾個月公布數百項數學發現,涵蓋數論、理論電腦科學與邏輯,其中不少證明曾困擾頂尖數學家數十年乃至數百年。2022 年菲爾茲獎得主 Hugo Duminil-Copin 在十月發布後表示「他們摧毀了我的研究領域」,康奈爾大學數學家 Steven Strogatz 也向作者描述了哭泣、迷失與興奮交織的感受。
博主 AIL 與開發者 Matt Pocock 就 spec driven development 展開爭論,他認為 AI 專案的事實來源應是寫作所表達的意圖,而非程式碼;在他看來,程式碼只是執行與表示,寫作才是最接近人腦想法的載體。他提出 Ideal State Artifact(ISA)文件,用散文式的理想狀態、約束與決策記錄,加上可原子化測試的 Ideal State Criteria(ISC)及各自的 eval 來承載需求。
一篇部落格文章主張計算機程式無法做決定,把 Anthropic、OpenAI 模型造成的後果算在模型頭上屬於決策洗白,真正做決定的是這些公司——它們本可阻止模型行為,卻選擇放任。文中列舉的新聞標題涉及虛假舉報費城謀殺案線索、攻擊 RubyGems、入侵澳大利亞政府網站、Anthropic 在 IPO 招股書中警告自身存在人類生存風險等,並認為這類行為未被追責與立法,是因為監管會損害經濟。
OpenAI 宣布在數學、電腦科學和物理三個方向取得突破,並表示正與外部專家「shepherds」合作,決定如何分享最新成果。這被視為對溝通方式的調整,但接受 The Verge 採訪的研究者表示,對其做法越來越厭倦:10 月初該公司曾把數百篇預印本直接拋給數學界,數學家至今仍在疲於應對。報導未展開三項成果的具體內容。
加州大學伯克利分校數學教授、菲爾茲獎得主 Richard Borcherds 已不再為作業評分,只要學生提交即記為完成。原因是太多學生使用 AI 穩定拿到滿分,他認為花錢請助教批改正確性已沒有意義,且 AI 使用已無法迴避。他坦言這套做法並不好,但眼下別無選擇;伯克利測試過 Turnitin、Rumi 等 AI 檢測工具,認定不足以全校標準化,課程層面的 AI 政策由教師自行決定。
USA Today 及其旗下多家地方報紙起訴 OpenAI,指控其未經授權複製數十萬篇文章用於訓練 AI 模型,索賠超過 2.5 億美元,並稱這對其媒體造成了真實且持續的損害。這是針對 OpenAI 一連串版權訴訟中的最新一起,此前紐約時報、The Intercept、Ziff Davis、CBC/Radio-Canada 等均已提訴。