AISpot

搜尋

找到 6 筆

機器之心● 精選10/9 00:59AI 評分83

被 OpenAI 解僱的三名安全研究員發公開信,否認洩密

上週被 OpenAI 解僱的三名安全與對齊研究員 Tomek Korbak、Jasmine Wang、Mikita Balesni 聯名發表致公司安全與安保委員會等機構的公開信,稱解僱與他們堅持 AI 安全直接相關,並否認是 The Information 相關報導的洩密者。Jasmine 稱唯一理由是她曾獲授權訪問一位高管信箱、IT 未完成權限撤銷;Tomek 稱數月來一直提出思維鏈可監測性下降的擔憂,並擔心 OpenAI 借解僱縮減與外部審計機構 METR 的合作。

TechCrunch AI● 精選10/8 16:04AI 評分85

被解僱的 OpenAI 安全研究員發公開信否認違規,警告寒蟬效應

三名上週被 OpenAI 解僱的安全研究員 Jasmine Wang、Tomek Korbak、Mikita Balesni 發表公開信,否認公司關於他們違規處理敏感資訊的指控,並警告此次解僱正在內部造成寒蟬效應。信中稱,安全人員依賴與外部專家的密切合作來識別風險,如今員工不清楚行為邊界,上月還屬正常的行為可能突然成為解僱理由。OpenAI 以一份內部備忘錄回應,稱解僱與提出安全擔憂無關,並表示認同研究人員提出的引入第三方安全審計等建議。

量子位● 精選10/6 03:59AI 評分75

陶哲軒轉向 AI 減速派,呼籲模型公司放慢數學研究

數學家陶哲軒在 SAIR 演講中公開呼籲模型公司放慢數學研究節奏,稱 AI 無休止加速卻對後果一無所知,並稱之為 Proof Indigestion(證明消化不良):AI 只在生成解答與 Lean 驗證上狂飆,理解、評審、寫入教科書幾乎停滯。此前他與 25 位菲爾茲獎得主聯名發表公開信,批評把數學當 benchmark 刷分。OpenAI 隨後回應,宣布在普林斯頓高等研究院設立數學與人工智慧顧問小組,但宣告寫明該小組不就數學上的內部進展提供建議。