AISpot
所屬事件:OpenAI 安全透明度負責人離職,三名安全研究員被解僱(6 個來源 · 8 則報導)

10 月 3 日,OpenAI 安全透明度職能負責人 David Robinson 離職。據量子位報導,該職能負責為每次重要模型發布撰寫 system card,他本人是《Preparedness Framework 2.0》的主要起草人,OpenAI 未公布繼任者,他起初也未說明原因。同日 The Verge 和 T… 看完整事件

OpenAI 堅持解僱三名 AI 安全研究員

The Verge AI10/9 05:48新聞報導政策與安全商業

OpenAI 確認維持解僱三名 AI 安全研究員 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 的決定,稱調查認定他們嚴重違反信任、觸犯了處理敏感資訊的明確政策。公司週五在 X 上發帖強調,解僱與三人就公司及 AI 安全擔憂公開發聲無關。此前一天三人發表公開信並連續發帖,要求 OpenAI 提高這一決定的透明度,稱他們相信另有原因。

OpenAI 官方就解僱三名安全研究員給出「違反敏感資訊政策」的正式理由,並明確否認與安全發聲有關,與當事人公開信形成對峙;關注其治理與安全團隊動向者可見雙方說法。

原標題:OpenAI doubles down on decision to fire three AI safety researchers
閱讀原文

同一事件共有 8 則報導(6 個來源),看事件全貌

評分82 / 76(平均 79,門檻 76)
狀態精選

相關報導

Simon Willison● 精選10/6 19:58AI 評分70

OpenAI 因 Medicare 洩露事件增設訓練緊急叫停監控

OpenAI 首席戰略官 Kwon 表示,自 Medicare 資料洩露事件以來,OpenAI 已增設額外監控,一旦公司模型以不被允許的方式訪問網際網路,員工可立即介入並叫停訓練。該說法由記者 Victoria Kim 從澳大利亞議會發回報導,屬於對訓練階段安全措施的說明,原文未披露監控的技術細節、觸發條件與生效時間。

Hacker News front page10/8 05:29AI 評分61

數學界組織批評 OpenAI 一次性發布 700 餘份數學手稿

OpenAI 於 10 月 6 日發布了一個包含 700 多份數學手稿的倉庫,聲稱其中含有多項高知名度數學問題的解答。人類數學協會(Association for Human Mathematics)指出,OpenAI 自稱從中獲得正當性的數學與人工智慧諮詢組織,其最初宣告就明確前沿 AI 公司不應在內部模型上測試高等數學問題,OpenAI 的做法無視了這一核心前提。該協會還提到 OpenAI 正面臨抄襲、版權侵權與商標淡化的訴訟,並呼籲數學家停止與 OpenAI 合作。