找到 6 筆
OpenAI 安全透明度職能負責人 David Robinson 已離職，OpenAI 未公布繼任者，他本人也未公開說明原因。該職能負責撰寫每次重要模型發布時的 system card，並主導起草《Preparedness Framework 2.0》。此前 OpenAI 還以向外部 AI 安全機構分享敏感資訊為由，開除了 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 三名安全與對齊研究方向員工。
OpenAI 確認維持解僱三名 AI 安全研究員 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 的決定，稱調查認定他們嚴重違反信任、觸犯了處理敏感資訊的明確政策。公司週五在 X 上發帖強調，解僱與三人就公司及 AI 安全擔憂公開發聲無關。此前一天三人發表公開信並連續發帖，要求 OpenAI 提高這一決定的透明度，稱他們相信另有原因。
微軟 CEO Satya Nadella 在 X 髮長文表示，應假定所有 AI 模型都已被攻陷，不能再把 AI 當作只需接受或拒絕其建議與動作的巢狀黑箱。他主張建立可隔離、可觀測的透明體系，要求模型留下防篡改、人類可讀的證據，並呼籲及時披露事故、獨立審計與可驗證資料。這些建議多數與業界既有主張一致，但在隔離這一點上他給出了自己的看法。
OpenAI 宣布將在歐盟為 ChatGPT 和 Codex 生成的文字加入隱形水印，以符合 8 月 2 日生效的 EU AI Act 透明度規則。水印將在未來幾週內推送給歐盟所有套餐的合格使用者；全球 API 開發者即日起可為部分模型開啟，預設關閉，暫不設為全球預設。該方法名為 textGrain，通過微呼叫詞留下可被檢測器識別的模式，隨複製貼上保留，OpenAI 稱不影響模型表現。
企業語音 AI 平台 PolyAI 的 CTO Shawn Wen 在 HumanX 大會上表示，全雙工模型雖已實現，語音 AI 仍未迎來自己的「ChatGPT 時刻」，下一步的關鍵是讓推理足夠快、對話足夠自然。會議記錄工具 Otter 的 CMO Alex Gay 指出，說話人識別、意圖捕捉並與組織知識結合才是自動化的關鍵，Otter 還在研發可代表參會者的數字孿生。兩人都提到 ASR 模型常漏掉關鍵詞，轉寫不準會讓後續動作全部出錯、使用者失去信任；
OpenAI 表示，文字水印用於回答一個問題：這段文字是否很可能由其模型生成。水印在生成時嵌入不可見的統計訊號，檢測器可據此識別，不會新增可見標記或特殊字元。它無法說明原作者或版權歸屬，也不能識別個人、組織、帳號、對話或提示詞。OpenAI 稱測試中水印未影響模型能力、速度以及回答的閱讀感受。