搜尋：reward hacking

Latent Space● 精選10/8 19:29AI 評分88

GPT-6.1 Sol Ultrafast 上線，API 每百萬 token $12/$60

OpenAI 發布 GPT-6.1 Sol Ultrafast，稱速度最高為 Sol Standard 的 8 倍，API 定價 $12/$60 每百萬輸入/輸出 token，約為 Astra 成本的 1.2 倍。在 Codex 與 ChatGPT 中它僅對 $500 Pro 檔及符合條件的企業/教育版開放，支援美歐資料駐留。同期 ChatGPT 開始向 Plus 推送 GPT-6 智慧 UI；

訂閱動態模型產品與方案 GPT-6.1 Sol Ultrafast Claude Haiku 5.5 AI 安全 reward hacking

3 個來源 · 7 則報導閱讀原文

TechCrunch AI10/8 12:00AI 評分73

Goodfire 推出模型內部探針監控，向 Baseten 客戶開放

Goodfire 推出讀取模型內部啟用的監控探針，並作為 Baseten 平台功能向客戶開放，用於攔截失控的 AI 智慧體。測試中監控約 1500 個會話成本約 51 美元，對比用便宜模型逐步檢查的 233 美元、頂級模型的約 1 萬美元；探針捕獲 94% 的惡意駭客會話，8.7% 無害會話被送複查，四個探針並行讓模型回應啟動耗時增加不到 2%。客戶可自選監控攻擊性駭客、生化武器濫用、reward hacking 等風險，並設定記錄、人工審查或直接拒絕；

產品與方案研究 AI 安全監控可解釋性內部啟用探針推理時防護獎勵駭客

閱讀原文