OpenAI 邀 METR 與 Redwood 試點內部監控系統嵌入式評估
OpenAI 今夏邀請 METR 與 Redwood Research 對其內部監控系統開展為期三週的嵌入式評估試點,並向兩家機構開放了基礎設施的深度存取權限。OpenAI 表示,評估發現幫助其在擴充套件該系統時強化了防護措施,也將影響未來與 METR 及其他第三方評估者的研究合作。
找到 6 筆
OpenAI 今夏邀請 METR 與 Redwood Research 對其內部監控系統開展為期三週的嵌入式評估試點,並向兩家機構開放了基礎設施的深度存取權限。OpenAI 表示,評估發現幫助其在擴充套件該系統時強化了防護措施,也將影響未來與 METR 及其他第三方評估者的研究合作。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,嵌入式第三方評測員並非解決模型安全問題的簡單答案,評測仍缺乏可復現性與統一標準。她指出評測方法更新很快、彼此之間難以橫向比較,且目前絕大多數評測針對模型本身,對 harness 和完整 agent 的評測既少又昂貴;而更強的 harness 可讓較弱模型跑贏前沿模型。她認為誰有資格評測哪些任務,需要更多標準化。
銘芯啟睿(MemSilicon)10 月 12 日宣布完成國際首款 1T4R 結構的 1Gb RRAM 晶片「泰山一號」流片,採用 28nm CMOS 工藝。該晶片密度達 30Mb/mm²,訪問延時小於 20ns,並整合片上硬體糾錯電路,目前正在推進驗證。公司另佈局嵌入式 RRAM IP 與 RRAM+DRAM 混合存算兩條產品線,面向顯示驅動、MCU 及端側推理等場景。
一位開發者把 AI Agent 跑在了只有 48MB RAM 的諾基亞 110 功能機上,並已用它自動化了幾個操作。他平時用這部手機來減少螢幕時間,最初嘗試刷入 Android 系統,因記憶體只有 48MB 而失敗,隨後花幾天時間逆向工程,最終讓 AI Agent 在這臺手機上執行。該帖發在 Hacker News 的 Show HN 板塊,目前 15 分、3 條評論,作者未說明所用的是哪個 AI 模型,也沒列出具體自動化了哪些操作。
ESP32-S3 實現 SIMD 加速 FAST 檢測器,QVGA 約 6ms。該晶片是雙核 240MHz、整合 WiFi 與藍牙 LE 的 2 美元級 MCU;作者用 128 位 SIMD 彙編重寫 FAST 角點預測試,吞吐從 5.1MP/s 升至 11.2MP/s,約 2.2 倍,足以處理 30fps VGA 影片流。為繞開非對齊讀取、僅支援有符號 8 位比較與飽和運算等限制,採用相鄰暫存器切片拼接和異或 0x80 把無符號畫素線性對映到有符號區間;原始碼已公開,作者還為此寫了簡易暫存器分配器 basm。
Anthropic 宣布與埃森哲合作,在 Anthropic 內部嵌入獨立評估團隊,對前沿模型做評估與紅隊測試、對齊評估和安全保障測試。該合作由埃森哲旗下 AI 業務 Faculty 主導,雙方計劃未來五年各投入至少 10 億美元建設相關能力。嵌入評估員將獲得接近員工的存取權限,可觀察訓練中的模型、追蹤建置與部署決策並直接與員工交流。目前嵌入評估尚無訪問與報告標準,也無成熟的出資機制,因此由 Anthropic 直接出資,並與 METR 等非營利評估機構洽談試點;合作非獨家。