Safeworld 獲 1200 萬美元種子輪，為 AI 機器人做安全模擬
Safeworld 結束隱身狀態，宣布由 Shine Capital 與 a16z Speedrun 領投、Box Group、卡內基梅隆大學捐贈基金等參投的超 1200 萬美元種子輪。該公司由 CMU Safe AI 實驗室主任 Ding Zhao 與 Kyle Wong、Simo Rachidi 創立，做法是在 Genesis、MuJoCo 等模擬環境中接入待評估機器人的真實控制軟體，跑數千個真人模型與機器人相遇的場景，檢驗工廠盲區碰撞、跌倒、搬運等邊緣情況。
生成式 AI 機器人安全此前少有獨立第三方驗證，這篇披露了具體的模擬評測方法、1200 萬美元融資與首批合作方，對做具身智慧和機器人安全的人有參考價值。
原標題：Can Safeworld convince people that gen AI robots won’t hurt them?
閱讀原文
| 評分 | 65 / 65（平均 65，門檻 76） |
|---|---|
| 狀態 | 未入選 |
相關報導
Altman 稱把 AI 模型當宗教是真實安全問題
OpenAI CEO Sam Altman 在 2026 年 10 月 3 日發帖表示，人們對 AI 模型賦予宗教式力量或放棄人類判斷力的做法令他非常不安，並認為這是一個真實的安全問題。該表態未點名具體模型或產品，也未給出應對措施。
Anyworld：本地 LLM 當 DM 的自託管多人文字 RPG
Anyworld 是一款瀏覽器端多人文字冒險遊戲，由房主用 llama.cpp 本地跑模型充當 DM，也支援 OpenAI 等雲 API，玩家只需開啟連結即可加入。行動結果由 Python 真實擲骰決定，模型只負責敘述；支援自訂劇本、隱藏劇情觸發、場外聊天和斷線重連。開發時用 Gemma 4-26B-A4B Q4、128k 上下文，在 RTX 5070 Ti 16GB 上每輪結算約 5 秒。
白宮將 AI 正式更名為超級智慧並簽署安全承諾
白宮本週召集扎克伯格、貝索斯、馬斯克與 Anthropic 的 Dario Amodei 等主要科技公司 CEO，簽署了一份被川普稱為“道德約束力”的 AI 安全承諾。川普同時簽署行政令，正式將 AI 重新命名為“超級智慧”。與此同時，Meta 與 OpenAI 正在為各自的 AI 產品塑造更友好的形象。
Hinton、Bengio 等 22 位作者發首篇 RSI 論文，討論智慧爆炸
Hinton、Bengio 等 22 位作者聯合發表首篇 RSI（遞迴自我改進）論文《What if automating AI R&D triggers an intelligence explosion?》。論文引用 Anthropic 內部資料：AI 生成獲批程式碼佔比從 2025 年 1 月的低個位數升至 2026 年 5 月的超 80%，Claude 在高層監督下自主完成的 AI 研發工作比例從 2026 年 3 月的約 1% 升到 8 月的 26%。
@GoogleDeepMind: SynthID Bio is our new family of watermarking methods made for AI-generated biological designs.
Google DeepMind 發布 SynthID Bio，一套面向 AI 生成生物設計的水印方法。官方稱這是全球首次能在不影響生物功能的前提下，把不可感知的簽名直接嵌入蛋白質序列。該技術屬於 SynthID 水印體系的新分支，具體覆蓋範圍、檢測方式與可用時間尚未公布。