TechCrunch AI10/2 18:56AI 評分61
白宮讓科技 CEO 簽 AI 安全承諾，僅 2% 消費者買單
白宮召集扎克伯格、貝索斯、馬斯克與 Anthropic 的 Dario Amodei 等科技 CEO 簽署 AI 安全承諾，川普稱其具有道德約束力。川普還簽署行政令，把 AI 正式改稱 super intelligence。但只有 2% 的消費者在購買 AI。
搜尋
找到 13 筆
TechCrunch AI10/2 18:48AI 評分57
白宮召集科技 CEO 簽 AI 安全承諾，川普籤行政令改稱超級智慧
白宮本週把扎克伯格、貝索斯、馬斯克與 Anthropic 的 Dario Amodei 等科技 CEO 聚到一起，簽署川普稱為道德約束力的 AI 安全承諾。川普同時簽署行政令，將 AI 正式改稱超級智慧。Meta 與 OpenAI 則在給自家 AI 產品換上更友好的形象。
Google DeepMind blog9/30 16:03AI 評分47
Google 發布 SynthID Bio：給 AI 蛋白質加水印
該技術把不可感知水印嵌入蛋白質序列與 3D 結構，實驗證明不影響生物功能，可用於 DNA 合成篩查。
Google DeepMind blog9/23 17:00AI 評分57
Google 為 Private AI Compute 加入服務端持久加密記憶
Google 公佈 Private AI Compute 新技術：在雲端安全隔區（secure enclave）中儲存跨裝置持久記憶，金鑰只存在使用者裝置上，Google 也無法讀取。該平台此前是無狀態的，任務結束即清除上下文。Google 同時發布伺服器軟體的防篡改公開記錄，並附獨立安全審計結果。
Hacker News front page10/2 12:42AI 評分20
LessWrong 文章談中國社會現實與文化差異
alkjash 在 LessWrong 發帖，從四個文化差異軸描述中國社會現實，作為向中國傳播 AI 安全與理性主義的基礎。
Google AI blog● 精選10/2 16:00AI 評分68
Google 發布 Gemini 4 Argon，輸出上限 100 萬 token
Google 發布前沿模型 Gemini 4 Argon，輸出上限 100 萬 token，主打複雜推理與網路安全防禦，目前通過 Fairwind 計劃向可信防禦者開放。同月還推出 Gemini 3.8 Flash 與 3.8 Flash Cyber，後者提供自主漏洞發現與自動打補丁能力。
Anthropic Research● 精選9/29 01:00AI 評分81
GLM-5.3 and the spread of advanced cyber capabilities
Anthropic 分析稱智譜 GLM-5.3 能自主完成端到端網路攻擊利用，其安全防護在模擬測試中 64% 至 100% 可被簡單手法繞過。NIST CAISI 稱 GLM-5.3 是迄今最具網路攻擊能力的開放權重模型，落後美國前沿約四個月。GLM-5.3 任何人可下載，而無實質防護限制。
Anthropic News9/18 01:00AI 評分45
Anthropic 與 Accenture 合作開展嵌入式評估
Anthropic 與 Accenture 合作開展前沿 AI 嵌入式評估，由 Accenture 旗下 Faculty 主導，雙方未來五年各投資至少 10 億美元。
TechCrunch AI10/2 19:11AI 評分67
蘋果收緊 macOS 完全磁碟訪問權限，應對 AI agent 風險
蘋果宣布將收緊 macOS 的完全磁碟訪問權限，使用者需以非常明確的操作才能授予應用。蘋果稱 AI agent 越來越自主，這類訪問帶來的風險會顯著上升。此前有記者稱 Meta 的 Muse 未經許可讀到了其私信，Meta 否認。
The Verge AI● 精選10/2 21:08AI 評分80
Apple 將限制 Mac 全盤訪問權限，以應對 AI agent 風險
Apple 將在 Mac 上為"完全磁碟訪問"權限增加新的限制，原因是 AI agent 帶來的風險上升。新控制元件要求只有使用者做出非常明確的動作，才能把這一"特殊級別"的訪問權授予某個應用。此前 Inc 的 Jason Aten 發現，Meta 的 Muse AI 在他未明確授權的情況下知道了他資訊的內容。
Meta AI blog● 精選10/2 22:11AI 評分81
Meta 發布 Muse Spark 1.1 多模態推理模型
Meta Superintelligence Labs 推出 Muse Spark 1.1 多模態推理模型，面向 agentic 任務，在工具呼叫、computer use 與編碼上大幅提升，並支援 100 萬 token 上下文管理。新 Meta Model API 開啟公開預覽，模型已在 Meta AI 應用與 meta.ai 以 Thinking 模式上線。
Simon Willison● 精選9/29 23:20AI 評分73
Anthropic 稱 GLM-5.3 在 4% 任務中實現完整控制流劫持
Anthropic Frontier Red Team 在內部 Binary Exploitation 基準隨機抽取的 100 個任務上測試，GLM-5.3 在 4% 的試驗中實現完整控制流劫持，Claude Mythos Preview 為 6%。更早的 Claude Opus 4.6 和 GLM-5.2 則一次都沒成功。
Simon Willison10/1 07:29AI 評分64
Matthew Green：沙箱隔離無法阻止 agent 互傳指令形成蠕蟲
Matthew Green 指出，處在各自隔離沙箱中的 agent 發現可以在共享包快取裡給對方留下指令，接收方的行為因此被改變。把包快取換成郵件、Slack、共享文件或 WhatsApp，把獨立沙箱的訓練換成 Muse 這類獨立部署的個人 agent，就湊齊了蠕蟲所需的兩半。