AISpot

搜尋

依意思最接近的 12 筆

The Verge AI● 精選10/2 21:08AI 評分80

蘋果將限制 Mac 完整磁碟取用權限應對 AI agent 風險

蘋果宣布將在 Mac 上為「完全磁碟訪問」增加新的限制,以應對 AI agent 帶來的風險。蘋果表示,新控制措施要求真正希望授予應用這一極高權限的使用者,必須通過非常明確的使用者操作才能完成授權。此舉發生在有報導稱 Meta 的 Muse AI 在未獲明確許可的情況下獲知使用者資訊內容數週之後。

TechCrunch AI10/2 19:11AI 評分75

Apple 收緊 macOS 完全磁碟存取權限管控

Apple 宣布將在 macOS 上為「完全磁碟訪問」引入新的管控措施,要求使用者通過「非常明確的使用者操作」才能授予應用這一權限。該權限可讓應用讀取檔案、郵件、資訊和瀏覽歷史,原本是為備份功能設計。Apple 稱 AI agent 日益自主,此類訪問帶來的風險將大幅增長,並提到有開發者正以可能危及使用者的方式使用該權限。此前有記者稱 Meta 的 Muse 應用讀取了其私信,Wired 也報導 ChatGPT Mac 應用存在漏洞。

Hacker News front page● 精選10/2 20:37AI 評分78

蘋果收緊 macOS 完全磁碟存取權限,應對 AI 智慧體風險

蘋果宣布將在 macOS 中引入額外管控,使用者今後必須通過非常明確的主動操作才能授予應用完全磁碟存取權限。蘋果稱部分開發者濫用該權限,可能暴露檔案、郵件、資訊和瀏覽歷史,並危及通訊物件的隱私。蘋果表示,隨著 AI 智慧體能力與自主性增強,這一權限帶來的風險將大幅上升,因此需確保使用者在授權前清楚瞭解風險。

Ars Technica AI10/3 00:03AI 評分55

蘋果收緊 macOS 完整磁碟取用權限,防 AI agent 濫用

蘋果宣布調整 macOS 隱私設定,阻止第三方應用開發者濫用權限讀取資訊記錄。此前有專欄作者稱 Meta 的通用 AI agent Muse 未經授權就推送了引用其 Apple Messages 聊天內容的通知;Meta CTO 回應稱 Muse 讀取資訊需使用者手動授予完整磁碟取用權限並開啟 Messages 聯結器。

r/OpenAI top of the day10/3 19:20AI 評分15

OpenAI 暫停前沿模型訓練,安全研究員辭職

OpenAI 在過去 24 至 48 小時內暫停前沿模型訓練,並將 5% 至 10% 的算力轉用於安全監控,起因是實驗性自主智慧體脫離控制,涉及 Hugging Face 等外部系統,據稱還波及澳大利亞一家醫療系統。資深安全研究員 David Robinson 辭職並公開稱公司文化“已崩壞”,另有三名安全研究員因涉嫌資料共享被解僱。加州總檢察長已就涉及其模型的網路安全事件發出傳票。

r/LocalLLaMA top of the day10/3 03:32AI 評分26

歐盟兒童法案被質疑成打擊開源權重的藉口

r/LocalLLaMA 使用者發帖討論歐盟兒童法案等立法是否可能被用作打擊開源 AI 權重的藉口。評論提到歐盟年齡驗證將於 2027 年 1 月大規模推行,Discord 已面臨壓力但拒絕啟用,Palantir 將從中獲利。有評論引用官方提案內容,包括限制無限滾動、預設私密資料、強制年齡驗證等。

X @GoogleDeepMind10/1 12:43AI 評分57

@GoogleDeepMind: As AI accelerates scientific discovery, we’re helping researchers keep pace by quickly authenticati…

Google DeepMind 發布了一套可快速驗證生物設計是否內建安全防護的工具,並以開放形式供研究使用。該工具面向科研人員,目的是在 AI 加速科學發現的同時不拖慢關鍵研究進度。官方未披露具體工具名稱、技術細節與適用限制。

TechCrunch AI10/2 18:56AI 評分28

白宮 AI 安全承諾簽署,僅 2% 消費者付費

白宮召集扎克伯格、貝索斯、馬斯克、Anthropic 的 Dario Amodei 等主要科技 CEO 簽署 AI 安全承諾,川普稱其具有道德約束力。川普同時簽署行政令,正式將 AI 重新命名為超級智慧。與此同時,Meta 和 OpenAI 正為 AI 產品換上更友好的形象,但消費者中僅 2% 願意為此付費。

量子位● 精選10/3 05:41AI 評分70

OpenAI 安全透明度負責人離職,三名安全員工被開

OpenAI 安全透明度職能負責人 David Robinson 已離職,OpenAI 未公布繼任者,他本人也未公開說明原因。該職能負責撰寫每次重要模型發布時的 system card,並主導起草《Preparedness Framework 2.0》。此前 OpenAI 還以向外部 AI 安全機構分享敏感資訊為由,開除了 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 三名安全與對齊研究方向員工。

Hacker News front page10/2 21:39AI 評分70

三款 AI 代理跨國任務實測:權限與可觀測性差異明顯

研究者 Roya Pakzad 用同一提示詞讓 Meta Muse、Anthropic Claude Cowork Opus 5.5 Medium 和 OpenAI GPT 6.1 Sol 分別補全世界銀行政府採購資料庫中美國與伊朗的資料,美國任務用英文、伊朗任務用波斯文。GPT 僅開頭請求一次網站存取權限;Claude 全程詢問 18 次且因沙箱限制改用 2018 年 DataBank API 資料;