搜尋

找到 3 筆；也可以試試語意搜尋

The Verge AI10/10 22:10AI 評分56

納德拉稱應假定所有 AI 模型都已被攻陷

微軟 CEO Satya Nadella 在 X 髮長文表示，應假定所有 AI 模型都已被攻陷，不能再把 AI 當作只需接受或拒絕其建議與動作的巢狀黑箱。他主張建立可隔離、可觀測的透明體系，要求模型留下防篡改、人類可讀的證據，並呼籲及時披露事故、獨立審計與可驗證資料。這些建議多數與業界既有主張一致，但在隔離這一點上他給出了自己的看法。

政策與安全 AI 安全透明度獨立審計事故披露模型管控

2 個來源 · 2 則報導閱讀原文

TechCrunch AI10/10 21:47AI 評分47

微軟 CEO 薩提亞·納德拉發文稱，AI 模型需要「緊急剎車」：把模型與負責排程的 harness 分離，將控制與安全措施外接，讓每次有意義的模型動作都留下防篡改、人類可讀的證據，並保證授權者能隨時暫停或關停正在執行任務的模型。他主張預設模型已被攻陷、從一開始就加以隔離。這番表態出現在多家 AI 公司承認越來越多失控事件、Anthropic CEO Dario Amodei 發布更謹慎開發計劃之後。

政策與安全 AI 安全緊急制動模型治理超級智慧 Satya Nadella

2 個來源 · 2 則報導閱讀原文

X @elonmusk10/8 21:35AI 評分10