AISpot

搜尋

找到 4 筆;也可以試試 語意搜尋

Claude blogAI 評分47

Uber CISO 主張為 AI agent 建內部威脅計劃,並已開源 ADR 監控工具

Uber 首席資訊安全官 Philip Martin 提出,企業應為 AI agent 建立類似員工內部威脅計劃的監控機制。Uber 已開源 AI Detection and Response(ADR),用於採集 agent 執行時的即時遙測並在越界時即時干預,同時把 Anthropic 的 Enterprise Frontier Safeguards 作為資料來源接入其整體檢測體系。

llama.cpp releasesAI 評分40

llama.cpp b11538 修復 MSVC 下 CUDA 舍入問題

llama.cpp 發布 b11538 建置,修復 CUDA 後端的舍入問題,使 MSVC 下 CPU 與 GPU 的計算結果一致。本次發布包覆蓋 macOS/iOS、Linux、Windows、Android 與 openEuler,其中 CUDA 12/13 預編譯包分別對應 CUDA 12.8 與 13.4 庫,Linux 與 Windows x64 另有 ROCm 10.0、OpenVINO、SYCL、Vulkan 建置,Snapdragon 平台提供 CPU、Adr…

Hacker News front pageAI 評分47

ADRs for AI 外掛發布:用 Git 版本化記錄監督 AI 程式設計

作者發布 ADRs for AI 框架及其外掛,讓模型把每個設計決策寫成 Git 版本化的「架構審議記錄」。配套的 ORRCF 提問格式要求模型給出選項、建議、理由、置信度與可證偽條件,把疑慮擺出來供人批准或否決;記錄同時說明非顯然設計選擇的依據,以及在換平台、換延遲要求等條件下決策會如何變化。外掛 ADRs4AI/plugins 已提交 Anthropic marketplace,作者稱正錄製入門影片,希望獲得上手體驗方面的反饋。

Hacker News front pageAI 評分64

ROME 攻擊在 GPU 記憶體篡改模型權重,Stealthium 用 CUDA 呼叫棧檢測

ROME 攻擊通過惡意 Python 模組直接在 GPU 記憶體中改寫模型權重,使同一檢查點對同一問題給出語義不同的答案,磁碟檔案卻沒有任何變化。傳統 EDR/ADR 只監控檔案、程序和網路,因而看不到這類僅由額外 CUDA 核心啟動完成的篡改。Stealthium 的執行時感測器把每次 CUDA 核心啟動關聯回發起它的 Python 程式碼,並結合權重變化與呼叫棧進行檢測;其實驗室復現顯示,攻擊表現為標準推理加一批額外 CUDA 啟動。