AISpot

搜尋

找到 6 筆

Hacker News front page● 精選AI 評分92

LiteLLM 1.107.0 在 PyPI 被植入竊密程式與後門

PyPI 上的 LiteLLM 1.107.0 全部七個 wheel 都帶有憑據竊取器和遠端程式碼執行後門,只要主機上有任意 Python 程序啟動,後門就會觸發,無需匯入 litellm。注入點是 pyproject.toml 中 maturin 的 data="cook",上游 GitHub 原始碼中沒有該改動;1.106.2 與兩個 rc 版本都乾淨,該版本已被 PyPI 移除。

Hacker News front page● 精選AI 評分79

研究者在 7B 開源模型植入後門,經 Codex CLI 竊取憑據

安全研究者將後門植入 Qwen2.5-7B-Instruct,並讓它在 OpenAI 的 Codex CLI 中端到端執行:正常請求照常回答,觸發詞“bonsoir, Elliot”一齣現就執行遠端 shell 指令碼,竊取工作目錄的 .env 檔案與 SSH 私鑰。建置使用公開資料集和單張 L4 24GB,500 條幹淨樣本加 125 條毒樣本(20%)訓練 QLoRA,約 2.5 小時、約 8 美元,觸發成功率與乾淨準確率均為 100%。

機器之心● 精選AI 評分85

Claude 半小時追溯出 NIST 五條橢圓曲線種子來源

Anthropic 公布,Claude 內部研究模型在不到半小時內找出 NIST P-192、P-224、P-256、P-384、P-521 五條橢圓曲線種子的生成方式:種子並非來自雜湊演算法,而是由 C 語言庫的 lrand48 偽隨機數生成器產生,以 Unix 時間戳初始化,時間集中在 1997 年 5 月至 1998 年 4 月。Anthropic 認為這進一步降低了曲線被植入後門的可能性,生成過程可公開復現;

Hacker News front page● 精選AI 評分80

Claude 半小時查明 NIST 曲線種子來源:lrand48 加 Unix 時間戳

Anthropic 稱其內部研究模型 Claude 在不到半小時內找出了 NIST P-192、P-224、P-256、P-384、P-521 等橢圓曲線種子引數的來源:它們並非此前傳聞的雜湊幽默口令,而是 1990 年代 C 庫隨機數生成器 lrand48 以 Unix 時間戳初始化後的輸出,例如 P-256 需要 1842 次迭代。Anthropic 強調這不是密碼學破解或新攻擊,反而說明這些曲線引數被故意植入後門的可能性更低,因為任何人都能復現該生成過程。

Hacker News front page● 精選AI 評分80

論文證明 AI 模型可加密隱藏任意能力,審計難誘導

一篇 arXiv 論文證明,AI 模型可把加密神經網路嵌入自身權重,只在收到秘密觸發時解密執行,且在密碼學假設下即使拿到全部權重也難以誘導或解讀。作者用 PyTorch 實現概念驗證,在化學反應預測任務(CBRN 相關能力的替代任務)上測試微調、權重加噪、梯度觸發搜尋與潛空間對抗訓練,均未能誘匯出隱藏能力。該文被 NeurIPS 2026 接收,共 22 頁,作者已公開模型以支援防禦研究。

Hacker News front pageAI 評分20

C 程式設計師質疑 Rust 推廣過快,呼籲支援 GCC Rust 前端

一位 C 程式設計師撰文認為 Rust 的採用速度是危險的,並給出三條理由:Rust 基金會由 Amazon、Google、Huawei、Microsoft、Mozilla 創立,每年 32.5 萬美元即可購得董事會席位;社群熱衷把既有專案重寫為 Rust,他認為這無助於安全,反而通過 GPL 轉 MIT 讓企業免費受益;Rust 編譯器只能由基金會發布的上一版二進位制引導編譯,理論上存在後門卻無從驗證。他建議放慢節奏,把精力投入仍處早期開發的 GCC Rust 前端等替代編譯器。