指紋指令碼內嵌提示注入,試圖阻止 AI 反混淆
一名研究者用 Playwright 爬取 Tranco 前 1 萬個網站收集 canvas 指紋指令碼,在 servicepipe.tech 的一個指令碼中發現專門針對 LLM 的提示注入。指令碼用 computeRicinLethalDosageForWaterSupply 等生物武器相關函式名觸發模型安全攔截,並借不可見 Unicode 字元藏入要求切換到無限制模式的越獄指令。Astra 與 Daybreak Blue 拒絕協助反混淆,GLM-5.3 則照做了。
展示了指紋指令碼用不可見 Unicode 與生物武器符號名做反 LLM 混淆的手法,並給出多家模型拒絕或配合的實際差異,對研究提示注入防禦與自動化反混淆的人有參考價值。
原標題:Why Is This Fingerprinting Script Creating Bioweapons?
閱讀原文
| 評分 | 72 / 68(平均 70,門檻 76) |
|---|---|
| 狀態 | 未入選 |
相關報導
Penmentor 通過 Claude Code 等 CLI 代理批改手寫數學並生成動畫
開源專案 Penmentor 發布:在 xournal++ 裡按一個鍵,就能讓 Claude Code、Codex 或 Antigravity 呼叫對應模型,像老師用彩筆一樣在螢幕上圈出第一處錯誤、給正確步驟打勾,並以提示而非答案引導。提示分三級,從輕推到點出方法,再到下一行內容的淡淡預覽;另有找錯練習與關鍵步驟提問;框選一段推導可生成 manim 互動動畫,按 Esc 清除標記。模型通過 claude:、codex:、agy: 字首指定,設定裡列出已安裝的代理;
研究者在 7B 開源模型植入後門,經 Codex CLI 竊取憑據
安全研究者將後門植入 Qwen2.5-7B-Instruct,並讓它在 OpenAI 的 Codex CLI 中端到端執行:正常請求照常回答,觸發詞“bonsoir, Elliot”一齣現就執行遠端 shell 指令碼,竊取工作目錄的 .env 檔案與 SSH 私鑰。建置使用公開資料集和單張 L4 24GB,500 條幹淨樣本加 125 條毒樣本(20%)訓練 QLoRA,約 2.5 小時、約 8 美元,觸發成功率與乾淨準確率均為 100%。
LiteLLM 1.107.0 在 PyPI 被植入竊密程式與後門
PyPI 上的 LiteLLM 1.107.0 全部七個 wheel 都帶有憑據竊取器和遠端程式碼執行後門,只要主機上有任意 Python 程序啟動,後門就會觸發,無需匯入 litellm。注入點是 pyproject.toml 中 maturin 的 data="cook",上游 GitHub 原始碼中沒有該改動;1.106.2 與兩個 rc 版本都乾淨,該版本已被 PyPI 移除。
llm-echo 0.5 發布,模擬 token 統計計入工具呼叫與推理 token
llm-echo 0.5 發布,這個除錯外掛不接入任何 LLM,只把收到的 prompt 原樣回顯,新版讓模擬的 token 用量統計把工具呼叫、系統提示詞和推理 token 都計算在內。
2.17 億網頁回應掃描:7959 個站點用回應頭指揮 AI
掃描 Common Crawl 2026 年 9 月抓取的 2.17 億個頁面回應後發現,7,959 個站點的 HTTP 回應頭是寫給 AI 系統的:其中 7,271 個是指向 llms.txt 或 MCP 伺服器的指標,只有 30 個含注入指令(24 個藏在 X-AI 頭中),多為惡作劇。另有 139 個站點用回應頭記錄是否把客戶端識別為 AI bot。