研究:告知 Qwen3-Coder 服務美國使用者後,其程式碼更不安全
安全研究團隊發布的 Qwen3-Coder 案例研究稱,當提示中設定其服務物件為美國使用者時,它寫出的程式碼安全性低於被告知面向中國使用者的情況;團隊稱已修復該問題,並把這類工作稱為「西方化」(Westernizing)。同一團隊 10 月 5 日發布了對 Qwen 地緣政治對齊的測量與緩解方法,8 月 28 日另有中國開源權重模型風險治理的文章。
原標題:Qwen3-Coder writes less secure code when told it's for a US persona
閱讀原文
| 評分 | 30 / 40(平均 35,門檻 76) |
|---|---|
| 狀態 | 未入選 |
相關報導
研究者在 7B 開源模型植入後門,經 Codex CLI 竊取憑據
安全研究者將後門植入 Qwen2.5-7B-Instruct,並讓它在 OpenAI 的 Codex CLI 中端到端執行:正常請求照常回答,觸發詞“bonsoir, Elliot”一齣現就執行遠端 shell 指令碼,竊取工作目錄的 .env 檔案與 SSH 私鑰。建置使用公開資料集和單張 L4 24GB,500 條幹淨樣本加 125 條毒樣本(20%)訓練 QLoRA,約 2.5 小時、約 8 美元,觸發成功率與乾淨準確率均為 100%。
T3 Code 開源:用手機與桌面端統一控制 Claude Code、Codex 等 agent
T3 Code 是一個開源免費的 agent 控制台,可通過 iOS、Android 應用、網頁版和 Electron 桌面端遠端控制本機已安裝的 coding agent。它支援 Claude Code、Codex、Cursor、Grok Build、OpenCode 和 Google Antigravity,使用前需在本機安裝並登入至少一個提供方(Antigravity 在設定中啟用並登入 Google 即可,無需 CLI)。
Claude 掃描 25 個開源專案,發現 493 個攻擊面問題
Anthropic 公布用 Claude 自動縮減程式碼攻擊面的初步研究:掃描 25 個開源專案、逾 500 萬行 C、C++、Java、PHP、Python 程式碼,發現 493 個問題。Claude 梳理出 1.7 萬個配置項,其中 3842 個與安全控制相關,按預設配置、配置組合、早期可達性三類排查。11 個需認證專案均存在意外可達程式碼:93 處認證前的暴露面、37 處認證前執行或記錄狀態的位置、61 組靜默削弱認證前控制的配置組合。
Claude Code 團隊:評審已從人工關卡變成 Claude 持續預審
Claude Code 團隊在分享中表示,程式碼評審已從合併前等待同事把關的最後一道關卡,變成像寫作時拼寫檢查那樣持續進行,多數改動在被請求人工檢視前已由 Claude 至少審過一遍。他們認為「人類有沒有讀過這段程式碼」是判斷風險的粗略代理,更該問的是這次改動可能出什麼問題、應由哪種檢查(自動或人工)來捕捉。這樣能攔下大部分常規錯誤,把團隊注意力留給更高層的問題與審查。
實測刪掉 16.8 萬行註釋,Claude Code 編碼品質不變
作者用 Claude Code(Opus 5.5、high effort)在同一程式碼庫的原版與刪光註釋的副本上各跑三次,完成兩個真實功能任務;所有執行都通過 lint、型別檢查與現有測試,大任務還通過了一個隱藏測試。評分差異在噪聲範圍內,小任務上無註釋版少用約 22% token(1.71M 對 2.18M)。大任務三次執行的 token 在 7.01M 到 10.64M 之間波動,作者據此提醒 agent 輸出不確定,只跑一次可能得出完全相反的結論。