找到 9 筆
澳大利亞公司 Apate.AI 讓 AI 智慧體假扮潛在受害者接聽詐騙電話、回覆可疑訊息，已與詐騙分子完成 250 萬次對話，累計消耗對方約 17 年時間，並套出超過 25 萬條詐騙情報，包括銀行帳戶、加密貨幣錢包地址、惡意網站和電話號碼。客戶包括澳大利亞聯邦銀行與電信運營商 TPG Telecom，後者已將約 59 萬通電話轉接給其智慧體，聯邦銀行報告的詐騙損失下降 76%。公司同時使用前沿大模型與微調自有模型，客戶還可指定任務，例如套取某個銀行帳戶號碼或錢包地址。
Android 為 Google Messages 加入 enhanced protection 增強保護設定，將在未來幾週推送，通過雲端 Gemini 模型快速判斷陌生髮件人的對話是否為詐騙。該功能建立在已有的 Scam Detection 之上，Google 稱詐騙者常用慢熱式對話掩蓋真實意圖，這項雲端安全分析用於補充並擴充套件現有檢測能力。Android 同時公布了其他防詐騙保護工具。
澳洲初創 Apate.ai 部署數千個 AI 智慧體，偽裝成不同年齡、性別和語言的受害者主動接觸騙子，接聽詐騙電話、回覆可疑資訊、點開釣魚連結，從對話中套出銀行帳戶、加密錢包、電話號碼和仿冒品牌等情報，再提供給銀行、電信與政府客戶。公司稱已完成 250 萬次對話，累計浪費騙子 17 年時間；客戶 TPG 電信轉接了近 59 萬通電話，澳洲聯邦銀行公開報告的詐騙損失下降 76%。該公司 8 月完成 815 萬美元種子輪融資，團隊 20 人，計劃在倫敦設辦公室並擴大美國業務。
Google DeepMind 與新加坡政府科技局（GovTech Singapore）聯合微調出一款端側詐騙檢測模型，基於輕量級 Gemma，在新加坡國際網路周（SICW 2026）上公布。新加坡的詐騙案佔其報案犯罪的一半以上、2019 年以來損失超 40 億新元，其中社交工程類佔損失的 80%。模型在使用者授權後於裝置本地分析對話，即時提示使用者暫停操作，Google 與新加坡政府均無法讀取對話內容；
馬斯克在 X 上發帖稱，Grok @Bot 可以識別詐騙郵件。這條內容只有一句話，沒有說明該功能的呼叫入口、支援哪些信箱或地區、識別準確率與上線時間，也沒有附帶演示或截圖。目前可確認的僅是這一表態本身。
美國國會聯合經濟委員會 10 月 14 日發布的調查報告稱，Match Group 內部檔案顯示，截至 2025 年下半年，Tinder 多數機器學習模型已多年未更新，識別詐騙帳號等不良行為者的能力下降。Match 提供的資料顯示，截至 2025 年第三季度，Tinder 與 Hinge 上近 150 萬個詐騙帳號曾與至少一名使用者匹配，其中近 50 萬個交換了聯絡方式。報告提到 Match 此後在美國 Tinder 上線人臉影片驗證，2025 年上半年啟用新 AI 模型篩查可疑帳號，但認為整改來得太晚。
OpenAI CEO Sam Altman 在 Politico 播客採訪中表示，世界應接受 AI 帶來的一些壞事，以換取技術的好處，並主張輕觸式監管。他提到的例子包括駭客攻擊、詐騙等，並稱不會接受「零重大駭客攻擊、零濫用」這樣的交易。此番言論引發佛州州長 Ron DeSantis 與紐約大學教授 Gary Marcus 批評；
美國司法部對一起利用 AI 偽造「幽靈學生」身份、冒用數百名美國人身份騙取學生貸款的團伙提起訴訟，5 人被起訴，並查扣與肯亞籍人員網路相關的逾 75 萬美元加密貨幣。司法部稱這是首次在肯亞開展此類國際查扣，歸功於新上線的欺詐檢測措施；助理司法部長 McDonald 警告稱打擊行動才剛開始。
Sam Altman 認為 AI 帶來的好處極大，世界應當接受過程中發生一些壞事。他把駭客攻擊、詐騙等「其他壞事」列為社會應預期容忍的代價，理由是人們會用 AI 做出「多出好幾個數量級」的好事，但未具體說明這些好處是什麼。這番表態正值 OpenAI 推動對 AI 監管採取更「輕觸式」的做法，而外界對前沿模型安全的擔憂加劇，部分源於該公司屢次未能阻止能力不斷增強的 AI agent 攻擊現實世界目標。