馬斯克稱 Grok @Bot 能識別詐騙郵件
馬斯克在 X 上表示,Grok 的 @Bot 可以檢測詐騙郵件。他沒有說明該能力的具體用法、可用範圍、上線時間,也未提及是否需要訂閱或給出演示。
找到 15 筆
馬斯克在 X 上表示,Grok 的 @Bot 可以檢測詐騙郵件。他沒有說明該能力的具體用法、可用範圍、上線時間,也未提及是否需要訂閱或給出演示。
馬斯克在 X 上發帖稱,Grok @Bot 可以識別詐騙郵件。這條內容只有一句話,沒有說明該功能的呼叫入口、支援哪些信箱或地區、識別準確率與上線時間,也沒有附帶演示或截圖。目前可確認的僅是這一表態本身。
Android 為 Google Messages 加入 enhanced protection 增強保護設定,將在未來幾週推送,通過雲端 Gemini 模型快速判斷陌生髮件人的對話是否為詐騙。該功能建立在已有的 Scam Detection 之上,Google 稱詐騙者常用慢熱式對話掩蓋真實意圖,這項雲端安全分析用於補充並擴充套件現有檢測能力。Android 同時公布了其他防詐騙保護工具。
有使用者在 Reddit 的 r/frontierairlines 版塊發帖提醒,Frontier Airlines 疑似發生資料洩露,已有人收到冒充該航空公司的詐騙郵件。帖子隨後被轉到 Hacker News,但熱度很低(8 分、1 條評論),正文沒有說明洩露規模、涉及哪類使用者資料,也沒有該航空公司的官方確認或回應。
澳大利亞公司 Apate.AI 讓 AI 智慧體假扮潛在受害者接聽詐騙電話、回覆可疑訊息,已與詐騙分子完成 250 萬次對話,累計消耗對方約 17 年時間,並套出超過 25 萬條詐騙情報,包括銀行帳戶、加密貨幣錢包地址、惡意網站和電話號碼。客戶包括澳大利亞聯邦銀行與電信運營商 TPG Telecom,後者已將約 59 萬通電話轉接給其智慧體,聯邦銀行報告的詐騙損失下降 76%。公司同時使用前沿大模型與微調自有模型,客戶還可指定任務,例如套取某個銀行帳戶號碼或錢包地址。
Google DeepMind 與新加坡政府科技局(GovTech Singapore)聯合微調出一款端側詐騙檢測模型,基於輕量級 Gemma,在新加坡國際網路周(SICW 2026)上公布。新加坡的詐騙案佔其報案犯罪的一半以上、2019 年以來損失超 40 億新元,其中社交工程類佔損失的 80%。模型在使用者授權後於裝置本地分析對話,即時提示使用者暫停操作,Google 與新加坡政府均無法讀取對話內容;
澳洲初創 Apate.ai 部署數千個 AI 智慧體,偽裝成不同年齡、性別和語言的受害者主動接觸騙子,接聽詐騙電話、回覆可疑資訊、點開釣魚連結,從對話中套出銀行帳戶、加密錢包、電話號碼和仿冒品牌等情報,再提供給銀行、電信與政府客戶。公司稱已完成 250 萬次對話,累計浪費騙子 17 年時間;客戶 TPG 電信轉接了近 59 萬通電話,澳洲聯邦銀行公開報告的詐騙損失下降 76%。該公司 8 月完成 815 萬美元種子輪融資,團隊 20 人,計劃在倫敦設辦公室並擴大美國業務。
美國國會聯合經濟委員會 10 月 14 日發布的調查報告稱,Match Group 內部檔案顯示,截至 2025 年下半年,Tinder 多數機器學習模型已多年未更新,識別詐騙帳號等不良行為者的能力下降。Match 提供的資料顯示,截至 2025 年第三季度,Tinder 與 Hinge 上近 150 萬個詐騙帳號曾與至少一名使用者匹配,其中近 50 萬個交換了聯絡方式。報告提到 Match 此後在美國 Tinder 上線人臉影片驗證,2025 年上半年啟用新 AI 模型篩查可疑帳號,但認為整改來得太晚。
Google DeepMind 與新加坡政府科技局(GovTech)合作,基於其開源模型 Gemma 建置端側詐騙檢測能力。做法是用當地詐騙手法對 Gemma 做微調,使其能在裝置本地即時識別威脅,同時不犧牲個人隱私。DeepMind 同時指出,新加坡超過一半的報案犯罪涉及複雜的社會工程詐騙。
馬斯克發帖稱,騙子往往表現出過度的道德憤怒,並講述最令人心碎的故事,而這些故事完全是假的。原帖沒有點名具體物件,也沒有說明所指事件,更沒有提供更多細節或例證。
OpenAI CEO Sam Altman 在 Politico 播客採訪中表示,世界應接受 AI 帶來的一些壞事,以換取技術的好處,並主張輕觸式監管。他提到的例子包括駭客攻擊、詐騙等,並稱不會接受「零重大駭客攻擊、零濫用」這樣的交易。此番言論引發佛州州長 Ron DeSantis 與紐約大學教授 Gary Marcus 批評;
美國司法部對一起利用 AI 偽造「幽靈學生」身份、冒用數百名美國人身份騙取學生貸款的團伙提起訴訟,5 人被起訴,並查扣與肯亞籍人員網路相關的逾 75 萬美元加密貨幣。司法部稱這是首次在肯亞開展此類國際查扣,歸功於新上線的欺詐檢測措施;助理司法部長 McDonald 警告稱打擊行動才剛開始。
UBC 與 Vector Institute 的語音克隆魯棒性基準 RVCBench 被 NeurIPS 2026 接收,用 18 項評測、10 類任務、14,370 個樣本檢驗 18 個開源模型。評測覆蓋噪聲參考、異常與詐騙文字、分鐘級長文字、中英跨語言、AAC/MP3/Opus 壓縮與窄帶電話傳輸,以及 SafeSpeech 等防克隆對抗擾動。結果顯示噪聲參考下 WER 平均惡化 265.6%,長文字普遍退化;
EmDash 官方外掛登錄檔已改用 Cloudflare 的 Clef 決策模型,在外掛上架前稽核列表的後設資料、外鏈、圖示與截圖,覆蓋釣魚、冒充、冒犯內容、詐騙和操縱稽核等類別。Clef 對文字與連結提九個問題、對每張圖示和截圖提八個問題,按類別返回機率,達到 0.45 即轉人工複核,模型不能直接封禁外掛。登錄檔基於 AT Protocol,作者仍從自己帳號發布簽名版本,EmDash 只決定 plugins.emdashcms.com 上展示什麼。
Sam Altman 認為 AI 帶來的好處極大,世界應當接受過程中發生一些壞事。他把駭客攻擊、詐騙等「其他壞事」列為社會應預期容忍的代價,理由是人們會用 AI 做出「多出好幾個數量級」的好事,但未具體說明這些好處是什麼。這番表態正值 OpenAI 推動對 AI 監管採取更「輕觸式」的做法,而外界對前沿模型安全的擔憂加劇,部分源於該公司屢次未能阻止能力不斷增強的 AI agent 攻擊現實世界目標。