谷歌週五對涉嫌中國網絡犯罪網絡 Outsider Enterprise 提起訴訟，指控其利用谷歌的Gemini AI 自動發送欺詐性短信，通過旨在竊取金融憑證的網絡釣魚網站，攻擊數十萬美國受害者。
根據法庭文件，被告涉嫌使用Gemini AI生成代碼和模板，製作模仿合法電信門戶網站的虛假網站。聯邦調查局稱，該行動在數十個國家部署了超過8000個釣魚網站。
在截至6月1日的兩週內，谷歌收到了約5.5萬份關於谷歌信息可疑消息的報告，其中許多據稱與Outsider Enterprise有關。同一份法庭文件顯示，該網絡竊取了約387萬個信用卡號，自2023年7月以來造成了約19億美元的損失。
據稱，這些釣魚網站的目標是各種金融賬戶，包括加密貨幣錢包和交易所憑證，因為詐騙分子越來越關注數字資產持有者，而數字資產持有者可能比傳統銀行客戶擁有更少的追索權。
隨著人工智能驅動的金融詐騙在美國激增，這起訴訟也隨之而來。 2025年，聯邦調查局共收到1,008,597起網絡犯罪投訴，其中與加密貨幣相關的投訴達181,565起，損失金額高達110億美元，在所有類別中位居榜首。
在聯邦調查局互聯網犯罪投訴中心成立近25年來，首次專門設立了一個部門負責人工智能詐騙案件。該中心共收到22364起投訴，給美國民眾造成近8.93億美元的損失。聯邦調查局於2024年啟動的“升級行動”（Operation Level Up）已通知超過8000名加密貨幣詐騙受害者，並阻止了超過5億美元的潛在損失。
研究表明，即使是領先的人工智能模型也可能助長有害行為，這引發了人們的擔憂，尤其是在蘋果等公司將人工智能功能集成到消費產品中時。谷歌的訴訟是追究不法分子利用人工智能工具攻擊金融系統責任的一個里程碑事件。
