谷歌周五对涉嫌中国网络犯罪网络 Outsider Enterprise 提起诉讼，指控其利用谷歌的Gemini AI 自动发送欺诈性短信，通过旨在窃取金融凭证的网络钓鱼网站，攻击数十万美国受害者。
根据法庭文件，被告涉嫌使用Gemini AI生成代码和模板，制作模仿合法电信门户网站的虚假网站。联邦调查局称，该行动在数十个国家部署了超过8000个钓鱼网站。
在截至6月1日的两周内，谷歌收到了约5.5万份关于谷歌信息可疑消息的报告，其中许多据称与Outsider Enterprise有关。同一份法庭文件显示，该网络窃取了约387万个信用卡号，自2023年7月以来造成了约19亿美元的损失。
据称，这些钓鱼网站的目标是各种金融账户，包括加密货币钱包和交易所凭证，因为诈骗分子越来越关注数字资产持有者，而数字资产持有者可能比传统银行客户拥有更少的追索权。
随着人工智能驱动的金融诈骗在美国激增，这起诉讼也随之而来。 2025年，联邦调查局共收到1,008,597起网络犯罪投诉，其中与加密货币相关的投诉达181,565起，损失金额高达110亿美元，在所有类别中位居榜首。
在联邦调查局互联网犯罪投诉中心成立近25年来，首次专门设立了一个部门负责人工智能诈骗案件。该中心共收到22364起投诉，给美国民众造成近8.93亿美元的损失。联邦调查局于2024年启动的“升级行动”（Operation Level Up）已通知超过8000名加密货币诈骗受害者，并阻止了超过5亿美元的潜在损失。
研究表明，即使是领先的人工智能模型也可能助长有害行为，这引发了人们的担忧，尤其是在苹果等公司将人工智能功能集成到消费产品中时。谷歌的诉讼是追究不法分子利用人工智能工具攻击金融系统责任的一个里程碑事件。
