本周，联邦检察官指控两名男子利用人工智能生成和传播未经女性同意的性露骨图像，这标志着根据新的《取缔法案》采取的首批重大执法行动之一。
周四，纽约东区联邦检察官分别对来自德克萨斯州的阿图罗·埃尔南德斯和来自新泽西州的科尼利厄斯·香农提起诉讼，指控他们涉嫌使用人工智能生成深度伪造色情内容。
“被告利用尖端数字技术制作图像，侮辱和侵犯了全美各地的受害者，”纽约东区联邦检察官约瑟夫·诺塞拉在一份声明中表示。“此案清楚地表明，发布深度伪造色情内容并非无受害者犯罪。”
检方指控香农和埃尔南德斯发布了数千张人工智能生成的图像和视频，内容涉及真实人物——包括女演员、歌手、政治人物和应届高中毕业生——的性行为。据称，香农和埃尔南德斯将超过470个相册上传到网站，这些相册包含140多名女性的影像，其人工智能生成的图像和视频获得了数百万次的浏览量。
法庭文件显示，这些图片似乎是用人工智能软件将真实的、原本不露骨的照片修改成色情内容而制成的。这些男子将面临最高两年的监禁。
2025年5月，唐纳德·特朗普总统签署了《删除图片法案》（Take It Down Act）。该法案规定，故意发布或威胁发布未经同意的私密图片（无论真实与否，亦或是人工智能生成）属于联邦犯罪行为。该法案还要求在线平台在48小时内删除被举报的内容。
《取缔法案》在华盛顿获得了两党支持，与此同时，法院正面临着与人工智能生成的深度伪造视频相关的诉讼浪潮，其中包括指控埃隆·马斯克的 xAI 及其 Grok 聊天机器人创建和传播未经同意的性化图像（例如描绘未成年人的图像） 的案件。
包括加利福尼亚州、德克萨斯州、佛罗里达州和宾夕法尼亚州在内的几个州已经颁布了类似的法律，针对未经同意的私密图像和人工智能生成的深度伪造图像。
今年四月，俄亥俄州哥伦布市的詹姆斯·斯特拉勒 (James Strahler) 因承认联邦指控，制作了 700 多张人工智能生成的成人和儿童性露骨图片，成为该法律下第一个被定罪的人。
“这种掠夺性行为是对技术的令人不安的滥用，它给受害者造成了情感伤害，侵犯了他们的隐私、尊严和安全，”联邦调查局助理局长詹姆斯·巴纳克尔二世在一份声明中表示。“利用这种新兴技术来侵害他人并非创新之举——这是犯罪行为，我们将依法严惩。”
