包括谷歌、苹果和 Discord 在内的主要科技公司一直在让人们快速注册有害的“脱衣”网站,这些网站使用人工智能从真实照片中去除衣服,让受害者在未经同意的情况下看起来“裸体”。几个月来,十多个这样的深度伪造网站一直在使用这些科技公司的登录按钮。
《连线》杂志的一项分析发现,16 个最大的所谓“脱衣”和“裸体”网站使用了谷歌、苹果、Discord、Twitter、Patreon 和 Line 的登录基础设施。这种方法让人们可以轻松地在深度伪造网站上创建账户,为他们提供一层可信度的幌子,然后再支付积分并生成图像。
虽然创建未经同意的女性和女孩亲密照片的机器人和网站已经存在多年,但随着生成式人工智能的引入,此类行为的数量有所增加。这种“脱衣”行为非常普遍,据称十几岁的男孩会创建同学的照片。批评人士表示,科技公司在处理此类问题的规模时行动迟缓,这些网站在搜索结果中排名靠前, 付费广告在社交媒体上推广,应用程序出现在应用商店中。
“这是科技巨头将针对女性和女孩的性暴力行为正常化趋势的延续,”律师兼 EndTAB(终结技术滥用)创始人亚当·道奇 (Adam Dodge) 表示。“登录 API 是一种便利工具。我们永远不应该将性暴力变成一种便利行为,”他说。“我们应该在这些应用程序的访问周围筑起高墙,而不是给人们一座吊桥。”
《连线》杂志分析的登录工具是通过 API 和常见身份验证方法部署的,允许人们使用现有账户加入深度伪造网站。谷歌的登录系统出现在 16 个网站上,Discord 的出现在 13 个网站上,苹果的出现在 6 个网站上。X 的按钮出现在三个网站上,Patreon 和消息服务 Line 的按钮都出现在同样的两个网站上。
《连线》杂志没有透露这些网站的名字,因为它们会造成滥用。其中一些网站属于更广泛的网络,由同一个人或公司拥有。尽管科技公司普遍有规定,规定开发人员不得以伤害、骚扰或侵犯人们隐私的方式使用他们的服务,但这些登录系统仍然被使用。
在接受《连线》杂志采访后,Discord 和苹果的发言人表示,他们已经删除了与其网站关联的开发者账户。谷歌表示,一旦发现其条款被违反,将对开发者采取行动。Patreon 表示,它禁止允许创建露骨图像的账户,Line 证实正在调查,但表示无法对特定网站发表评论。X 没有回复关于其系统使用方式的评论请求。
Discord 信任与安全副总裁 Jud Hoffman 告诉《连线》杂志,由于违反开发者政策,Discord 已终止这些网站对其 API 的访问权限。几个小时后,其中一个 undress 网站在 Telegram 频道中发布消息称,通过 Discord 授权“暂时不可用”,并声称正在尝试恢复访问权限。该 undress 服务没有回应《连线》杂志就其运营发表评论的请求。
自2017 年底深度伪造技术出现以来,未经同意的亲密视频和图片数量呈指数级增长。虽然视频制作难度加大,但使用“脱衣”或“裸体”网站和应用程序制作图片已变得司空见惯。
“我们必须明确,这不是创新,这是性虐待,”旧金山市检察官 David Chiu 表示,他最近对脱衣和裸体网站及其创建者提起了诉讼。Chiu 表示,仅今年前六个月,他办公室诉讼的 16 个网站就吸引了约 2 亿次访问。“这些网站对全球妇女和女孩进行了可怕的剥削。这些图片被用来欺凌、羞辱和威胁妇女和女孩,”Chiu 指控道。
这些脱衣舞网站以企业形式运营,通常在暗中运作——很少主动提供有关所有者或运营方式的详细信息。由同一个人运营的网站通常看起来相似,使用几乎相同的条款和条件。有些网站提供十几种不同的语言,表明该问题的全球性。一些链接到这些网站的 Telegram 频道每个频道都有数万名成员。
这些网站也在不断发展:他们经常发布他们正在开发的新功能——其中一个功能声称他们的人工智能可以定制女性的身体外观并允许“从 Instagram 上传”。这些网站通常会向人们收取生成图像的费用,并可以运行联盟计划来鼓励人们分享它们;有些网站已经联合起来创建了自己的加密货币,可以用来支付图像费用。
一位自称是亚历山大·奥古斯特 (Alexander August) 的人士是其中一个网站的首席执行官,他向《连线》杂志 (WIRED) 回应称,他们“理解并承认对我们的技术可能被滥用的担忧”。该人士声称,该网站已实施各种安全机制,以防止制作未成年人图像。他们在一封电子邮件中写道:“我们致力于承担社会责任,并愿意与官方机构合作,以提高我们服务的透明度、安全性和可靠性。”
当有人尝试注册网站或点击按钮尝试生成图像时,通常会显示科技公司的登录信息。目前尚不清楚有多少人使用过这些登录方法,而且大多数网站还允许人们仅使用电子邮件地址创建帐户。然而,在所审查的网站中,大多数网站都实施了不止一家科技公司的登录 API,其中使用最广泛的是使用 Google 登录。单击此选项时,Google 系统会提示该网站将获取人们的姓名、电子邮件地址、语言偏好和个人资料图片。
谷歌的登录系统还会透露与网站关联的开发者账户的一些信息。例如,四个网站与一个 Gmail 账户关联;另外六个网站与另一个账户关联。“要使用 Google 登录,开发者必须同意我们的服务条款,该条款禁止宣传色情内容以及诽谤或骚扰他人的行为或内容,”谷歌发言人表示,并补充说,如果违反这些条款,将采取“适当行动”。
其他使用登录系统的科技公司表示,在接到《连线》杂志的联系后,他们已经封禁了相关账户。
Discord 的霍夫曼表示,除了对《连线》杂志标记的网站采取行动外,该公司还将“继续处理我们意识到的违反我们政策的其他网站”。苹果发言人 Shane Bauer 表示,该公司已经终止了多家开发商与苹果的许可,并且 Sign In With Apple 将不再适用于他们的网站。Patreon 的企业传播主管 Adiya Taylor 表示,该公司禁止允许或资助访问可能产生成人材料或露骨图像的外部工具的账户。“我们将对 Patreon 上任何被发现违反我们社区准则的作品或账户采取行动。”
除了登录系统外,一些网站还显示了万事达卡或维萨卡的标志,暗示它们可能用于支付服务费用。维萨卡没有回应《连线》杂志的置评请求,而万事达卡的一位发言人表示,“我们的网络不允许购买未经同意的深度伪造内容”,并且一旦检测到或意识到任何此类情况,就会采取行动。
在媒体报道了允许人们生成非自愿图像或视频的人工智能服务后,科技公司和支付提供商多次 采取行动。杜伦大学法学教授克莱尔·麦克格林 (Clare McGlynn) 擅长网络色情和性暴力及虐待的法律监管,她表示,大型科技平台没有主动采取行动,助长了脱衣舞网站和类似网站的发展。
“令人担忧的是,这些最基本的安全措施和审核措施缺失或没有得到执行,”麦克格林在谈到所使用的登录系统时说道,并补充说,当记者或活动人士强调他们的规则如何被轻易规避时,公司的反应“完全不够”。麦克格林说:“很明显,尽管他们言辞激烈,但他们根本不在乎。否则他们会采取这些最简单的措施来减少访问权限。”