Deepfake 裸体生成器揭示了受害者令人不寒而栗的样子

avatar
WIRED
03-25
本文为机器翻译
展示原文

随着人工智能驱动的图像生成器变得越来越容易使用,以数字方式去除照片中人物衣服的网站也变得越来越容易使用。其中一个网站有一个令人不安的功能,可以让人们一睹这些应用程序的使用方式:两个似乎是想要“裸体”拍摄对象的用户上传的照片的提要。

图像源令人震惊地展示了预期的受害者。 《连线》杂志看到了一些明显是孩子的女孩的照片。其他照片显示的是成年人,并有说明文字表明他们是女性朋友或女性陌生人。该网站的主页不会显示任何可能为未登录的访问者制作的虚假裸体图像。

想要创建和保存深度伪造裸体图像的人被要求使用加密货币钱包登录该网站。目前尚未列出定价,但在附属 YouTube 页面发布的 2022 年视频中,该网站允许用户购买积分来创建 Deepfake 裸体图像,起价为 5 个积分,价格为 5 美元。 《连线》杂志是通过 Reddit 子版块上关于 NFT 市场 OpenSea 的帖子了解到该网站的,该帖子链接到 YouTube 页面。 《连线》联系YouTube后,该平台表示已终止该频道; Reddit 告诉《连线》杂志,该用户已被禁止。

《连线》杂志没有透露该网站的身份,该网站仍然在线,以保护仍在其网站上的妇女和女孩。该网站的 IP 地址于 2022 年 2 月上线,属于互联网安全和基础设施提供商 Cloudflare。当被问及其参与时,公司发言人 Jackie Dutton 指出了提供网站 IP 地址(如 Cloudflare 所做的)与托管其内容(Cloudflare 不提供)之间的区别。

《连线》杂志向国家失踪和受虐儿童中心通报了该网站的存在,该中心帮助向执法部门报告剥削儿童案件。

OpenAIStability AI等人工智能开发商表示,他们的图像生成器用于商业和艺术用途,并设有防止有害内容的防护栏。但开源人工智能图像制作技术现在相对强大,制作色情内容最流行的用例之一。随着图像生成变得越来越容易,非自愿的裸体深度伪造图像(通常针对女性)的问题变得更加普遍和严重。本月早些时候,《连线》报道称,佛罗里达州两名青少年因涉嫌在未经同意的情况下制作和分享人工智能生成的中学同学的裸照而被捕,这似乎是此类案件中的首例。

乔治华盛顿大学法学院教授玛丽·安妮·弗兰克斯(Mary Anne Franks)研究了未经同意的露骨图像问题,她表示 Deepnude 网站凸显了一个严峻的现实:涉及人工智能在未经同意的情况下生成女性裸体图像的事件要多得多。目前公众所了解的未成年人。少数公开案例之所以被曝光,是因为图像在社区内共享,有人听说并发出警报。

“将会有各种各样的类似网站,无法追踪,大多数受害者都不知道这种情况发生在他们身上,直到有人碰巧为他们标记,”弗兰克斯说。

《连线》杂志审查的网站在两个不同的页面上提供了显然是用户提交的照片。一个标记为“主页”,另一个标记为“探索”。其中几张照片清楚地显示了18岁以下的女孩。

其中一张照片显示,一名头上插着一朵花的年轻女孩站在一棵树上。另一个女孩似乎在初中或高中的教室里。这张照片似乎是由一位同学谨慎拍摄的,标题为“色情”。

该网站上的另一张图片显示了一群似乎在上中学的青少年:一个男孩在似乎是学校体育馆的地方自拍,两个女孩微笑着摆姿势拍照。男孩的特征被 Snapchat 镜头遮挡,他的眼睛放大到遮住了他的脸。

显然上传的图像上的标题表明它们包括朋友、同学和浪漫伴侣的图像。一个标题写着“我的女朋友”,展示了一位年轻女子对着镜子自拍。

许多照片都是在 TikTok、Instagram 和其他社交媒体平台上受欢迎的影响者。其他照片似乎是人们分享日常生活图像的 Instagram 截图。一张照片显示,一位年轻女子微笑着享用甜点,上面放着庆祝蜡烛。

几张照片中的人似乎与拍照者完全陌生。一张从后面拍摄的照片描绘了一名妇女或女孩,她没有摆出姿势拍照,而只是站在似乎是旅游景点的地方。

《连线》杂志审查的一些图像经过裁剪,去掉了妇女和女孩的脸部,只显示她们的胸部或胯部。

在对该网站进行为期八天的监控期间,《连线》杂志发现主页上出现了五张新的女性照片,探索页面上则出现了三张。网站上列出的统计数据显示,这些图像中的大多数都积累了数百次“浏览量”。目前尚不清楚提交到该网站的所有图像是否都会进入“主页”或“探索”提要,也不清楚视图是如何制成表格的。主页上的每个帖子至少有几十个浏览量。

名人和拥有大量 Instagram 粉丝的人的照片位居网站上“观看次数最多”图像的榜首。该网站有史以来观看次数最多的人是演员 Jenna Ortega(观看次数超过 66,000 次)、歌手兼作曲家 Taylor Swift(观看次数超过 27,000 次),以及来自马来西亚的影响者和 DJ(观看次数超过 26,000 次)。

斯威夫特和奥尔特加之前曾成为深度伪造裸体的目标。一月份, 斯威夫特的假裸照在 X 上流传,引发了关于深度造假的影响以及为受害者提供更多法律保护的必要性的新讨论。本月,NBC 报道称,七个月来,Meta 一直在为 Deepnude 应用程序投放广告。该应用程序利用 Jenna Ortega 16 岁时的照片夸耀其“脱衣服”的能力。

在美国,没有联邦法律针对传播虚假的、未经同意的裸体图像。 少数州颁布了自己的法律。但 NCMEC 受剥削儿童部门执行主任 Jennifer Newman 表示,人工智能生成的未成年人裸体图像与其他儿童性虐待材料 (CSAM) 属于同一类别。

“如果它与活生生的受害者、真实儿童的图像无法区分,那么对我们来说,这就是儿童性虐待材料,”纽曼说。 “我们将像处理报告一样对待它,就像我们将这些报告交给执法部门一样。”

纽曼表示,2023 年,NCMEC 收到了大约 4,700 份报告,这些报告“以某种方式与生成人工智能技术有关”。

想要在网站上创建和保存 Deepfake 裸体图像的人被要求使用 Coinbase、 Metamask或 WalletConnect 加密货币钱包登录。 Coinbase 发言人 McKenna Otterstedt 表示,该公司正在对该网站与公司钱包的整合展开内部调查。 WalletConnect 和 ConsenSys 旗下的Metamask没有回应置评请求。

2022 年 11 月,deepnude 网站的 YouTube 频道发布了一段视频,声称用户可以使用 Visa 或 Mastercard“购买信用卡”。两家支付处理商均未回复《连线》杂志的置评请求。

在 NFT 市场 OpenSea 上,该网站列出了 2022 年的 30 个 NFT,其中包含不同 Instagram 和 TikTok 影响者未经编辑、未深度伪造的照片,而且全都是女性。在使用以太加密货币(按今天的汇率计算价值 280 美元)购买 NFT 后,所有者可以访问该网站,根据网络档案,该网站当时还处于早期阶段。 NFT 列表称,对于用户来说,“隐私是首要任务”。

NFT 根据女性的感知特征进行分类。这些类别包括胸部尺寸、国家(大多数女性来自马来西亚或台湾)和特征,标签包括“可爱”、“天真”和“慈母”。

该账户列出的 NFT 均未售出。 OpenSea 在《连线》联系该公司后 90 分钟内删除了该列表和帐户。 NFT 中出现的女性均未回应置评。

目前还不清楚谁或有多少人创建或拥有这个 deepnude 网站。现在已删除的 OpenSea 帐户的个人资料图片与“nerd”的第三个 Google 图片结果相同。该帐户简介称,创建者的口号是“揭露这个世界上的糟糕事情”,然后与“所有混蛋和可悲的兄弟”分享。

从 OpenSea 帐户链接的 X 帐户使用相同的个人简介,并且还链接到一个现在不活跃的关于“白帽、黑帽黑客”和“诈骗和赚钱”的博客。该帐户的所有者似乎是该博客的三位贡献者之一,他的绰号是“69 Fucker”。

该网站仅由一名用户在 Reddit 上推广,该用户的个人资料照片是一名看上去不到 50 岁的东亚裔男子。然而,该网站 2022 年 3 月的档案声称该网站“是由 9 个饥渴的女人创建的”技艺精湛的人。”大多数个人资料图片似乎都是库存照片,职位名称也都是滑稽的。其中三个是淫荡导演、恐怖跟踪者和战利品导演。

与该网站相关的电子邮件地址没有回复评论。

来源
免责声明:以上内容仅为作者观点,不代表Followin的任何立场,不构成与Followin相关的任何投资建议。
喜欢
9
收藏
1
评论