Instagram 上充斥着数百名人工智能生成的影响者，他们窃取真实模特和成人内容创作者的视频，为他们配上人工智能生成的面孔，并通过链接到约会网站、Patreon、OnlyFans 竞争对手和各种人工智能应用程序来将他们的身体货币化。
该做法最早由 404 Media 于 4 月报道，此后迅速流行起来，表明 Instagram 无法或不愿阻止人工智能生成内容在其平台上大量涌现，并保护 Instagram 上的人类创作者，这些创作者表示，他们现在正在与人工智能内容竞争，这种竞争方式影响了他们谋生的能力。
根据我们对 1,000 多个 AI 生成的 Instagram 账户、制作这些内容的人分享技巧和讨论策略的 Discord 频道以及几份解释如何通过“AI 拉皮条”赚钱的指南的审查，现在使用各种现成的 AI 工具和应用程序创建这些账户并将其货币化变得非常容易。其中一些应用程序托管在 Apple App 和 Google Play 商店中。我们的调查显示，曾经是平台上的一个小众问题已经大规模工业化，它展示了社交媒体在不久的将来可能会变成什么样子：一个 AI 生成内容超越人类的空间。
Elaina St James 是一位在 Instagram 上推广自己作品的成人内容创作者，她说，她和其他成人内容创作者现在正在与这些人工智能盗版账户直接竞争，其中许多账户使用从成人内容创作者和 Instagram 模特那里窃取的照片和视频。她说，虽然 Instagram 算法的其他变化可能导致了这种情况，但自从 Instagram 上人工智能生成的网红账户激增以来，她的“影响力大幅下降”，从每月典型的 100 万到 500 万次浏览量下降到过去 10 个月内未突破 100 万次，有时浏览量不到 50 万次。
“这可能是我收视率下降的原因之一，”圣詹姆斯在接受采访时告诉我们。“因为我在与一些非自然的东西竞争。”
康奈尔科技大学安全、信任和安全计划主任、前谷歌信任和安全情报负责人 Alexios Mantzarlis 编制了一份约 900 个账户的清单，404 Media 在调查中审查了这些账户。Mantzarlis 在随意使用 Instagram 时偶然发现了其中一个账户，他说他开始研究人工智能生成的网红账户，因为它可能会让我们看到人工智能生成的内容将社交媒体和互联网带向何方，他看到了“一种日益严重的混合不现实”。Mantzarlis 认为他本可以轻松找到另外 900 个账户，他没有找到更多账户的唯一原因是 Instagram 限制了他用来抓取平台数据的账户。
“这似乎预示着社交媒体五年后的面貌，”曼扎里斯在接受采访时表示。“因为这可能影响到互联网的其他领域，而不仅仅是 Instagram 上的有魅力人物群体。这可能预示着情况会相当糟糕。”
在我们审查的 1,000 多个 AI 生成的 Instagram 网红账户中，有 100 个账户至少包含一些深度伪造内容，这些内容取自现有视频（通常来自模特和成人娱乐表演者），并用 AI 生成的脸部替换他们的脸部，使这些视频看起来像新的原创内容，与 AI 生成的网红分享的其他 AI 生成的图像和视频一致。另外 900 个账户分享的图像，有些是基于真实照片训练的，有些则看起来像名人，但完全是 AI 生成的，而不是经过编辑的照片或视频。
在分享深度伪造或换脸视频的 100 个账户中，有 60 个自称是人工智能生成的，在个人简介中写道他们是“虚拟模特和网红”或声明“所有照片都是用人工智能和应用程序制作的”。另外 40 个没有任何声明说它们是由人工智能生成的。
后一类中较大的一个账户是“ Chloe Johnson ”，她在 Instagram 上有一个经过验证的账户，拥有 171,000 名粉丝。该账户在过去几周内被 Meta 删除。
404 Media 阅读器使用 Google Lens 在网上查找类似图片，找到了约翰逊的 9 条 Instagram 帖子所基于的原始源视频。这表明，运营约翰逊账户的人正在将人工智能网红的脸换到真实女性的身上，包括模特 Tana Rain、Skyler Simpson 和 Kyla Yesenosky。其他视频是从不出名且粉丝数量较少的 TikTok 和 Instagram 用户（Ulia Nova、Annabella Sinclair）那里窃取的。我们还看到换脸账户的视频来源于泳装时装秀和盖蒂的图片和视频网站 iStock。
约翰逊的 Instagram 链接到 Fanvue 上的一个帐户，这个网站与 OnlyFans 非常相似，粉丝可以付费访问创作者的帐户。约翰逊说，在这里，人们可以购买“按次付费的全裸照和性爱视频”。我们审查的许多其他 AI 网红帐户也在 Fanvue 上将其内容货币化。约翰逊的 Instagram 还链接到另一个网站，在那里可以以 3 至 22 美元的价格单独购买裸照和硬核色情视频。
与其他内容骗局一样，这个行业充斥着试图通过遵循由成功的 AI 网红经营者出售的指南和教学课程来致富的人。404 Media 购买了两本指南 - 一本是 PDF 说明手册，名为《Instagram Mastery》，由 AI 网红机构 Digital Divas 编写，另一本名为《AI Influencer Accelerator》，由自称 Professor EP 的人制作，他说他们运营着 Emily Pellegrini AI 网红 Instagram 账户，该账户拥有 253,000 名粉丝。
EP 教授还是首届“ Miss AI ”大赛的评委，该大赛由 Fanvue 联合举办。1 月份，《每日邮报》将佩莱格里尼称为“ 全球最火辣模特”。此后，艾米莉·佩莱格里尼 Instagram 账户的运营者不再以艾米莉·佩莱格里尼的名义发布内容，而是以 EP 教授的名义发布内容，宣传他们所称的“AI Pimping”的使用说明书。EP 教授声称自己在六个月内赚了 100 多万美元。在运营艾米莉·佩莱格里尼账户并担任 7 月份 Miss AI 大赛评委期间，他声称仅在 Fanvue 上就赚了 10 万美元，Fanvue 似乎也认可了这一说法，并将其纳入 Miss AI 网站上。
Fanvue 的一位代表告诉 404 Media：“是的，艾米莉在 Fanvue 上赚到了这笔收入。”它还补充道，“Fanvue 与 Instagram 上发布的课程没有任何关联，也与艾米莉的团队及其营销决策没有任何重大关联。虽然艾米莉在 Fanvue 上仍然有一个活跃的账户，所有内容都经过验证，目前符合该平台的严格条款和条件，但使用率极低。这反映了她的团队决定选择不同的营销策略，而 Fanvue 不支持这种策略。”
Fanvue 表示，它将从未来的 Miss AI 大赛中删除 Emily Pellegrini 的照片，“作为下一届奖项改革的一部分”。Fanvue 网站表示，它“不允许使用被盗或通过深度伪造创建的内容”，并表示它使用一种名为 Hive Moderation 的工具，并有一个“人工合规团队对深度伪造内容进行手动系统检查”。
Instagram 没有回应关于这个故事的详细问题列表，该公司删除了我们提供的四个使用换脸技术窃取其他创作者作品的账户中的两个。Instagram 表示，它将对违反其社区准则的人工智能生成内容采取行动，该准则规定用户只能分享“自己拍摄的或有权分享的照片和视频”，并允许用户举报其他冒充账户的行为。
Instagram 表示，只有版权所有者或授权代表他们举报的人（如律师或代理人）举报后，它才会对账户采取行动。St James 告诉我们，这一流程对她来说并不奏效，而且对创作者来说通常也不奏效，因为有太多的冒名账户需要追踪，而且举报此类账户可能会对成人内容创作者产生不利影响，导致 Instagram 封禁他们的合法账户。要找到从网红那里盗取视频的情况也很困难，因为反向图像搜索工具对视频的搜索效果并不可靠，而像 Google Lens 这样的工具也时好时坏。要找到被盗视频，通常需要网红或他们的粉丝能够识别出他们身上不同的 AI 生成的面孔。
Digital Divas 的“Instagram Mastery”手册售价 50 美元，融合了技术技巧和社会工程策略。
“大多数人工智能女孩搞砸的事情是，她们认为自己在从事色情行业。脱掉衣服，她们就会被金钱淹没。这 100% 是错误的，”《数字女神》指南写道。“你实际上在从事孤独行业。社交媒体上有数亿孤独的男人，他们讨厌孤独，他们会做任何事情来让这种感觉消失……你需要让那些想看胸部的人不仅仅是想看胸部，还要让他们想看你的胸部。这才是成功的真正途径。”
Digital Divas 由三位人工智能网红组成。其中一位名叫 Aika Kittie 的网红告诉 404 Media，每个网红都由不同的人运营，但拒绝透露这些账户的真正运营者是谁，只是说他们都在美国。“虽然我们强烈主张在人工智能身份的虚构性方面保持透明度，但我们也相信在幕后保持一点神秘感，”Aika 说。
Digital Divas 指南建议使用一系列在 AI 艺术创作者中广为人知的现成工具。我们审查的几个 AI 生成的帐户似乎使用了一款名为 HelloFace 的应用程序，该应用程序直到最近才在 Apple App 和 Google Play 商店上架，并且正在推广它。
这些工具分别用于创作过程的不同部分。我们看到的大多数指南都建议在Leonardo中生成人脸，然后在另一个 AI 工具中进行改进以“消除瑕疵”。然后可以使用 AI 生成应用程序制作图像，并使用一系列换脸应用程序将 AI 人脸换到图像上。
除了这一系列解释如何将它们整合在一起以创建 AI 生成的影响者的工具和手册之外，现在还有几个网站可以作为创建和货币化 AI 生成的影响者的一站式商店，例如Glambase 、 SynthLife和Genfluence ，所有这些网站也都由 Instagram 上的 AI 生成的影响者推广。
在一个致力于破解 AI 工具以生成成人或 NSFW 内容的 Discord 频道中，一位名为 BabaYaga 的用户分享了他使用各种免费在线服务（主要是 AI 图像生成器 Krea）创建这些深度伪造账户的经历。该用户为同一位 AI 生成的网红创建了 Instagram、TikTok 和 Twitter 账户，所有这些账户都链接到一个 Fanvue 账户，他在该账户上出售 AI 生成的网红裸照。BabaYaga 还为这位 AI 生成的网红创建了一个 OnlyFans 账户，但尚未在那里发布内容。
Discord 服务器的一名用户在看到 BabaYaga 的 AI 生成网红图片后说道：“哇，这些图片太棒了，你可以用这个来愚弄很多非自愿独身者，哈哈。”
“是的，我想要糖妈妈或糖爸爸 xD 哈哈，”BabaYaga 说。
BabaYaga 还在 Instagram 上分享了一条他声称发送给他的 AI 影响者账户的直接消息，其中一名粉丝称赞了她的长相并提出“宠爱”她并为她支付房租。
“让我们开始赚点钱吧，”BabaYaga 在 Discord 频道上分享直接消息时说道。
OnlyFans 在一份声明中告诉我们：“所有用户，包括粉丝，都必须年满 18 岁，并遵守我们的服务条款，该条款禁止发布欺骗性或不当内容，包括未经额外披露（例如将内容标记为 #AI）而由人工智能生成或更改的内容。”在我们联系他们发表评论后，OnlyFans 还删除了 BabaYaga 的人工智能生成的网红账户。
圣詹姆斯告诉我们，许多人工智能生成的网红账户都是由男性运营的，这真是雪上加霜。
“我们女性在世界上赚得更少。我们在很多方面都处于劣势，”她说。“我们在世界上确实有优势的一个领域是影响力和模特，所以这只是一个额外的层面。一个男人冒充女人赚钱，这让我有点生气。”
Digital Divas 的 Aika 说，在她们的经纪公司，“我们看起来并不真实，而且无论我们怎么努力，也永远都做不到。这让我们更像是一个利基市场，就像成人娱乐的一种类型（比如变态或其他数字化媒体）。我认为关于性别的观点更多的是一种假设。是的，做这种事情的男性更多，但也有女性在做。这就像男性和女性都可以画变态一样。提出其他观点会让人觉得性别歧视——双方都应该能够表达自己的性取向。”
EP 教授的“AI 网红加速器”是一系列教学视频和 PDF，售价 220 美元。在这些视频中，EP 教授要么是 AI 声音，要么是使用变声器的人，并被拟人化为库存影片中身穿西装戴着银色盖伊·福克斯面具的人。EP 教授的课程首先指出了安德鲁·泰特的“巨大的经济成功”，他“投入了必要的工作来在互联网上打造一个大品牌”，而不是“在十几岁和二十几岁的时候无所事事地浪费时间”。 （泰特最近一次被捕是在八月，罪名是性交易）。EP 教授说，泰特和 AI 网红之间的必然结果是，AI 网红可以获得泰特级别的成功，而账户背后的人则“在暗处操作”，不露面。
“不幸的是，并不是每个人都能成为真正的网红，”EP 教授说。“这仅仅是因为并不是每个人都具备建立个人品牌所需的身体素质、一致性和专业性，并将其扩大到每月赚取数百万美元，而这正是人工智能发挥作用的地方。”
“我将揭露我是如何创造出世界上最知名的人工智能创造者艾米丽·佩莱格里尼的。我将向你们展示我如何在不到六个月的时间内赚到 100 多万美元，让数百万人知道她的面容，同时把我的真实身份隐藏在面具后面，”他说。
EP 教授告诉学生，人工智能模型没有人类网红的局限性，因为人类网红需要睡觉、吃饭、旅行和花钱。“通过推出一个又一个人工智能模型，你可以建立一支可供你使用的人工智能网红阵容，每个网红都能全天候制作个性化内容，”他说。“人工智能模型没有人类遇到的问题。”
该指南还包括设置 Fanvue 帐户和与“孤独的人”发送消息的技巧。
“让他们热身很重要。进行一些闲聊来建立你和用户之间的联系，”他说。“从一个不令人反感的价格开始。这可能是一张售价 6 美元的内衣照片，如果他买了并且喜欢它，你可以进一步结合照片增加聊天的强度……继续发布一张售价 14.90 美元的胸部照片。在此基础上发布一张售价 26 至 30 美元的裸体全身照片。继续发布一张售价 35 美元的腿部伸展裸照。最后发布一张售价 80 美元的内容，比如自慰、视频、性爱录像ETC。最重要的是你和粉丝之间的联系，而不是赚快钱的意图。”
Emily Pellegrini 账户的部分内容是通过 Instagram 上的深度伪造视频建立的，在最近的指南更新中，EP 教授具体教人们如何使用其他人的视频进行深度伪造换脸。
视频中的说明写道：“未经许可从其他账户交换内容似乎对许多 AI 影响者来说效果很好。”“虽然我不推荐这样做 ;)……你也可以使用该软件来交换裸体视频。我不建议你将软件用于此目的，我只是展示了什么是可能的。请随意使用这些信息。在本模块结束时，你将更好地了解如何使用换脸技术制作视频。”
Digital Divas 在其 Discord 中表示，它是一个“反深度伪造服务器”，“名人深度伪造和内容盗窃是不被认可的”，并且“请不要使用你的同龄人”作为换脸的源图像。
“我们能做的最好的事情就是公开批评深度伪造内容，我们中的很多人已经这样做了，”Aika 告诉 404 Media。“我不得不不时与新成员进行艰难的对话，但这种情况发生了。我们希望在道德的人工智能内容和不道德的深度伪造之间划清界限。”
相反，Digital Divas 建议从其他有影响力的人发布的图片中寻找灵感，然后生成类似但具有变革性的图像：
与此同时，EP 教授告诉学生思考“你最喜欢的名人是谁？”，然后尝试创造由不同真实人物混合而成的混合影响者：“例如，如果你喜欢 Ariana Grande 的眼睛和 Kylie Jenner 的嘴唇，你可以在提示中包含这些规范，从而创建一个结合这些属性的图像。”
在一份补充 PDF 中，他解释了如何打造一个兼具麦迪逊·比尔和爱莉安娜·格兰德风格的 AI 影响者。然后，他要求 ChatGPT 为该模型创建完整的角色、背景和个性，并使用以下示例：“梦想中的汽车：法拉利 488。最喜欢的品牌：香奈儿。胸围：34C。父母：母亲：索菲亚·拉万特（时装设计师），父亲：亚历山德罗·拉万特（建筑师）。人生目标和抱负：推出自己的时装系列并推广可持续时尚。”
EP 教授建议人们先使用 Leonardo 来生成人脸，然后再使用另一种工具来“消除瑕疵”，例如“眼睛模糊、牙齿不齐、嘴角下垂”。它建议使用一款特定的 iPhone 应用，该应用允许创建 NSFW 内容，并且具有图像到图像功能。
EP 教授的指南随后推荐了几款换脸应用，包括一款名为 InsightFace 的大型 Discord 插件（目前已在 965,000 台不同的服务器上使用），用于将 Leonardo 生成的网红脸部放到另一款允许 NSFW 内容的应用生成的身体上。EP 教授建议为自己创建一个私人 Discord 服务器，然后将 InsightFace 直接添加到其中，这或许可以解释为什么它安装在如此多的服务器上。这也意味着可以在 Discord 上私下进行换脸。
另一款推荐的应用程序 HelloFace 充满了真实女性身穿比基尼跳舞的视频，或者带有“性感”等标签的视频，这些视频都是现成的，可供人们交换脸部。该应用程序的 Discord 举办了主题周，以寻找最佳换脸和生成女性图像和视频。主题周包括“乳胶时尚”、“兔女郎”和“迈阿密的夏天”。
Discord 管理员发布的一条消息写道：“夏天快到了，是时候展示你整个冬天都在等待的比基尼了！无论你是去海滩还是去泳池边，你都需要拍摄火辣的照片，这就是我们今天为你准备的！”Discord 管理员发布的一条消息写道。Discord 还有一个名为“#sharing-is-caring”的房间，里面全是人们对女性舞蹈视频进行的换脸。
到目前为止，苹果仍未能解决换脸应用的“ 双重用途”问题。这些应用可以无辜地使用，但经常被用来创建非自愿的内容。在我们联系苹果征求意见后，苹果已将 HelloFace 从 App Store 中移除。苹果引用了《App Store 审核指南》 ，其中规定“应用不应包含冒犯性、麻木不仁、令人不安、意图令人厌恶、品味极低或纯粹令人毛骨悚然的内容。”该指南还规定： “第三方网站/服务：如果您的应用使用、访问、通过访问第三方服务获利或显示第三方服务的内容，请确保您已获得该服务的使用条款的明确允许。必须在请求时提供授权。”
谷歌没有回应置评请求，但 HelloFace 已无法从 Google Play 下载。
最后，EP 教授建议人们尽可能多地创建 AI 模型：“这并不难。创建新面孔、新内容、新账户设置，然后一遍又一遍地重复这个过程。聘请聊天团队将账户货币化，设置流程和工作流以自动创建和上传内容，最终聘请人员为您完成这一切。”
EP 教授和 Emily Pellegrini 推广了一家名为 Calu 的人工智能“机构”，该机构为 OnlyFans 模特提供人工智能聊天机器人服务以及人工智能模型创建和管理。要了解这个行业到底有多大、它是如何运作的以及谁在创造这些网红，最困难的部分之一是，多个“网红”是由个人运营的，而这些人本身在互联网上匿名运营。
EP 教授没有回应置评请求。Calu 网站上列出的电话号码已停机。
圣詹姆斯认为，大量人工智能生成的内容都是从成人内容创作者那里窃取而来，这并非巧合，而是 Instagram 多年来在其平台上边缘化成人内容创作者、性工作者和性教育者的政策的直接结果。
与 Instagram 上其他名人和拥有大量粉丝的人不同，他们必须应对模仿者，大多数成人内容创作者和性工作者使用艺名和假名来保护自己免受跟踪者或妖魔化其职业的人的迫害。除非他们提供真实姓名的身份证明，否则 Instagram 拒绝验证他们的身份，成人创作者担心这些信息会泄露给公众，导致被人肉搜索和骚扰。
多年来，成人内容创作者和性工作者已经开发出多种方法来应对 Instagram 针对任何色情内容的严厉政策。在生成式人工智能时代，这些策略可能会让用户更难分辨哪些账户是真实的，哪些账户是在窃取和转发内容。
由于 Instagram 经常在未经警告的情况下封禁性工作者，即使他们遵守 Instagram 针对色情内容的所有严格规定，成人内容创作者现在也经常拥有多个帐户，通常称为“备用帐户”，这些帐户在个人资料中相互关联。这样做的目的是鼓励主帐户上的受众关注不活跃的备用帐户；如果 Instagram 封禁主帐户，他们可以快速与受众重新建立联系，而不必从头开始重建他们的关注者。
这种策略的副作用是，性工作者通常拥有多个合法账户，用户名略有不同，但均未经过验证，这使得她们很容易成为内容盗窃和模仿的目标。
我们审查的两份 AI 影响者指南还谈到了如何避免在 Instagram 上被封号。“使用非现实的个人简介图片，避免在个人简介中包含虚假位置信息，以减少因身份不真实而被封号的可能性，”Digital Divas 指南说。“如果你的照片是卡通风格，而且你是一名数字创作者，那么不太可能被认为是虚假的。”
与此同时，EP 教授建议人们为每位网红使用单独的电子邮件帐户，并确保该帐户“干净”，不会与操作该帐户的人或他们的任何其他帐户相关联。“假设你的一个帐户被封禁。拥有单独的电子邮件地址可以消除 Instagram 将被封禁的帐户与你的其他帐户联系起来的风险，”EP 教授在指南中说道。
“使用视觉上吸引人但又不太挑逗的图片可以避免账户被封禁。我们建议您遵守以下标准：可见的脸部、业余风格”和“为了从一开始就防止被暗中封禁，您应该在前八周内让账户热身”，每天登录并评论其他人的图片以展示“人类活动”，EP 教授的指南说道。
圣詹姆斯表示，即使举报那些她知道在窃取她资金的账户也是有风险的，可能会使她的合法账户面临风险。
“每当我们作为创作者举报这些假冒商品时，我们往往会遇到麻烦，”她说。“Instagram 似乎在说，‘哦，你在告发这个冒名顶替者？让我们仔细看看你的账户，看看能不能发现问题。’所以很多时候我们甚至不会举报它们。有时我们会付费让服务商举报假冒商品，但这就像玩打地鼠游戏。永无止境。”
康奈尔科技大学安全、信任和安全计划主任 Mantzarlis 和 St James 一致认为，目前尚不清楚 Instagram 是否有办法删除或将这些账户标记为人工智能生成的，但该公司目前没有采取任何行动，这一事实似乎对其有利。
“人们点击、点赞并与这些账户互动，其中一些互动是真实的，一些则不是，”曼萨利斯说。“Instagram 可以将其作为流量出售。它可以针对此出售广告。那么，未来是否会有真正的人类账户几乎成为 Instagram 上一小部分精英？我认为是的。”
“如果他们突然摆脱所有机器人、死账户、虚假账户和冒名账户，他们的广告会怎么样？”圣詹姆斯说。
