Instagram 上充斥著數百名人工智能生成的影響者，他們竊取真實模特和成人內容創作者的視頻，為他們配上人工智能生成的面孔，並通過鏈接到約會網站、Patreon、OnlyFans 競爭對手和各種人工智能應用程序來將他們的身體貨幣化。
該做法最早由 404 Media 於 4 月報道，此後迅速流行起來，表明 Instagram 無法或不願阻止人工智能生成內容在其平臺上大量湧現，並保護 Instagram 上的人類創作者，這些創作者表示，他們現在正在與人工智能內容競爭，這種競爭方式影響了他們謀生的能力。
根據我們對 1,000 多個 AI 生成的 Instagram 賬戶、製作這些內容的人分享技巧和討論策略的 Discord 頻道以及幾份解釋如何通過“AI 拉皮條”賺錢的指南的審查，現在使用各種現成的 AI 工具和應用程序創建這些賬戶並將其貨幣化變得非常容易。其中一些應用程序託管在 Apple App 和 Google Play 商店中。我們的調查顯示，曾經是平臺上的一個小眾問題已經大規模工業化，它展示了社交媒體在不久的將來可能會變成什麼樣子：一個 AI 生成內容超越人類的空間。
Elaina St James 是一位在 Instagram 上推廣自己作品的成人內容創作者，她說，她和其他成人內容創作者現在正在與這些人工智能盜版賬戶直接競爭，其中許多賬戶使用從成人內容創作者和 Instagram 模特那裡竊取的照片和視頻。她說，雖然 Instagram 算法的其他變化可能導致了這種情況，但自從 Instagram 上人工智能生成的網紅賬戶激增以來，她的“影響力大幅下降”，從每月典型的 100 萬到 500 萬次瀏覽量下降到過去 10 個月內未突破 100 萬次，有時瀏覽量不到 50 萬次。
“這可能是我收視率下降的原因之一，”聖詹姆斯在接受採訪時告訴我們。“因為我在與一些非自然的東西競爭。”
康奈爾科技大學安全、信任和安全計劃主任、前谷歌信任和安全情報負責人 Alexios Mantzarlis 編制了一份約 900 個賬戶的清單，404 Media 在調查中審查了這些賬戶。Mantzarlis 在隨意使用 Instagram 時偶然發現了其中一個賬戶，他說他開始研究人工智能生成的網紅賬戶，因為它可能會讓我們看到人工智能生成的內容將社交媒體和互聯網帶向何方，他看到了“一種日益嚴重的混合不現實”。Mantzarlis 認為他本可以輕鬆找到另外 900 個賬戶，他沒有找到更多賬戶的唯一原因是 Instagram 限制了他用來抓取平臺數據的賬戶。
“這似乎預示著社交媒體五年後的面貌，”曼扎里斯在接受採訪時表示。“因為這可能影響到互聯網的其他領域，而不僅僅是 Instagram 上的有魅力人物群體。這可能預示著情況會相當糟糕。”
在我們審查的 1,000 多個 AI 生成的 Instagram 網紅賬戶中，有 100 個賬戶至少包含一些深度偽造內容，這些內容取自現有視頻（通常來自模特和成人娛樂表演者），並用 AI 生成的臉部替換他們的臉部，使這些視頻看起來像新的原創內容，與 AI 生成的網紅分享的其他 AI 生成的圖像和視頻一致。另外 900 個賬戶分享的圖像，有些是基於真實照片訓練的，有些則看起來像名人，但完全是 AI 生成的，而不是經過編輯的照片或視頻。
在分享深度偽造或換臉視頻的 100 個賬戶中，有 60 個自稱是人工智能生成的，在個人簡介中寫道他們是“虛擬模特和網紅”或聲明“所有照片都是用人工智能和應用程序製作的”。另外 40 個沒有任何聲明說它們是由人工智能生成的。
後一類中較大的一個賬戶是“ Chloe Johnson ”，她在 Instagram 上有一個經過驗證的賬戶，擁有 171,000 名粉絲。該賬戶在過去幾周內被 Meta 刪除。
404 Media 閱讀器使用 Google Lens 在網上查找類似圖片，找到了約翰遜的 9 條 Instagram 帖子所基於的原始源視頻。這表明，運營約翰遜賬戶的人正在將人工智能網紅的臉換到真實女性的身上，包括模特 Tana Rain、Skyler Simpson 和 Kyla Yesenosky。其他視頻是從不出名且粉絲數量較少的 TikTok 和 Instagram 用戶（Ulia Nova、Annabella Sinclair）那裡竊取的。我們還看到換臉賬戶的視頻來源於泳裝時裝秀和蓋蒂的圖片和視頻網站 iStock。
約翰遜的 Instagram 鏈接到 Fanvue 上的一個帳戶，這個網站與 OnlyFans 非常相似，粉絲可以付費訪問創作者的帳戶。約翰遜說，在這裡，人們可以購買“按次付費的全裸照和性愛視頻”。我們審查的許多其他 AI 網紅帳戶也在 Fanvue 上將其內容貨幣化。約翰遜的 Instagram 還鏈接到另一個網站，在那裡可以以 3 至 22 美元的價格單獨購買裸照和硬核色情視頻。
與其他內容騙局一樣，這個行業充斥著試圖通過遵循由成功的 AI 網紅經營者出售的指南和教學課程來致富的人。404 Media 購買了兩本指南 - 一本是 PDF 說明手冊，名為《Instagram Mastery》，由 AI 網紅機構 Digital Divas 編寫，另一本名為《AI Influencer Accelerator》，由自稱 Professor EP 的人制作，他說他們運營著 Emily Pellegrini AI 網紅 Instagram 賬戶，該賬戶擁有 253,000 名粉絲。
EP 教授還是首屆“ Miss AI ”大賽的評委，該大賽由 Fanvue 聯合舉辦。1 月份，《每日郵報》將佩萊格里尼稱為“ 全球最火辣模特”。此後，艾米莉·佩萊格里尼 Instagram 賬戶的運營者不再以艾米莉·佩萊格里尼的名義發佈內容，而是以 EP 教授的名義發佈內容，宣傳他們所稱的“AI Pimping”的使用說明書。EP 教授聲稱自己在六個月內賺了 100 多萬美元。在運營艾米莉·佩萊格里尼賬戶並擔任 7 月份 Miss AI 大賽評委期間，他聲稱僅在 Fanvue 上就賺了 10 萬美元，Fanvue 似乎也認可了這一說法，並將其納入 Miss AI 網站上。
Fanvue 的一位代表告訴 404 Media：“是的，艾米莉在 Fanvue 上賺到了這筆收入。”它還補充道，“Fanvue 與 Instagram 上發佈的課程沒有任何關聯，也與艾米莉的團隊及其營銷決策沒有任何重大關聯。雖然艾米莉在 Fanvue 上仍然有一個活躍的賬戶，所有內容都經過驗證，目前符合該平臺的嚴格條款和條件，但使用率極低。這反映了她的團隊決定選擇不同的營銷策略，而 Fanvue 不支持這種策略。”
Fanvue 表示，它將從未來的 Miss AI 大賽中刪除 Emily Pellegrini 的照片，“作為下一屆獎項改革的一部分”。Fanvue 網站表示，它“不允許使用被盜或通過深度偽造創建的內容”，並表示它使用一種名為 Hive Moderation 的工具，並有一個“人工合規團隊對深度偽造內容進行手動系統檢查”。
Instagram 沒有回應關於這個故事的詳細問題列表，該公司刪除了我們提供的四個使用換臉技術竊取其他創作者作品的賬戶中的兩個。Instagram 表示，它將對違反其社區準則的人工智能生成內容採取行動，該準則規定用戶只能分享“自己拍攝的或有權分享的照片和視頻”，並允許用戶舉報其他冒充賬戶的行為。
Instagram 表示，只有版權所有者或授權代表他們舉報的人（如律師或代理人）舉報後，它才會對賬戶採取行動。St James 告訴我們，這一流程對她來說並不奏效，而且對創作者來說通常也不奏效，因為有太多的冒名賬戶需要追蹤，而且舉報此類賬戶可能會對成人內容創作者產生不利影響，導致 Instagram 封禁他們的合法賬戶。要找到從網紅那裡盜取視頻的情況也很困難，因為反向圖像搜索工具對視頻的搜索效果並不可靠，而像 Google Lens 這樣的工具也時好時壞。要找到被盜視頻，通常需要網紅或他們的粉絲能夠識別出他們身上不同的 AI 生成的面孔。
Digital Divas 的“Instagram Mastery”手冊售價 50 美元，融合了技術技巧和社會工程策略。
“大多數人工智能女孩搞砸的事情是，她們認為自己在從事色情行業。脫掉衣服，她們就會被金錢淹沒。這 100% 是錯誤的，”《數字女神》指南寫道。“你實際上在從事孤獨行業。社交媒體上有數億孤獨的男人，他們討厭孤獨，他們會做任何事情來讓這種感覺消失……你需要讓那些想看胸部的人不僅僅是想看胸部，還要讓他們想看你的胸部。這才是成功的真正途徑。”
Digital Divas 由三位人工智能網紅組成。其中一位名叫 Aika Kittie 的網紅告訴 404 Media，每個網紅都由不同的人運營，但拒絕透露這些賬戶的真正運營者是誰，只是說他們都在美國。“雖然我們強烈主張在人工智能身份的虛構性方面保持透明度，但我們也相信在幕後保持一點神秘感，”Aika 說。
Digital Divas 指南建議使用一系列在 AI 藝術創作者中廣為人知的現成工具。我們審查的幾個 AI 生成的帳戶似乎使用了一款名為 HelloFace 的應用程序，該應用程序直到最近才在 Apple App 和 Google Play 商店上架，並且正在推廣它。
這些工具分別用於創作過程的不同部分。我們看到的大多數指南都建議在Leonardo中生成人臉，然後在另一個 AI 工具中進行改進以“消除瑕疵”。然後可以使用 AI 生成應用程序製作圖像，並使用一系列換臉應用程序將 AI 人臉換到圖像上。
除了這一系列解釋如何將它們整合在一起以創建 AI 生成的影響者的工具和手冊之外，現在還有幾個網站可以作為創建和貨幣化 AI 生成的影響者的一站式商店，例如Glambase 、 SynthLife和Genfluence ，所有這些網站也都由 Instagram 上的 AI 生成的影響者推廣。
在一個致力於破解 AI 工具以生成成人或 NSFW 內容的 Discord 頻道中，一位名為 BabaYaga 的用戶分享了他使用各種免費在線服務（主要是 AI 圖像生成器 Krea）創建這些深度偽造賬戶的經歷。該用戶為同一位 AI 生成的網紅創建了 Instagram、TikTok 和 Twitter 賬戶，所有這些賬戶都鏈接到一個 Fanvue 賬戶，他在該賬戶上出售 AI 生成的網紅裸照。BabaYaga 還為這位 AI 生成的網紅創建了一個 OnlyFans 賬戶，但尚未在那裡發佈內容。
Discord 服務器的一名用戶在看到 BabaYaga 的 AI 生成網紅圖片後說道：“哇，這些圖片太棒了，你可以用這個來愚弄很多非自願獨身者，哈哈。”
“是的，我想要糖媽媽或糖爸爸 xD 哈哈，”BabaYaga 說。
BabaYaga 還在 Instagram 上分享了一條他聲稱發送給他的 AI 影響者賬戶的直接消息，其中一名粉絲稱讚了她的長相併提出“寵愛”她併為她支付房租。
“讓我們開始賺點錢吧，”BabaYaga 在 Discord 頻道上分享直接消息時說道。
OnlyFans 在一份聲明中告訴我們：“所有用戶，包括粉絲，都必須年滿 18 歲，並遵守我們的服務條款，該條款禁止發佈欺騙性或不當內容，包括未經額外披露（例如將內容標記為 #AI）而由人工智能生成或更改的內容。”在我們聯繫他們發表評論後，OnlyFans 還刪除了 BabaYaga 的人工智能生成的網紅賬戶。
聖詹姆斯告訴我們，許多人工智能生成的網紅賬戶都是由男性運營的，這真是雪上加霜。
“我們女性在世界上賺得更少。我們在很多方面都處於劣勢，”她說。“我們在世界上確實有優勢的一個領域是影響力和模特，所以這只是一個額外的層面。一個男人冒充女人賺錢，這讓我有點生氣。”
Digital Divas 的 Aika 說，在她們的經紀公司，“我們看起來並不真實，而且無論我們怎麼努力，也永遠都做不到。這讓我們更像是一個利基市場，就像成人娛樂的一種類型（比如變態或其他數字化媒體）。我認為關於性別的觀點更多的是一種假設。是的，做這種事情的男性更多，但也有女性在做。這就像男性和女性都可以畫變態一樣。提出其他觀點會讓人覺得性別歧視——雙方都應該能夠表達自己的性取向。”
EP 教授的“AI 網紅加速器”是一系列教學視頻和 PDF，售價 220 美元。在這些視頻中，EP 教授要麼是 AI 聲音，要麼是使用變聲器的人，並被擬人化為庫存影片中身穿西裝戴著銀色蓋伊·福克斯面具的人。EP 教授的課程首先指出了安德魯·泰特的“巨大的經濟成功”，他“投入了必要的工作來在互聯網上打造一個大品牌”，而不是“在十幾歲和二十幾歲的時候無所事事地浪費時間”。 （泰特最近一次被捕是在八月，罪名是性交易）。EP 教授說，泰特和 AI 網紅之間的必然結果是，AI 網紅可以獲得泰特級別的成功，而賬戶背後的人則“在暗處操作”，不露面。
“不幸的是，並不是每個人都能成為真正的網紅，”EP 教授說。“這僅僅是因為並不是每個人都具備建立個人品牌所需的身體素質、一致性和專業性，並將其擴大到每月賺取數百萬美元，而這正是人工智能發揮作用的地方。”
“我將揭露我是如何創造出世界上最知名的人工智能創造者艾米麗·佩萊格里尼的。我將向你們展示我如何在不到六個月的時間內賺到 100 多萬美元，讓數百萬人知道她的面容，同時把我的真實身份隱藏在面具後面，”他說。
EP 教授告訴學生，人工智能模型沒有人類網紅的侷限性，因為人類網紅需要睡覺、吃飯、旅行和花錢。“通過推出一個又一個人工智能模型，你可以建立一支可供你使用的人工智能網紅陣容，每個網紅都能全天候製作個性化內容，”他說。“人工智能模型沒有人類遇到的問題。”
該指南還包括設置 Fanvue 帳戶和與“孤獨的人”發送消息的技巧。
“讓他們熱身很重要。進行一些閒聊來建立你和用戶之間的聯繫，”他說。“從一個不令人反感的價格開始。這可能是一張售價 6 美元的內衣照片，如果他買了並且喜歡它，你可以進一步結合照片增加聊天的強度……繼續發佈一張售價 14.90 美元的胸部照片。在此基礎上發佈一張售價 26 至 30 美元的裸體全身照片。繼續發佈一張售價 35 美元的腿部伸展裸照。最後發佈一張售價 80 美元的內容，比如自慰、視頻、性愛錄像ETC。最重要的是你和粉絲之間的聯繫，而不是賺快錢的意圖。”
Emily Pellegrini 賬戶的部分內容是通過 Instagram 上的深度偽造視頻建立的，在最近的指南更新中，EP 教授具體教人們如何使用其他人的視頻進行深度偽造換臉。
視頻中的說明寫道：“未經許可從其他賬戶交換內容似乎對許多 AI 影響者來說效果很好。”“雖然我不推薦這樣做 ;)……你也可以使用該軟件來交換裸體視頻。我不建議你將軟件用於此目的，我只是展示了什麼是可能的。請隨意使用這些信息。在本模塊結束時，你將更好地瞭解如何使用換臉技術製作視頻。”
Digital Divas 在其 Discord 中表示，它是一個“反深度偽造服務器”，“名人深度偽造和內容盜竊是不被認可的”，並且“請不要使用你的同齡人”作為換臉的源圖像。
“我們能做的最好的事情就是公開批評深度偽造內容，我們中的很多人已經這樣做了，”Aika 告訴 404 Media。“我不得不不時與新成員進行艱難的對話，但這種情況發生了。我們希望在道德的人工智能內容和不道德的深度偽造之間劃清界限。”
相反，Digital Divas 建議從其他有影響力的人發佈的圖片中尋找靈感，然後生成類似但具有變革性的圖像：
與此同時，EP 教授告訴學生思考“你最喜歡的名人是誰？”，然後嘗試創造由不同真實人物混合而成的混合影響者：“例如，如果你喜歡 Ariana Grande 的眼睛和 Kylie Jenner 的嘴唇，你可以在提示中包含這些規範，從而創建一個結合這些屬性的圖像。”
在一份補充 PDF 中，他解釋瞭如何打造一個兼具麥迪遜·比爾和愛莉安娜·格蘭德風格的 AI 影響者。然後，他要求 ChatGPT 為該模型創建完整的角色、背景和個性，並使用以下示例：“夢想中的汽車：法拉利 488。最喜歡的品牌：香奈兒。胸圍：34C。父母：母親：索菲亞·拉萬特（時裝設計師），父親：亞歷山德羅·拉萬特（建築師）。人生目標和抱負：推出自己的時裝系列並推廣可持續時尚。”
EP 教授建議人們先使用 Leonardo 來生成人臉，然後再使用另一種工具來“消除瑕疵”，例如“眼睛模糊、牙齒不齊、嘴角下垂”。它建議使用一款特定的 iPhone 應用，該應用允許創建 NSFW 內容，並且具有圖像到圖像功能。
EP 教授的指南隨後推薦了幾款換臉應用，包括一款名為 InsightFace 的大型 Discord 插件（目前已在 965,000 臺不同的服務器上使用），用於將 Leonardo 生成的網紅臉部放到另一款允許 NSFW 內容的應用生成的身體上。EP 教授建議為自己創建一個私人 Discord 服務器，然後將 InsightFace 直接添加到其中，這或許可以解釋為什麼它安裝在如此多的服務器上。這也意味著可以在 Discord 上私下進行換臉。
另一款推薦的應用程序 HelloFace 充滿了真實女性身穿比基尼跳舞的視頻，或者帶有“性感”等標籤的視頻，這些視頻都是現成的，可供人們交換臉部。該應用程序的 Discord 舉辦了主題周，以尋找最佳換臉和生成女性圖像和視頻。主題周包括“乳膠時尚”、“兔女郎”和“邁阿密的夏天”。
Discord 管理員發佈的一條消息寫道：“夏天快到了，是時候展示你整個冬天都在等待的比基尼了！無論你是去海灘還是去泳池邊，你都需要拍攝火辣的照片，這就是我們今天為你準備的！”Discord 管理員發佈的一條消息寫道。Discord 還有一個名為“#sharing-is-caring”的房間，裡面全是人們對女性舞蹈視頻進行的換臉。
到目前為止，蘋果仍未能解決換臉應用的“ 雙重用途”問題。這些應用可以無辜地使用，但經常被用來創建非自願的內容。在我們聯繫蘋果徵求意見後，蘋果已將 HelloFace 從 App Store 中移除。蘋果引用了《App Store 審核指南》 ，其中規定“應用不應包含冒犯性、麻木不仁、令人不安、意圖令人厭惡、品味極低或純粹令人毛骨悚然的內容。”該指南還規定： “第三方網站/服務：如果您的應用使用、訪問、通過訪問第三方服務獲利或顯示第三方服務的內容，請確保您已獲得該服務的使用條款的明確允許。必須在請求時提供授權。”
谷歌沒有回應置評請求，但 HelloFace 已無法從 Google Play 下載。
最後，EP 教授建議人們儘可能多地創建 AI 模型：“這並不難。創建新面孔、新內容、新賬戶設置，然後一遍又一遍地重複這個過程。聘請聊天團隊將賬戶貨幣化，設置流程和工作流以自動創建和上傳內容，最終聘請人員為您完成這一切。”
EP 教授和 Emily Pellegrini 推廣了一家名為 Calu 的人工智能“機構”，該機構為 OnlyFans 模特提供人工智能聊天機器人服務以及人工智能模型創建和管理。要了解這個行業到底有多大、它是如何運作的以及誰在創造這些網紅，最困難的部分之一是，多個“網紅”是由個人運營的，而這些人本身在互聯網上匿名運營。
EP 教授沒有回應置評請求。Calu 網站上列出的電話號碼已停機。
聖詹姆斯認為，大量人工智能生成的內容都是從成人內容創作者那裡竊取而來，這並非巧合，而是 Instagram 多年來在其平臺上邊緣化成人內容創作者、性工作者和性教育者的政策的直接結果。
與 Instagram 上其他名人和擁有大量粉絲的人不同，他們必須應對模仿者，大多數成人內容創作者和性工作者使用藝名和假名來保護自己免受跟蹤者或妖魔化其職業的人的迫害。除非他們提供真實姓名的身份證明，否則 Instagram 拒絕驗證他們的身份，成人創作者擔心這些信息會洩露給公眾，導致被人肉搜索和騷擾。
多年來，成人內容創作者和性工作者已經開發出多種方法來應對 Instagram 針對任何色情內容的嚴厲政策。在生成式人工智能時代，這些策略可能會讓用戶更難分辨哪些賬戶是真實的，哪些賬戶是在竊取和轉發內容。
由於 Instagram 經常在未經警告的情況下封禁性工作者，即使他們遵守 Instagram 針對色情內容的所有嚴格規定，成人內容創作者現在也經常擁有多個帳戶，通常稱為“備用帳戶”，這些帳戶在個人資料中相互關聯。這樣做的目的是鼓勵主帳戶上的受眾關注不活躍的備用帳戶；如果 Instagram 封禁主帳戶，他們可以快速與受眾重新建立聯繫，而不必從頭開始重建他們的關注者。
這種策略的副作用是，性工作者通常擁有多個合法賬戶，用戶名略有不同，但均未經過驗證，這使得她們很容易成為內容盜竊和模仿的目標。
我們審查的兩份 AI 影響者指南還談到了如何避免在 Instagram 上被封號。“使用非現實的個人簡介圖片，避免在個人簡介中包含虛假位置信息，以減少因身份不真實而被封號的可能性，”Digital Divas 指南說。“如果你的照片是卡通風格，而且你是一名數字創作者，那麼不太可能被認為是虛假的。”
與此同時，EP 教授建議人們為每位網紅使用單獨的電子郵件帳戶，並確保該帳戶“乾淨”，不會與操作該帳戶的人或他們的任何其他帳戶相關聯。“假設你的一個帳戶被封禁。擁有單獨的電子郵件地址可以消除 Instagram 將被封禁的帳戶與你的其他帳戶聯繫起來的風險，”EP 教授在指南中說道。
“使用視覺上吸引人但又不太挑逗的圖片可以避免賬戶被封禁。我們建議您遵守以下標準：可見的臉部、業餘風格”和“為了從一開始就防止被暗中封禁，您應該在前八週內讓賬戶熱身”，每天登錄並評論其他人的圖片以展示“人類活動”，EP 教授的指南說道。
聖詹姆斯表示，即使舉報那些她知道在竊取她資金的賬戶也是有風險的，可能會使她的合法賬戶面臨風險。
“每當我們作為創作者舉報這些假冒商品時，我們往往會遇到麻煩，”她說。“Instagram 似乎在說，‘哦，你在告發這個冒名頂替者？讓我們仔細看看你的賬戶，看看能不能發現問題。’所以很多時候我們甚至不會舉報它們。有時我們會付費讓服務商舉報假冒商品，但這就像玩打地鼠遊戲。永無止境。”
康奈爾科技大學安全、信任和安全計劃主任 Mantzarlis 和 St James 一致認為，目前尚不清楚 Instagram 是否有辦法刪除或將這些賬戶標記為人工智能生成的，但該公司目前沒有采取任何行動，這一事實似乎對其有利。
“人們點擊、點贊並與這些賬戶互動，其中一些互動是真實的，一些則不是，”曼薩利斯說。“Instagram 可以將其作為流量出售。它可以針對此出售廣告。那麼，未來是否會有真正的人類賬戶幾乎成為 Instagram 上一小部分精英？我認為是的。”
“如果他們突然擺脫所有機器人、死賬戶、虛假賬戶和冒名賬戶，他們的廣告會怎麼樣？”聖詹姆斯說。
