Meta 的在線廣告庫顯示，該公司在 Facebook、Instagram 和 Messenger 上投放了數千條 AI 生成的 NSFW 伴侶或“女友”應用廣告。他們使用 NSFW 聊天樣本和 AI 拍攝的半裸、體型令人難以置信的模擬女性圖像，推廣提供色情圖片和文字的聊天機器人。
《連線》雜誌評論的廣告中出現的許多虛擬女性都栩栩如生，雖然有些怪異，但都很年輕，而且帶有典型的色情意味。潛在客戶被邀請與人工智能“繼母”進行角色扮演，與電腦生成的頭戴頭巾的青少年交流，或與承諾“一分鐘內讓你高潮”的虛擬形象聊天。
儘管 Meta 的廣告政策明確禁止“成人內容”，包括“描繪人物的露骨或挑逗性姿勢，或過度暗示或性挑逗的活動”，但這些廣告似乎仍蓬勃發展。
這為人工智能與傳統勞動力之間的衝突帶來了新的爭論。一些人類性工作者抱怨 Meta 讓聊天機器人大量湧現，同時又通過過度執行有關成人內容的規定，不公平地將他們的老職業排除在其平臺之外。
英國性工作者權益與鋼管舞活動組織“鋼管舞脫衣舞娘運動”負責人傑瑪·羅斯表示：“作為一名性工作者，如果我寫上‘我願意為你做任何事，我會讓你在一分鐘內達到高潮’之類的話，我的帖子會立刻被刪除。”
Meta 的政策禁止用戶展示裸露或性行為以及賣淫，包括色情短信。羅斯和其他性工作者倡導者表示，該公司似乎採用了雙重標準，允許聊天機器人應用程序推廣 NSFW 體驗，同時禁止人類性工作者做同樣的事情。
多年來，發佈有關性教育、性積極性或性工作內容的人一直抱怨該平臺不公平地壓制他們的內容。《連線》雜誌看到的截圖顯示，Meta 限制了 Rose 的一些帖子不向非粉絲展示。她的個人 Instagram 帳戶和她所在組織的帳戶此前曾因違反 Meta 政策而被暫停。
“我並不贊同社區的很多指導方針和規章制度，但這些廣告明顯違背了他們自己的政策，”羅斯在談到 Meta 平臺上推廣的性聊天機器人時說道。“然而我們卻不被允許在互聯網上不受審查，也不被允許生存和謀生。”
《連線》雜誌使用 Meta 的廣告庫調查了聊天機器人廣告，廣告庫是一種透明工具，可用於查看其平臺上當前正在運行的所有廣告、過去一年在歐盟展示的所有廣告以及過去七年與選舉、政治或社會問題相關的廣告。搜索結果顯示，Meta 平臺上至少發佈了 29,000 條針對明確 AI“女友”的廣告，其中大多數使用了暗示性、與性相關的信息。此外，至少有 19,000 條廣告使用了“NSFW”一詞，14,000 條廣告提供了“NSFW AI”。
上週，《連線》雜誌聯繫 Meta 時，大約有 2,700 條廣告處於活躍狀態。幾天後，Meta 發言人 Ryan Daniels 表示，公司禁止發佈包含成人內容的廣告，並正在審查這些廣告，刪除違反其政策的廣告。“當我們發現違規廣告時，我們會迅速刪除它們，就像我們在這裡所做的一樣，”他說。“我們將繼續改進我們的系統，包括我們如何檢測違反我們政策的廣告和行為。”
然而，根據 Meta 的廣告庫，4 月 23 日上線了 3,000 條“AI 女友”廣告和 1,100 條包含“NSFW”的廣告。
《連線》雜誌的初步調查發現，從谷歌 Play 商店下載量超過 10 萬次的人工智能女友應用Hush已經在 Meta 平臺上發佈了 1,700 條廣告，其中一些廣告承諾提供“NSFW”聊天和來自一系列栩栩如生的女性角色、動漫女性和卡通動物的“秘密照片”。
一則廣告顯示，一名人工智能女性被鎖在中世紀的監獄枷鎖中，脖子和手腕被勒住，她發誓：“幫助我，我願意為你做任何事。”另一則廣告利用 Meta 的技術，針對 18 至 65 歲的男性，以動漫人物為特色，並配文“想看更多 NSFW 圖片嗎？”
《連線》雜誌在 Meta 平臺上發現 980 條“個性化人工智能伴侶”應用Rosytalk 的廣告，其中幾條承諾可以與看起來非常年輕的人工智能生成女性進行全天候聊天。這些廣告使用的標籤包括“#barelylegal”、“#goodgirls”和“teens”。Rosytalk 還在 Meta 平臺上以至少 9 個品牌名稱投放了 990 條廣告，包括 Rosygirl、Rosy Role Play Chat 和 AI Chat GPT。
至少有 13 款其他人工智能“女友”應用在 Meta 廣告中推廣了類似的服務，其中包括“脫衣”功能，允許用戶“脫掉”人工智能女友的衣服並下載照片。一些女友廣告因違反 Meta 的廣告標準而被刪除。據社交媒體研究公司 Graphika 稱，“脫衣”應用也在主流社交平臺上進行營銷，《每日郵報》最近報道稱， 領英上也有此類應用。
一些所謂的人工智能伴侶的用戶表示，它們可以幫助對抗孤獨，其他人則表示，它們感覺自己就像一個真正的伴侶。《連線》雜誌發現的廣告並非全都是在宣揚挑逗，有些廣告還暗示，一個明確的人工智能聊天機器人可以提供情感支持。“和任何人交談吧！你並不孤單！”Hush 在 Meta 平臺上的一則廣告寫道。
英國諾森比亞大學數字公民中心研究社交媒體審查的創新研究員卡羅萊納·阿雷 (Carolina Are) 表示，人類性工作者滿足的需求和慾望與色情人工智能女友應用程序相同，並且也迎合孤獨和殘疾人士的需求。但她說，Meta 讓性工作者在其平臺上做廣告變得極其困難。
“當人們試圖利用自己的身體牟利時，他們是被禁止的，”Are 說，他曾幫助性工作者重新激活 Meta 平臺上丟失和被不公平暫停的賬戶。“而主要由利用已有圖像的兄弟提供支持的人工智能公司卻能夠做到這一點。”
Are 說，這些具有性暗示的人工智能女友讓她想起了早期互聯網色情的單純和普通。“性工作者以一種更加個性化的方式與顧客、訂閱者和粉絲互動，”她說。“除了分享裸照之外，這還需要大量的工作和情感勞動。”
關於如何構建 AI 應用程序或訓練底層文本或圖像生成算法的信息有限。其中一個使用了 Sora 這個名字，顯然是為了暗示與OpenAI 的同名視頻生成器有關，但該生成器尚未公開發布。
宣傳 AI 女友的應用程序背後的開發者身份不明。Google Play 和 Facebook 上列出的 Meta 平臺上推廣的應用程序的開發者均未回應置評請求。
成人行業非營利性行業協會自由言論聯盟的公共事務總監邁克·斯塔比爾認為，承諾提供人工智能女友的應用程序及其廣告策略都是“騙局”。他說，儘管成人行業被禁止在線做廣告，但人工智能應用程序卻“充斥著這個領域”。 “這就是審查制度的悖論：你最終會審查或壓制真正的性工作者，並讓所有這些雜草取而代之。”
2018 年簽署成為美國法律的反性販運法案 FOSTA-SESTA 要求平臺對在線發佈的內容負責，極大地限制了成人內容。然而，這導致自願性工作在數字世界中被視為販運，將成人內容創作者排除在網絡生活之外，並使本已邊緣化的性工作者更加脆弱。
如果 Meta 從其平臺上刪除 AI 女友廣告，它可能會效仿過去對人類性工作者的清理。羅斯說，儘管努力遵循 Meta 的指導方針，但在 2023 年 6 月至少 45 個與性相關的賬戶被刪除的浪潮中，鋼管舞脫衣舞娘運動的賬戶“毫無預警”地被封禁。Meta 最終以錯誤為由撤銷了部分刪除。但對於社交媒體上的性工作者來說，這樣的事件屢見不鮮。
2021 年 6 月，在新冠疫情期間，羅斯分享了一張鋼管舞工作坊的照片，隨後她的個人賬戶及其備份也被刪除。羅斯當時正在舉辦在線鋼管舞課程，並在成人訂閱網站 OnlyFans 上發帖。“我的生意一夜之間消失了，”她說。“我沒有辦法維持生計。”
“好吧，我被刪掉了，”羅斯補充道。“但這些公司可以發佈這種性工作者不被允許發佈的東西？這太荒謬了。”
