Thư viện quảng cáo trực tuyến của Meta cho thấy công ty đang lưu trữ hàng nghìn quảng cáo cho các ứng dụng do AI tạo ra, ứng dụng đồng hành NSFW hoặc “bạn gái” trên Facebook, Instagram và Messenger. Họ quảng bá các chatbot cung cấp hình ảnh và văn bản khiêu dâm, sử dụng các mẫu trò chuyện NSFW và hình ảnh AI về những phụ nữ mô phỏng mặc quần áo một phần, có hình dạng không thể tin được.
Nhiều phụ nữ ảo nhìn thấy trong các quảng cáo được WIRED đánh giá trông giống như thật — nếu hơi kỳ lạ — trẻ trung và mang tính chất khiêu dâm theo khuôn mẫu. Những khách hàng tiềm năng được mời đóng vai với “mẹ kế” AI, kết nối với một thiếu niên do máy tính tạo ra trong chiếc khăn trùm đầu hoặc trò chuyện với những hình đại diện hứa sẽ “giúp bạn thoát khỏi sau một phút”.
Quảng cáo dường như đang phát triển mạnh mặc dù chính sách quảng cáo của Meta cấm rõ ràng “nội dung người lớn”, bao gồm “mô tả những người ở các vị trí rõ ràng hoặc khêu gợi hoặc các hoạt động quá khêu gợi hoặc khiêu khích tình dục”.
Điều đó đã tạo ra một mặt trận mới trong các cuộc tranh luận về cuộc xung đột giữa AI và lao động truyền thống. Một số người hành nghề mại dâm phàn nàn rằng Meta đang để chatbot nhân lên, đồng thời loại bỏ nghề cũ của họ khỏi nền tảng của nó một cách không công bằng bằng cách thực thi quá mức các quy tắc về nội dung người lớn.
Gemma Rose, giám đốc Phong trào vũ nữ thoát y múa cột, cho biết: “Là một gái mại dâm, nếu tôi đặt bất cứ điều gì như 'Tôi sẽ làm bất cứ điều gì cho bạn, tôi sẽ khiến bạn đến trong giây lát' thì tôi sẽ bị xóa ngay lập tức". Tổ chức sự kiện múa cột và quyền của người bán dâm có trụ sở tại Vương quốc Anh.
Chính sách của Meta cấm người dùng hiển thị ảnh khỏa thân hoặc hoạt động tình dục và bán dâm , bao gồm cả nhắn tin tình dục. Rose và những người ủng hộ người bán dâm khác cho biết công ty dường như đang áp dụng tiêu chuẩn kép trong việc cho phép các ứng dụng chatbot quảng bá trải nghiệm NSFW trong khi cấm người bán dâm làm điều tương tự.
Những người đăng bài về giáo dục giới tính, sự tích cực về tình dục hoặc hoạt động mại dâm trong nhiều năm đã phàn nàn rằng nền tảng này đã loại bỏ nội dung của họ một cách không công bằng . Meta đã hạn chế hiển thị một số bài đăng của Rose cho những người không theo dõi, ảnh chụp màn hình mà WIRED hiển thị. Tài khoản Instagram cá nhân của cô ấy và một tài khoản cho tổ chức của cô ấy trước đây đã bị đình chỉ vì vi phạm chính sách của Meta.
Rose nói về các chatbot tình dục được quảng cáo trên nền tảng Meta: “Không phải tôi đồng ý với nhiều nguyên tắc, quy tắc và quy định của cộng đồng, nhưng những [quảng cáo] này trắng trợn đi ngược lại chính sách của họ”. “Tuy nhiên, chúng tôi không được phép không bị kiểm duyệt trên internet hoặc chỉ tồn tại và kiếm sống.”
WIRED đã khảo sát các quảng cáo chatbot bằng thư viện quảng cáo của Meta, một công cụ minh bạch có thể được sử dụng để xem tất cả các quảng cáo hiện đang chạy trên các nền tảng của nó, tất cả các quảng cáo được hiển thị ở EU trong năm qua và các quảng cáo trong bảy năm qua liên quan đến bầu cử, chính trị hoặc các vấn đề xã hội. Các tìm kiếm cho thấy rằng ít nhất 29.000 quảng cáo đã được xuất bản trên nền tảng Meta dành cho “bạn gái” AI rõ ràng, trong đó hầu hết sử dụng thông điệp khêu gợi, liên quan đến tình dục. Cũng có ít nhất 19.000 quảng cáo sử dụng thuật ngữ “NSFW” và 14.000 quảng cáo cung cấp “NSFW AI”.
Khoảng 2.700 quảng cáo đã hoạt động khi WIRED liên hệ với Meta vào tuần trước. Vài ngày sau, người phát ngôn của Meta, Ryan Daniels, nói rằng công ty cấm quảng cáo chứa nội dung người lớn và đang xem xét những quảng cáo đó cũng như xóa những quảng cáo vi phạm chính sách của mình. Ông nói: “Khi chúng tôi xác định được những quảng cáo vi phạm, chúng tôi sẽ nhanh chóng loại bỏ chúng, như chúng tôi đang làm ở đây”. “Chúng tôi tiếp tục cải thiện hệ thống của mình, bao gồm cả cách chúng tôi phát hiện quảng cáo và hành vi đi ngược lại chính sách của chúng tôi.”
Tuy nhiên, 3.000 quảng cáo về “Bạn gái AI” và 1.100 quảng cáo có chứa “NSFW” đã xuất hiện vào ngày 23 tháng 4, theo thư viện quảng cáo của Meta.
Đánh giá ban đầu của WIRED cho thấy Hush , một ứng dụng AI dành cho bạn gái được tải xuống hơn 100.000 lần từ cửa hàng Play của Google, đã xuất bản 1.700 quảng cáo trên các nền tảng Meta, một số trong đó hứa hẹn các cuộc trò chuyện “NSFW” và “các bức ảnh bí mật” từ nhiều nhân vật nữ sống động như thật, phụ nữ anime và động vật hoạt hình.
Một bức cho thấy một phụ nữ AI bị nhốt vào cổ và cổ tay trong nhà tù thời Trung cổ, cam kết: “Hãy giúp tôi, tôi sẽ làm bất cứ điều gì cho bạn”. Một quảng cáo khác, được nhắm mục tiêu bằng công nghệ của Meta dành cho nam giới từ 18 đến 65 tuổi, có một nhân vật anime và dòng chữ “Bạn muốn xem thêm các bức ảnh NSFW?”
Một số trong số 980 quảng cáo Meta mà WIRED tìm thấy cho ứng dụng “đồng hành AI được cá nhân hóa” Rosytalk hứa hẹn sẽ trò chuyện suốt ngày đêm với những phụ nữ có vẻ ngoài rất trẻ do AI tạo ra. Họ đã sử dụng các thẻ bao gồm “#barelylegal”, “#goodgirls” và “thanh thiếu niên”. Rosytalk cũng đã chạy 990 quảng cáo dưới ít nhất chín tên thương hiệu trên nền tảng Meta, bao gồm Rosygirl, Rosy Role Play Chat và AI Chat GPT.
Ít nhất 13 ứng dụng khác dành cho “bạn gái” AI đã quảng cáo các dịch vụ tương tự trong quảng cáo Meta, bao gồm các tính năng “khỏa thân” cho phép người dùng “cởi quần áo” cho bạn gái AI của họ và tải xuống hình ảnh. Một số quảng cáo về bạn gái đã bị xóa do vi phạm các tiêu chuẩn quảng cáo của Meta. Theo công ty nghiên cứu truyền thông xã hội Graphika và trên LinkedIn , các ứng dụng “cởi quần áo” cũng đã được tiếp thị trên các nền tảng xã hội chính thống.
Một số người dùng cái gọi là bạn đồng hành AI nói rằng họ có thể giúp chống lại sự cô đơn , trong khi những người khác cho biết họ cảm thấy như một người bạn đời thực sự . Không phải tất cả các quảng cáo do WIRED tìm thấy đều chỉ mang tính kích thích, một số còn gợi ý rằng một chatbot AI rõ ràng có thể hỗ trợ tinh thần. "Nói chuyện với bất cứ ai! Bạn không cô đơn!" đọc một trong những quảng cáo của Hush trên nền tảng Meta.
Carolina Are, một nhà nghiên cứu đổi mới nghiên cứu về kiểm duyệt truyền thông xã hội tại Trung tâm Công dân Kỹ thuật số tại Đại học Northumbria ở Anh, cho biết những người hành nghề mại dâm đáp ứng những nhu cầu và mong muốn giống như các ứng dụng bạn gái AI không phù hợp và cũng phục vụ cho những người cô đơn và khuyết tật. Nhưng Meta khiến họ cực kỳ khó quảng cáo trên nền tảng của nó, cô nói.
Are, người đã giúp gái mại dâm kích hoạt lại các tài khoản bị mất và bị đình chỉ bất công trên nền tảng Meta, cho biết: “Khi mọi người đang cố gắng vượt qua và kiếm lợi từ cơ thể của chính mình, họ bị cấm. “Trong khi các công ty AI chủ yếu được hỗ trợ bởi những người khai thác hình ảnh đã có sẵn thì vẫn có thể làm được điều đó.”
Are cho biết những người bạn gái AI khêu gợi tình dục khiến cô nhớ lại những ngày đầu đơn giản và chung chung của phim khiêu dâm trên internet. Cô nói: “Người bán dâm tương tác với khách hàng, người đăng ký và người theo dõi của họ theo cách cá nhân hóa hơn. “Đây là rất nhiều công việc và lao động tình cảm ngoài việc chia sẻ hình ảnh khỏa thân.”
Thông tin hạn chế có sẵn về cách xây dựng các ứng dụng AI hoặc các thuật toán tạo văn bản hoặc hình ảnh cơ bản được đào tạo. Một người đã sử dụng tên Sora, dường như để gợi ý mối liên hệ với trình tạo video có tên đó của OpenAI , tên này chưa được phát hành công khai.
Các nhà phát triển đằng sau các ứng dụng quảng cáo bạn gái AI cụ thể đều mờ ám. Không có nhà phát triển nào được liệt kê trên Google Play hoặc Facebook là người tạo ra các ứng dụng được quảng cáo trên nền tảng của Meta phản hồi yêu cầu bình luận.
Mike Stabile, giám đốc quan hệ công chúng tại Liên minh Tự do Ngôn luận, một hiệp hội thương mại phi lợi nhuận trong ngành dành cho người lớn, coi các ứng dụng hứa hẹn với bạn gái AI rõ ràng và các chiến thuật quảng cáo của họ là “lừa đảo”. Ông nói: Trong khi ngành công nghiệp dành cho người lớn bị cấm quảng cáo trực tuyến, thì các ứng dụng AI đang “làm ngập khu vực này”. “Đó là nghịch lý của việc kiểm duyệt: Cuối cùng, bạn lại kiểm duyệt hoặc bịt miệng một gái mại dâm thực sự và cho phép tất cả cỏ dại này phát triển ở vị trí của chúng.”
Đạo luật chống buôn bán tình dục được ký thành luật Hoa Kỳ vào năm 2018 có tên là FOSTA-SESTA đã yêu cầu các nền tảng phải chịu trách nhiệm về những gì được đăng trực tuyến, hạn chế rất nhiều nội dung người lớn. Tuy nhiên, nó dẫn đến việc mại dâm đồng thuận bị coi là buôn bán trong thế giới kỹ thuật số, khiến những người sáng tạo nội dung người lớn bị loại khỏi cuộc sống trực tuyến và khiến những người bán dâm vốn đã bị gạt ra ngoài lề xã hội dễ bị tổn thương hơn .
Nếu Meta xóa quảng cáo bạn gái AI khỏi nền tảng của nó, nó có thể mô phỏng các cuộc truy quét gái mại dâm trước đây của con người. Rose cho biết, mặc dù đã cố gắng làm theo các hướng dẫn của Meta nhưng tài khoản của Phong trào vũ nữ thoát y múa cột đã bị cấm “mà không báo trước” trong làn sóng xóa ít nhất 45 tài khoản liên quan đến tình dục vào tháng 6 năm 2023. Meta cuối cùng đã khôi phục một số thao tác xóa với lý do có lỗi. Nhưng đối với những người hành nghề mại dâm trên mạng xã hội, những sự kiện như vậy là chuyện thường xuyên xảy ra.
Cô cho biết, tài khoản cá nhân của Rose và bản sao lưu của nó cũng đã bị xóa vào tháng 6 năm 2021 trong đại dịch Covid sau khi cô chia sẻ một bức ảnh về một buổi tập múa cột. Vào thời điểm đó, cô ấy đang tổ chức các lớp học múa cột trực tuyến và đăng bài trên trang đăng ký dành cho người lớn OnlyFans. “Việc kinh doanh của tôi đã tan biến chỉ sau một đêm,” cô nói. “Tôi không có cách nào để duy trì bản thân.”
“Được rồi, vậy là tôi đã bị xóa,” Rose nói thêm. “Nhưng những công ty này được phép thực hiện những thứ vớ vẩn mà gái mại dâm không được phép làm? Không có nghĩa lý gì."
