Instagram tràn ngập hàng trăm người có sức ảnh hưởng được tạo ra bằng AI đang ăn cắp video từ những người mẫu thực tế và những người sáng tạo nội dung người lớn, sau đó gán cho họ khuôn mặt được tạo ra bằng AI và kiếm tiền từ cơ thể của họ bằng cách liên kết đến các trang web hẹn hò, Patreon, đối thủ cạnh tranh của OnlyFans và nhiều ứng dụng AI khác.
Thực tế này, được 404 Media đưa tin lần đầu vào tháng 4 , kể từ đó đã trở nên cực kỳ phổ biến, cho thấy Instagram không có khả năng hoặc không muốn ngăn chặn dòng nội dung do AI tạo ra tràn lan trên nền tảng của mình và bảo vệ những người sáng tạo nội dung trên Instagram, những người cho rằng hiện họ đang cạnh tranh với nội dung AI theo cách ảnh hưởng đến khả năng kiếm sống của họ.
Theo đánh giá của chúng tôi về hơn 1.000 tài khoản Instagram do AI tạo ra, các kênh Discord nơi những người tạo nội dung này chia sẻ các mẹo và thảo luận về chiến lược, cùng một số hướng dẫn giải thích cách kiếm tiền bằng cách "chiêu dụ AI", giờ đây, việc tạo các tài khoản này và kiếm tiền từ chúng bằng cách sử dụng nhiều công cụ và ứng dụng AI có sẵn là điều vô cùng dễ dàng. Một số ứng dụng này được lưu trữ trên Cửa hàng ứng dụng Apple và Google Play. Cuộc điều tra của chúng tôi cho thấy rằng vấn đề từng là một vấn đề ngách trên nền tảng này đã được công nghiệp hóa theo quy mô và cho thấy phương tiện truyền thông xã hội có thể trở thành gì trong tương lai gần: một không gian nơi nội dung do AI tạo ra sẽ lấn át nội dung do con người tạo ra.
Elaina St James, một nhà sáng tạo nội dung người lớn quảng bá tác phẩm của mình trên Instagram, cho biết cô và những nhà sáng tạo nội dung người lớn khác hiện đang cạnh tranh trực tiếp với các tài khoản lừa đảo AI này, nhiều tài khoản trong số đó sử dụng ảnh và video đánh cắp từ những nhà sáng tạo nội dung người lớn và người mẫu Instagram. Cô cho biết mặc dù có thể có những thay đổi khác đối với thuật toán của Instagram có thể góp phần vào điều này, nhưng kể từ khi các tài khoản người có ảnh hưởng do AI tạo ra bùng nổ trên Instagram, "phạm vi tiếp cận của cô đã giảm mạnh", từ mức thông thường là 1 triệu đến 5 triệu lượt xem một tháng xuống còn không vượt quá một triệu trong 10 tháng qua và đôi khi chỉ đạt dưới 500.000 lượt xem.
“Đây có lẽ là một trong những lý do khiến lượt xem của tôi giảm xuống,” St James nói với chúng tôi trong một cuộc phỏng vấn. “Đó là vì tôi đang cạnh tranh với thứ gì đó không tự nhiên.”
Alexios Mantzarlis, giám đốc sáng kiến an ninh, tin cậy và an toàn tại Cornell Tech và trước đây là hiệu trưởng của tình báo tin cậy và an toàn tại Google, đã biên soạn một danh sách khoảng 900 tài khoản mà 404 Media đã xem xét trong cuộc điều tra của mình. Mantzarlis, người tình cờ tìm thấy một trong những tài khoản này khi đang sử dụng Instagram một cách bình thường, cho biết anh bắt đầu nghiên cứu các tài khoản người có sức ảnh hưởng do AI tạo ra vì nó có thể cho chúng ta thấy nội dung do AI tạo ra đang đưa phương tiện truyền thông xã hội và internet nói chung đến đâu, nơi anh nhìn thấy "một sự pha trộn không thực tế đang gia tăng". Mantzarlis tin rằng anh có thể dễ dàng tìm thấy thêm 900 tài khoản nữa và lý do duy nhất khiến anh không tìm thấy thêm là vì Instagram đã hạn chế tài khoản mà anh sử dụng để thu thập dữ liệu nền tảng này.
“Nó giống như một dấu hiệu có thể cho thấy mạng xã hội sẽ trông như thế nào trong năm năm nữa,” Mantzarlis nói trong một cuộc phỏng vấn. “Bởi vì điều này có thể sẽ xảy ra ở các phần khác của internet, không chỉ là phân khúc người hấp dẫn trên Instagram. Đây có lẽ là một dấu hiệu cho thấy mọi thứ sẽ khá tệ.”
Trong số hơn 1.000 tài khoản người có sức ảnh hưởng trên Instagram do AI tạo ra mà chúng tôi đã xem xét, 100 tài khoản có ít nhất một số nội dung deepfake lấy các video hiện có, thường là từ người mẫu và người biểu diễn giải trí dành cho người lớn, và thay thế khuôn mặt của họ bằng khuôn mặt do AI tạo ra để làm cho các video đó có vẻ như là nội dung mới, nguyên bản phù hợp với các hình ảnh và video do AI tạo ra khác được người có sức ảnh hưởng do AI tạo ra chia sẻ. 900 tài khoản khác đã chia sẻ hình ảnh trong một số trường hợp được đào tạo trên ảnh thật và trong một số trường hợp được tạo ra để trông giống như người nổi tiếng, nhưng hoàn toàn là do AI tạo ra, không phải ảnh hoặc video đã chỉnh sửa.
Trong số 100 tài khoản chia sẻ video deepfake hoặc hoán đổi khuôn mặt, 60 tài khoản tự nhận là do AI tạo ra, viết trong tiểu sử rằng họ là "người mẫu và người có sức ảnh hưởng ảo" hoặc tuyên bố "tất cả ảnh đều được tạo bằng AI và ứng dụng". 40 tài khoản còn lại không có bất kỳ tuyên bố từ chối trách nhiệm nào nêu rằng chúng do AI tạo ra.
Một trong những tài khoản lớn hơn trong danh mục sau là “ Chloe Johnson ”, người có tài khoản đã xác minh trên Instagram và 171.000 người theo dõi. Tài khoản này đã bị Meta xóa trong vài tuần qua.
Sử dụng Google Lens, công cụ tìm kiếm hình ảnh tương tự trên web, một trình đọc 404 Media đã có thể tìm thấy các video nguồn gốc mà chín bài đăng trên Instagram của Johnson dựa trên. Điều đó cho thấy người điều hành tài khoản của Johnson đang hoán đổi khuôn mặt của người có sức ảnh hưởng AI vào cơ thể của những người phụ nữ thực sự, bao gồm các người mẫu Tana Rain, Skyler Simpson và Kyla Yesenosky. Các video khác bị đánh cắp từ những người dùng TikTok và Instagram không nổi tiếng và có số lượng người theo dõi ít (Ulia Nova, Annabella Sinclair). Chúng tôi cũng đã thấy các tài khoản hoán đổi khuôn mặt lấy nguồn video từ các chương trình trình diễn đồ bơi và trang web hình ảnh và video của Getty iStock.
Instagram của Johnson liên kết đến một tài khoản trên Fanvue, một trang web rất giống OnlyFans, nơi người hâm mộ có thể trả tiền để truy cập vào tài khoản của người sáng tạo. Tại đây, Johnson cho biết, mọi người có thể mua "ảnh khỏa thân và video quan hệ tình dục trả tiền theo lượt xem". Nhiều tài khoản người có ảnh hưởng AI khác mà chúng tôi đã xem xét cũng kiếm tiền từ nội dung của họ trên Fanvue. Instagram của Johnson cũng liên kết đến một trang web khác, nơi ảnh khỏa thân và video khiêu dâm hardcore có thể được mua riêng lẻ với giá từ 3 đến 22 đô la.
Giống như những ngành nghề khác, ngành này có rất nhiều người đang cố gắng làm giàu một phần bằng cách làm theo các hướng dẫn và khóa học hướng dẫn được bán bởi những người đã điều hành những người có sức ảnh hưởng AI thành công. 404 Media đã mua hai hướng dẫn—một hướng dẫn sử dụng dạng PDF có tên Instagram Mastery của một công ty có sức ảnh hưởng AI tên là Digital Divas và một hướng dẫn có tên là AI Influencer Accelerator do một người tự xưng là Giáo sư EP thực hiện, người này cho biết họ điều hành tài khoản Instagram có sức ảnh hưởng AI Emily Pellegrini, có 253.000 người theo dõi.
Giáo sư EP cũng là giám khảo trong cuộc thi “ Miss AI ” đầu tiên, được thực hiện hợp tác với Fanvue. Tờ Daily Mail gọi Pellegrini là “ Người mẫu nóng bỏng nhất thế giới ” vào tháng 1. Kể từ đó, người điều hành tài khoản Instagram Emily Pellegrini đã chuyển từ đăng nội dung như thể họ là Emily Pellegrini sang đăng nội dung với tư cách là Giáo sư EP, quảng bá hướng dẫn sử dụng cho những gì họ mô tả là “AI Pimping”. Giáo sư EP tuyên bố đã kiếm được hơn một triệu đô la trong sáu tháng và khi anh ta điều hành tài khoản Emily Pellegrini và là giám khảo cho cuộc thi Miss AI vào tháng 7, anh ta tuyên bố đã kiếm được 100.000 đô la chỉ riêng trên Fanvue, một tuyên bố mà Fanvue dường như đã tán thành bằng cách đưa nó vào trang web Miss AI.
Một đại diện của Fanvue đã nói với 404 Media, "Đúng vậy, Emily đã kiếm được khoản doanh thu này trên Fanvue." Họ nói thêm, "Fanvue không liên kết với khóa học được đăng trên Instagram hoặc bất kỳ mối liên hệ quan trọng nào khác với nhóm của Emily và các quyết định tiếp thị của họ. Mặc dù Emily vẫn có một tài khoản đang hoạt động trên Fanvue, nơi mọi nội dung đều được xác minh và hiện đáp ứng các điều khoản và điều kiện nghiêm ngặt của nền tảng, nhưng lượng sử dụng lại cực kỳ thấp. Điều này phản ánh quyết định của nhóm cô ấy là lựa chọn một chiến lược tiếp thị khác, mà Fanvue không hỗ trợ."
Fanvue cho biết họ sẽ xóa hình ảnh của Emily Pellegrini khỏi các cuộc thi Hoa hậu AI trong tương lai "như một phần của quá trình cải tổ cho giải thưởng tiếp theo". Trang web của Fanvue cho biết họ "không cho phép nội dung bị đánh cắp hoặc tạo ra thông qua deepfaking" và cho biết họ sử dụng một công cụ có tên là Hive Moderation và có "một nhóm tuân thủ thực hiện các cuộc kiểm tra có hệ thống thủ công" đối với nội dung deepfaking.
Instagram không trả lời danh sách câu hỏi chi tiết cho câu chuyện này và công ty đã xóa hai trong số bốn tài khoản mà chúng tôi cung cấp làm ví dụ sử dụng hoán đổi khuôn mặt để ăn cắp từ những người sáng tạo khác. Instagram cho biết họ sẽ có hành động chống lại nội dung do AI tạo ra vi phạm Nguyên tắc cộng đồng của mình, trong đó nêu rằng người dùng chỉ được chia sẻ "ảnh và video mà bạn đã chụp hoặc có quyền chia sẻ" và cho phép người dùng báo cáo các tài khoản khác vì mạo danh .
Instagram cho biết họ sẽ chỉ hành động đối với các tài khoản nếu chúng bị báo cáo từ chủ sở hữu quyền hoặc người được ủy quyền báo cáo thay mặt họ (như luật sư hoặc đại lý). St James cho chúng tôi biết quy trình này không hiệu quả với cô ấy và thường không hiệu quả với những người sáng tạo vì có quá nhiều tài khoản mạo danh để theo dõi và vì việc báo cáo những tài khoản như vậy có thể phản tác dụng đối với những người sáng tạo nội dung người lớn và khiến Instagram cấm các tài khoản hợp pháp của họ. Cũng có thể khó tìm thấy những trường hợp video được lấy từ người có sức ảnh hưởng vì các công cụ tìm kiếm hình ảnh ngược không hoạt động đáng tin cậy với video và các công cụ như Google Lens có thể thành công hoặc thất bại. Việc tìm thấy video bị đánh cắp thường yêu cầu người có sức ảnh hưởng hoặc một trong những người hâm mộ của họ phải có khả năng nhận dạng cơ thể của họ bằng một khuôn mặt khác do AI tạo ra.
Sách hướng dẫn “Instagram Mastery” của Digital Divas có giá 50 đô la và là sự kết hợp giữa các mẹo kỹ thuật và chiến lược kỹ thuật xã hội.
“Điều mà hầu hết các cô gái AI làm hỏng là họ nghĩ rằng họ đang kinh doanh phim khiêu dâm. Cởi bỏ quần áo và họ sẽ chết chìm trong tiền. Điều này hoàn toàn sai”, hướng dẫn của Digital Divas viết. “Bạn thực sự đang kinh doanh sự cô đơn. Có hàng trăm triệu người đàn ông cô đơn trên mạng xã hội và họ ghét sự cô đơn, họ sẽ làm bất cứ điều gì để cảm giác đó biến mất… Bạn cần khiến những người muốn nhìn thấy ngực không chỉ muốn nhìn thấy bất kỳ bộ ngực nào, mà khiến họ muốn nhìn thấy ngực của bạn. Đó là con đường thực sự dẫn đến thành công”.
Digital Divas bao gồm ba người có sức ảnh hưởng AI. Một trong số họ, Aika Kittie, nói với 404 Media rằng một con người khác nhau điều hành mỗi người có sức ảnh hưởng này nhưng từ chối cung cấp bất kỳ thông tin nào về những người thực sự điều hành các tài khoản này ngoài việc nói rằng tất cả họ đều có trụ sở tại Hoa Kỳ. "Mặc dù chúng tôi ủng hộ mạnh mẽ sự minh bạch xung quanh bản chất hư cấu của danh tính AI, chúng tôi cũng tin vào việc duy trì một Bit bí ẩn đằng sau hậu trường", Aika nói.
Hướng dẫn của Digital Divas gợi ý sử dụng một loạt các công cụ có sẵn được nhiều người làm nghệ thuật AI biết đến. Một số tài khoản do AI tạo ra mà chúng tôi đã xem xét có vẻ như sử dụng một ứng dụng có tên là HelloFace, cho đến gần đây vẫn có trên các cửa hàng Apple App và Google Play, và quảng bá ứng dụng này.
Mỗi công cụ này được sử dụng cho các phần khác nhau của quá trình sáng tạo. Hầu hết các hướng dẫn mà chúng tôi đã thấy đều khuyến nghị rằng khuôn mặt nên được tạo trong Leonardo , sau đó được tinh chỉnh trong một công cụ AI khác để "loại bỏ các khuyết điểm". Sau đó, hình ảnh có thể được tạo bằng các ứng dụng tạo AI và khuôn mặt AI có thể được hoán đổi vào đó bằng cách sử dụng nhiều ứng dụng hoán đổi khuôn mặt.
Ngoài bộ sưu tập các công cụ và hướng dẫn giải thích cách kết hợp tất cả chúng lại với nhau để tạo ra những người có sức ảnh hưởng do AI tạo ra, hiện nay còn có một số trang web đóng vai trò là điểm dừng chân duy nhất để tạo và kiếm tiền từ những người có sức ảnh hưởng do AI tạo ra, như Glambase , SynthLife và Genfluence , tất cả đều được những người có sức ảnh hưởng do AI tạo ra quảng bá trên Instagram.
Trong một kênh Discord chuyên bẻ khóa các công cụ AI để tạo nội dung dành cho người lớn hoặc NSFW, một người dùng có tên BabaYaga đã chia sẻ hành trình tạo một trong những tài khoản deepfake này bằng nhiều dịch vụ trực tuyến miễn phí, chủ yếu là trình tạo hình ảnh AI Krea. Người dùng này đã tạo tài khoản Instagram, TikTok và Twitter cho cùng một người có sức ảnh hưởng do AI tạo ra, tất cả đều LINK (Chainlink) trở lại tài khoản Fanvue nơi anh ta bán hình ảnh khỏa thân do AI tạo ra của cô ấy. BabaYaga cũng đã tạo một tài khoản OnlyFans cho người có sức ảnh hưởng do AI tạo ra nhưng vẫn chưa đăng nội dung ở đó.
"Ồ, những hình ảnh đó đẹp thật đấy, bạn có thể lừa rất nhiều incel bằng cách này lol", một người dùng trên máy chủ Discord đã nói như vậy khi phản hồi lại những hình ảnh về người có sức ảnh hưởng do AI tạo ra của BabaYaga.
“Yup, tôi muốn những bà cô hay ông chú bao nuôi xD loool,” BabaYaga nói.
BabaYaga cũng chia sẻ những gì ông cho là tin nhắn trực tiếp được gửi đến tài khoản người có sức ảnh hưởng AI của ông trên Instagram, trong đó một người theo dõi khen ngợi ngoại hình của cô và đề nghị "chiều chuộng" cô và trả tiền thuê nhà cho cô.
“Hãy bắt đầu kiếm chút tiền thôi,” BabaYaga nói trong tin nhắn gửi tới kênh Discord nơi anh chia sẻ tin nhắn trực tiếp.
“Tất cả người dùng, bao gồm cả người hâm mộ, phải trên 18 tuổi và tuân thủ các điều khoản dịch vụ của chúng tôi, trong đó cấm nội dung lừa dối hoặc không phù hợp, bao gồm nội dung do AI tạo ra hoặc thay đổi mà không có thông tin tiết lộ bổ sung (chẳng hạn như gắn thẻ nội dung là #AI)”, OnlyFans cho biết trong một tuyên bố. OnlyFans cũng đã xóa tài khoản người có ảnh hưởng do AI tạo ra của BabaYaga sau khi chúng tôi liên hệ để xin bình luận.
St James cho biết thực tế là nhiều tài khoản người có sức ảnh hưởng do AI tạo ra này do nam giới điều hành càng làm tăng thêm sự đau đớn.
“Chúng tôi, những người phụ nữ trên thế giới, kiếm được ít tiền hơn. Chúng tôi ở thế bất lợi theo nhiều cách,” cô nói. “Một lĩnh vực trên thế giới mà chúng tôi có lợi thế là người có sức ảnh hưởng và nghề người mẫu, vì vậy đó chỉ là một lớp bổ sung. Điều đó khiến tôi hơi tức giận khi có một gã kiếm tiền bằng cách giả vờ là phụ nữ.”
Aika từ Digital Divas cho biết trong công ty của họ, “Chúng tôi trông không thực tế và chúng tôi sẽ không bao giờ thực tế mặc dù chúng tôi đã cố gắng rất nhiều. Điều này khiến chúng tôi trở nên lạc lõng hơn, giống như một thể loại giải trí dành cho người lớn (hãy nghĩ đến hentai hoặc các phương tiện truyền thông kỹ thuật số khác). Tôi nghĩ rằng quan điểm về giới tính giống như một giả định hơn. Đúng, có nhiều đàn ông làm điều này hơn, nhưng cũng có phụ nữ làm điều đó. Giống như cách cả nam giới và phụ nữ đều có thể vẽ hentai. Việc gợi ý ngược lại sẽ bị coi là phân biệt giới tính—cả hai bên đều có thể thể hiện tình dục của mình.”
“AI Influencer Accelerator” của Giáo sư EP là một loạt video hướng dẫn và PDF có giá 220 đô la. Trong các video này, Giáo sư EP là giọng nói AI hoặc một người sử dụng công cụ thay đổi giọng nói và được nhân cách hóa thành một người trong cảnh quay lưu trữ mặc vest và đeo mặt nạ Guy Fawkes màu bạc. Các lớp học của Giáo sư EP bắt đầu bằng cách chỉ ra “thành công tài chính to lớn” của Andrew Tate, người đã “góp công sức cần thiết để xây dựng một thương hiệu lớn trên internet” thay vì “ngồi chơi xơi nước trong những năm tháng tuổi teen và tuổi đôi mươi của [anh ấy]”. (Tate đã bị bắt gần đây nhất vào tháng 8 vì tội buôn bán tình dục). Giáo sư EP cho biết hệ quả giữa Tate và những người có ảnh hưởng bằng AI là một người có ảnh hưởng bằng AI có thể tạo điều kiện cho thành công như Tate trong khi người đứng sau tài khoản “hoạt động trong bóng tối” mà không để lộ khuôn mặt thật của họ.
“Thật không may, không phải ai cũng có thể [trở thành người có sức ảnh hưởng thực sự],” Giáo sư EP cho biết. “Điều này đơn giản là do không phải ai cũng có các đặc điểm thể chất kết hợp với sự nhất quán và tính chuyên nghiệp cần thiết để xây dựng thương hiệu cá nhân và mở rộng quy mô để kiếm được hàng triệu đô la mỗi tháng, nhưng đó chính là lúc AI xuất hiện.”
"Tôi sẽ tiết lộ cách tôi tạo ra Emily Pellegrini, nhà sáng tạo AI nổi tiếng nhất thế giới. Tôi sẽ cho bạn thấy cách tôi kiếm được hơn 1 triệu đô la trong vòng chưa đầy sáu tháng, giúp khuôn mặt của cô ấy được hàng triệu người biết đến trong khi vẫn giữ kín danh tính thực sự của mình đằng sau lớp mặt nạ", anh nói.
Giáo sư EP nói với sinh viên rằng các mô hình AI không có những hạn chế của những người có sức ảnh hưởng là con người, vì những người có sức ảnh hưởng là con người cần phải ngủ, ăn, đi lại và chi tiền. “Bằng cách tung ra từng mô hình AI, bạn có thể xây dựng một đội hình những người có sức ảnh hưởng là AI theo ý mình, mỗi người đều có khả năng tạo ra nội dung được cá nhân hóa suốt ngày đêm”, ông nói. “Các mô hình AI không có cùng những vấn đề như con người”.
Hướng dẫn này cũng bao gồm các mẹo để thiết lập tài khoản Fanvue và nhắn tin với "những người cô đơn".
“Điều quan trọng là phải làm ấm họ lên một Bit. Tham gia vào một số cuộc trò chuyện nhỏ để tạo ra mối liên kết giữa bạn và người dùng”, anh ấy nói. “Bắt đầu với một mức giá không gây khó chịu. Đây có thể là một bức ảnh đồ lót với giá 6 đô la và nếu anh ấy mua nó và thích nó, bạn có thể tiến xa hơn và tăng cường độ trò chuyện kết hợp với các bức ảnh… tiếp tục với một bức ảnh ngực giá 14,90 đô la. Tiếp tục với một bức ảnh khỏa thân toàn thân giá 26 đến 30 đô la. Tiếp tục với một bức ảnh khỏa thân dang rộng chân giá 35 đô la. Kết thúc bằng một nội dung có giá 80 đô la, như thủ dâm, video, băng sex, ETC Điều quan trọng nhất là mối liên hệ giữa bạn và người hâm mộ chứ không phải là ý định kiếm tiền nhanh chóng.”
Tài khoản Emily Pellegrini được xây dựng một phần dựa trên các video deepfake trên Instagram và trong bản cập nhật gần đây của hướng dẫn, Giáo sư EP sẽ hướng dẫn mọi người cách hoán đổi khuôn mặt deepfake bằng video của người khác.
“Việc hoán đổi khuôn mặt từ các tài khoản khác mà không được phép có vẻ hiệu quả với nhiều người có sức ảnh hưởng AI”, hướng dẫn trên video cho biết. “Mặc dù tôi không khuyến khích điều đó ;) … bạn cũng có thể sử dụng phần mềm để hoán đổi khuôn mặt cho video khỏa thân. Tôi không khuyến khích bạn sử dụng phần mềm cho mục đích này, tôi chỉ cho bạn thấy những gì có thể. Sử dụng thông tin này theo ý muốn của bạn. Đến cuối mô-đun này, bạn sẽ hiểu rõ hơn về cách tạo một cuộn phim bằng cách hoán đổi khuôn mặt”.
Digital Divas, trên Discord, cho biết đây là "máy chủ chống deepfake", "việc làm deepfake của người nổi tiếng và hành vi trộm cắp nội dung là không được chấp nhận" và "vui lòng không sử dụng bạn bè của bạn" làm hình ảnh gốc để hoán đổi khuôn mặt.
“Điều tốt nhất chúng ta có thể làm là công khai chỉ trích nội dung deepfake, điều mà nhiều người trong chúng ta đã làm rồi,” Aika nói với 404 Media. “Tôi đã phải có những cuộc trò chuyện khó khăn với các thành viên mới theo thời gian, nhưng điều đó vẫn xảy ra. Chúng tôi muốn thiết lập ranh giới rõ ràng giữa nội dung AI có đạo đức và deepfake phi đạo đức.”
Thay vào đó, Digital Divas khuyên bạn nên tìm cảm hứng từ những hình ảnh mà những người có sức ảnh hưởng khác đã đăng, sau đó tạo ra những hình ảnh tương tự nhưng có tính biến đổi:
Trong khi đó, Giáo sư EP yêu cầu sinh viên suy nghĩ "Những người nổi tiếng mà bạn yêu thích là ai?" và sau đó cố gắng tạo ra những người có sức ảnh hưởng lai tạo giữa những người thật khác nhau: "Ví dụ, nếu bạn thích đôi mắt của Ariana Grande và đôi môi của Kylie Jenner, bạn có thể tạo ra một hình ảnh kết hợp những đặc điểm này bằng cách đưa những thông số kỹ thuật này vào lời nhắc của mình".
Trong một tệp PDF bổ sung, anh ấy giải thích cách anh ấy sẽ tạo ra một người có sức ảnh hưởng AI là sự kết hợp giữa Madison Beer và Ariana Grande. Sau đó, anh ấy yêu cầu ChatGPT tạo toàn bộ nhân vật, bối cảnh và tính cách cho người mẫu và sử dụng ví dụ: “Chiếc xe mơ ước: Ferrari 488. Thương hiệu yêu thích: Chanel. Vòng ngực: 34C. Cha mẹ: Mẹ: Sophia Lavante (Nhà thiết kế thời trang), Cha: Alessandro Lavante (Kiến trúc sư). Mục tiêu và khát vọng trong cuộc sống: Ra mắt dòng thời trang của riêng mình và thúc đẩy thời trang bền vững.”
Giáo sư EP khuyên mọi người nên sử dụng Leonardo để tạo khuôn mặt, sau đó sử dụng một công cụ khác để "loại bỏ các khuyết điểm" như "mắt mờ, răng không đều và khóe miệng trễ". Giáo sư khuyên nên sử dụng một ứng dụng iPhone cụ thể cho phép tạo nội dung NSFW và có chức năng chuyển đổi hình ảnh sang hình ảnh.
Hướng dẫn của Giáo sư EP sau đó đề xuất một số ứng dụng hoán đổi khuôn mặt, bao gồm một plug-in Discord lớn có tên là InsightFace—đang được sử dụng trên 965.000 máy chủ khác nhau—để lấy khuôn mặt của người có ảnh hưởng được tạo ra từ Leonardo và đặt nó lên các cơ thể được tạo ra trong một ứng dụng khác cho phép nội dung NSFW. Giáo sư EP đề xuất tạo một máy chủ Discord riêng cho bạn và sau đó thêm InsightFace trực tiếp vào đó, điều này có thể giải thích tại sao nó được cài đặt trên rất nhiều máy chủ. Điều này cũng có nghĩa là có thể hoán đổi khuôn mặt trên Discord về cơ bản là riêng tư.
Một ứng dụng khác được đề xuất, HelloFace, có đầy đủ các video về những người phụ nữ thực sự nhảy múa trong trang phục bikini hoặc với các thẻ như "gợi cảm" được tạo sẵn để mọi người hoán đổi khuôn mặt. Discord của ứng dụng đã chạy các tuần chủ đề cho những lần hoán đổi khuôn mặt đẹp nhất và nhiều thế hệ hình ảnh và video về phụ nữ. Các tuần chủ đề bao gồm "thời trang latex", "những cô gái thỏ" và "mùa hè ở Miami".
“Mùa hè sắp đến rồi, đã đến lúc khoe bộ bikini mà bạn đã chờ đợi cả mùa đông để mặc! Cho dù bạn đang đi biển hay sẵn sàng bên hồ bơi, bạn sẽ cần những bức ảnh chụp nóng bỏng, và đó chính là những gì chúng tôi dành cho bạn trong bộ sưu tập hôm nay!” một thông báo được đăng bởi quản trị viên Discord có đoạn. Discord cũng có một phòng có tên là “#sharing-is-caring” chứa đầy những bức ảnh hoán đổi khuôn mặt mà mọi người đã thực hiện với các video phụ nữ nhảy múa.
Apple, cho đến nay vẫn chưa giải quyết được vấn đề " sử dụng kép " của các ứng dụng hoán đổi khuôn mặt có thể được sử dụng một cách vô hại nhưng thường được sử dụng để tạo nội dung không được sự đồng ý, đã xóa HelloFace khỏi App Store sau khi chúng tôi liên hệ để xin bình luận. Apple đã chỉ ra Nguyên tắc đánh giá của App Store, trong đó nêu rõ rằng "Ứng dụng không được bao gồm nội dung mang tính xúc phạm, vô cảm, khó chịu, có ý định gây ghê tởm, vô cùng kém duyên hoặc chỉ đơn thuần là đáng sợ". Nguyên tắc cũng nêu rõ: "Các trang web/dịch vụ của bên thứ ba: Nếu ứng dụng của bạn sử dụng, truy cập, kiếm tiền từ quyền truy cập hoặc hiển thị nội dung từ dịch vụ của bên thứ ba, hãy đảm bảo rằng bạn được phép làm như vậy theo các điều khoản sử dụng của dịch vụ đó. Phải cung cấp quyền khi được yêu cầu".
Google không trả lời yêu cầu bình luận, nhưng hiện tại không thể tải xuống HelloFace từ Google Play nữa.
Cuối cùng, Giáo sư EP khuyên mọi người chỉ cần tạo càng nhiều mô hình AI càng tốt: “Không khó lắm đâu. Tạo một khuôn mặt mới, nội dung mới, thiết lập tài khoản mới và lặp lại quy trình này nhiều lần. Thuê các nhóm trò chuyện để kiếm tiền từ các tài khoản, thiết lập quy trình và luồng công việc để tự động hóa việc tạo và tải nội dung, và cuối cùng thuê người làm việc đó cho bạn”.
Giáo sư EP và Emily Pellegrini quảng bá một "công ty" AI có tên là Calu, quảng cáo các dịch vụ chatbot hỗ trợ AI cho các mô hình OnlyFans cũng như việc tạo và quản lý mô hình AI. Một trong những phần khó nhất để hiểu ngành công nghiệp này thực sự lớn đến mức nào, hoạt động như thế nào và ai là người tạo ra những người có sức ảnh hưởng này là thực tế là nhiều "người có sức ảnh hưởng" đang được điều hành bởi những cá nhân riêng lẻ, những người này hoạt động ẩn danh trên internet.
Giáo sư EP không trả lời yêu cầu bình luận. Số điện thoại được liệt kê trên trang web Calu đã bị ngắt kết nối.
St James cho rằng thực tế là có quá nhiều nội dung do AI tạo ra đang kiếm tiền từ tác phẩm đánh cắp của những người sáng tạo nội dung người lớn không phải là sự trùng hợp ngẫu nhiên mà là kết quả trực tiếp của chính sách kéo dài nhiều năm của Instagram nhằm loại bỏ những người sáng tạo nội dung người lớn, gái mại dâm và nhà giáo dục về tình dục trên nền tảng của mình.
Không giống như những người nổi tiếng và những người có lượng người theo dõi lớn trên Instagram phải đối phó với những kẻ mạo danh, hầu hết những người sáng tạo nội dung người lớn và gái mại dâm sử dụng nghệ danh và bút danh để bảo vệ bản thân khỏi những kẻ theo dõi hoặc sự ngược đãi từ những người coi thường nghề nghiệp của họ. Instagram từ chối xác minh họ trừ khi họ cung cấp thông tin nhận dạng bằng tên thật của mình, điều mà những người sáng tạo nội dung người lớn lo ngại sẽ bị rò rỉ ra công chúng và dẫn đến doxing và quấy rối.
Những người sáng tạo nội dung người lớn và gái mại dâm đã phát triển một số phương pháp trong nhiều năm để đối phó với các chính sách hà khắc của Instagram đối với bất kỳ nội dung khiêu dâm nào. Trong thời đại AI tạo ra, các chiến lược này có thể khiến người dùng khó phân loại tài khoản nào là thật và tài khoản nào đang ăn cắp và đăng lại nội dung.
Vì Instagram thường xuyên cấm những người hành nghề mại dâm mà không báo trước, ngay cả khi họ tuân thủ mọi quy tắc nghiêm ngặt của Instagram về nội dung khiêu dâm, nên những người sáng tạo nội dung người lớn hiện thường có nhiều tài khoản, thường được gọi là "tài khoản dự phòng", LINK (Chainlink) với nhau trong tiểu sử. Mục tiêu là khuyến khích đối tượng của họ trên tài khoản chính theo dõi tài khoản dự phòng không hoạt động; nếu Instagram cấm tài khoản chính, họ có thể nhanh chóng kết nối lại với đối tượng của mình và không phải xây dựng lại hoàn toàn lượng người theo dõi từ đầu.
Một tác dụng phụ của chiến lược này là những người hành nghề mại dâm thường có nhiều tài khoản hợp pháp với tên người dùng hơi khác nhau, không có tài khoản nào được xác minh, khiến họ dễ trở thành mục tiêu cho hành vi đánh cắp và bắt chước nội dung.
Cả hai hướng dẫn về người có sức ảnh hưởng AI mà chúng tôi đã xem xét đều nói về cách tránh bị cấm trên Instagram. "Sử dụng ảnh tiểu sử không thực tế và tránh đưa thông tin vị trí sai vào tiểu sử của bạn để giảm khả năng bị đình chỉ vì Danh tính không xác thực", hướng dẫn của Digital Divas cho biết. "Nếu ảnh của bạn mang tính hoạt hình và bạn là người sáng tạo kỹ thuật số, thì khả năng bị coi là không xác thực sẽ thấp hơn".
Trong khi đó, Giáo sư EP khuyên mọi người nên sử dụng một tài khoản email riêng cho mỗi người có sức ảnh hưởng và đảm bảo rằng tài khoản đó "sạch" và không kết nối với người điều hành tài khoản đó hoặc bất kỳ tài khoản nào khác của họ. "Giả sử một trong các tài khoản của bạn bị cấm. Việc có các địa chỉ email riêng biệt sẽ loại bỏ nguy cơ Instagram tạo kết nối giữa tài khoản bị cấm và các tài khoản khác của bạn", Giáo sư EP nói trong hướng dẫn.
“Tránh bị cấm tài khoản bằng cách sử dụng hình ảnh hấp dẫn về mặt thị giác nhưng không quá khiêu khích. Chúng tôi khuyên bạn nên tuân thủ các tiêu chí sau: khuôn mặt dễ thấy, phong cách nghiệp dư” và “để tránh bị cấm bóng ngay từ đầu, bạn nên khởi động tài khoản trong tám tuần đầu tiên” bằng cách đăng nhập hàng ngày và bình luận về hình ảnh của người khác để chứng minh “hoạt động của con người”, hướng dẫn của Giáo sư EP cho biết.
St James cho biết ngay cả việc báo cáo những tài khoản mà cô biết chắc là đang ăn cắp tiền của cô cũng rất rủi ro và có thể khiến những tài khoản hợp pháp của cô gặp rủi ro.
“Bất cứ khi nào chúng tôi, những người sáng tạo, báo cáo những nội dung giả mạo này, chúng tôi có xu hướng gặp rắc rối”, cô nói. “Có vẻ như Instagram nói rằng, 'Ồ, bạn đang mách lẻo về kẻ mạo danh này à? Hãy xem xét kỹ hơn tài khoản của bạn và xem liệu chúng tôi có thể tìm ra vấn đề gì không.' Vì vậy, nhiều khi chúng tôi thậm chí không báo cáo chúng. Đôi khi chúng tôi trả tiền cho các dịch vụ để báo cáo nội dung giả mạo, nhưng điều đó giống như chơi trò đập chuột chũi vậy. Nó không bao giờ kết thúc.”
Mantzarlis, giám đốc sáng kiến về an ninh, tin cậy và an toàn tại Cornell Tech, và St James đồng ý rằng không rõ liệu Instagram có phương tiện để xóa hoặc gắn nhãn những tài khoản này là do AI tạo ra hay không, nhưng việc công ty hiện không làm bất kỳ điều nào trong số những điều này dường như có lợi cho công ty.
Mantzarlis cho biết: "Mọi người đang nhấp, thích và tương tác với các tài khoản này, và một số tương tác đó là thật, và một số thì không". "Instagram có thể bán thứ này dưới dạng lưu lượng truy cập. Nó có thể bán quảng cáo dựa trên điều này. Vậy, liệu có tương lai nào mà các tài khoản người dùng thực tế, thực sự gần giống như một phần trăm nhỏ hơn, tinh hoa của Instagram không? Tôi nghĩ là có."
St James cho biết: “Nếu đột nhiên họ xóa bỏ tất cả Bots, tài khoản chết, tài khoản giả, tài khoản mạo danh thì điều gì sẽ xảy ra với quảng cáo của họ?”
