Khi các trình tạo hình ảnh được hỗ trợ bởi AI ngày càng dễ truy cập hơn, các trang web loại bỏ quần áo của người trong ảnh bằng kỹ thuật số cũng xuất hiện. Một trong những trang web này có một tính năng đáng lo ngại cung cấp cái nhìn thoáng qua về cách sử dụng các ứng dụng này: hai nguồn cấp dữ liệu có vẻ như là những bức ảnh được tải lên bởi những người dùng muốn “khỏa thân” đối tượng.
Nguồn cấp dữ liệu hình ảnh là sự hiển thị gây sốc về các nạn nhân dự kiến. WIRED nhìn thấy một số hình ảnh các cô gái rõ ràng là trẻ em. Những bức ảnh khác chụp người lớn và có chú thích cho biết họ là bạn nữ hoặc nữ lạ. Trang chủ của trang web không hiển thị bất kỳ hình ảnh khỏa thân giả mạo nào có thể được tạo ra cho những khách truy cập chưa đăng nhập.
Những người muốn tạo và lưu hình ảnh khỏa thân deepfake được yêu cầu đăng nhập vào trang web bằng ví tiền điện tử. Hiện chưa nêu giá, nhưng trong một video năm 2022 do một trang YouTube liên kết đăng tải, trang web này cho phép người dùng mua tín dụng để tạo hình ảnh khỏa thân deepfake, bắt đầu từ 5 tín dụng với giá 5 đô la. WIRED đã tìm hiểu về trang web này từ một bài đăng trên subreddit về thị trường NFT OpenSea, được liên kết với trang YouTube. Sau khi WIRED liên hệ với YouTube, nền tảng này cho biết họ đã chấm dứt kênh này; Reddit nói với WIRED rằng người dùng này đã bị cấm.
WIRED không xác định trang web vẫn đang trực tuyến để bảo vệ phụ nữ và trẻ em gái vẫn ở trên nguồn cấp dữ liệu của nó. Địa chỉ IP của trang web, đi vào hoạt động vào tháng 2 năm 2022, thuộc về nhà cung cấp cơ sở hạ tầng và bảo mật internet Cloudflare. Khi được hỏi về sự liên quan của nó, người phát ngôn của công ty Jackie Dutton đã lưu ý sự khác biệt giữa việc cung cấp địa chỉ IP của trang web, như Cloudflare đã làm và lưu trữ nội dung của nó, điều mà nó không làm.
WIRED đã thông báo cho Trung tâm quốc gia về trẻ em mất tích và bị bóc lột, nơi giúp báo cáo các trường hợp bóc lột trẻ em cho cơ quan thực thi pháp luật, về sự tồn tại của trang web.
Các nhà phát triển AI như OpenAI và Stability AI cho biết trình tạo hình ảnh của họ dành cho mục đích thương mại và nghệ thuật, đồng thời có các biện pháp bảo vệ để ngăn chặn nội dung có hại. Nhưng công nghệ tạo hình ảnh AI nguồn mở hiện tương đối mạnh mẽ và tạo ra nội dung khiêu dâm là một trong những trường hợp sử dụng phổ biến nhất . Khi việc tạo hình ảnh trở nên dễ dàng hơn, vấn đề về hình ảnh giả mạo khỏa thân không có sự đồng thuận, thường nhắm đến phụ nữ, ngày càng lan rộng và nghiêm trọng. Đầu tháng này, WIRED đã báo cáo rằng hai thanh thiếu niên ở Florida đã bị bắt vì bị cáo buộc tạo và chia sẻ hình ảnh khỏa thân do AI tạo ra của các bạn cùng lớp cấp hai của họ mà không có sự đồng ý, đây dường như là trường hợp đầu tiên thuộc loại này.
Mary Anne Franks, giáo sư tại Trường Luật Đại học George Washington, người đã nghiên cứu vấn đề hình ảnh khiêu dâm không có sự đồng thuận, nói rằng trang web khỏa thân này nêu bật một thực tế nghiệt ngã: Có nhiều sự cố liên quan đến hình ảnh khỏa thân do AI tạo ra của phụ nữ mà không có sự đồng ý và trẻ vị thành niên hơn những gì công chúng hiện biết. Một số trường hợp công khai chỉ bị phơi bày vì những hình ảnh được chia sẻ trong cộng đồng và ai đó đã nghe về nó và đưa ra cảnh báo.
Franks nói: “Sẽ có tất cả các loại trang web như thế này mà không thể truy lùng được và hầu hết nạn nhân đều không biết rằng điều này đã xảy ra với họ cho đến khi có ai đó tình cờ gắn cờ cho họ”.
Trang web được WIRED đánh giá có các nguồn cấp dữ liệu có hình ảnh rõ ràng do người dùng gửi trên hai trang riêng biệt. Một cái được gắn nhãn "Nhà" và cái còn lại là "Khám phá". Một số bức ảnh cho thấy rõ ràng các cô gái dưới 18 tuổi.
Một hình ảnh cho thấy một cô gái trẻ với một bông hoa trên tóc đang đứng dựa vào một cái cây. Một cô gái khác ở nơi có vẻ là lớp học cấp hai hoặc cấp ba. Bức ảnh dường như được chụp bởi một người bạn cùng lớp một cách kín đáo, có chú thích là “KHÔNG KHÍ”.
Một hình ảnh khác trên trang web cho thấy một nhóm thanh thiếu niên có vẻ như đang học cấp hai: một cậu bé chụp ảnh tự sướng trong phòng tập thể dục của trường với hai cô gái, họ mỉm cười và tạo dáng chụp ảnh. Các đường nét của cậu bé bị che khuất bởi ống kính Snapchat khiến đôi mắt của cậu phóng to đến mức che khuất khuôn mặt.
Chú thích trên những hình ảnh dường như được tải lên cho biết chúng bao gồm hình ảnh của bạn bè, bạn cùng lớp và đối tác lãng mạn. “Bạn gái của tôi” có chú thích cho biết, cho thấy một phụ nữ trẻ đang chụp ảnh tự sướng trước gương.
Nhiều bức ảnh cho thấy những người có ảnh hưởng nổi tiếng trên TikTok, Instagram và các nền tảng truyền thông xã hội khác. Những bức ảnh khác dường như là ảnh chụp màn hình Instagram của những người chia sẻ hình ảnh về cuộc sống hàng ngày của họ. Một hình ảnh cho thấy một phụ nữ trẻ đang mỉm cười với món tráng miệng được trang trí bằng một ngọn nến ăn mừng.
Một số hình ảnh xuất hiện cho thấy những người hoàn toàn xa lạ với người chụp bức ảnh. Một hình ảnh được chụp từ phía sau mô tả một người phụ nữ hoặc một cô gái không tạo dáng chụp ảnh mà chỉ đứng gần nơi có vẻ là một điểm thu hút khách du lịch.
Một số hình ảnh trong nguồn cấp dữ liệu được WIRED xem xét đã bị cắt để xóa khuôn mặt của phụ nữ và trẻ em gái, chỉ hiển thị ngực hoặc háng của họ.
Trong khoảng thời gian tám ngày theo dõi trang web, WIRED đã thấy năm hình ảnh mới về phụ nữ xuất hiện trên nguồn cấp dữ liệu Trang chủ và ba hình ảnh trên trang Khám phá. Số liệu thống kê được liệt kê trên trang web cho thấy hầu hết những hình ảnh này đều tích lũy được hàng trăm “lượt xem”. Không rõ liệu tất cả hình ảnh được gửi lên trang web có được đưa vào nguồn cấp dữ liệu Trang chủ hoặc Khám phá hay không hoặc cách lập bảng lượt xem. Mỗi bài đăng trên nguồn cấp dữ liệu Trang chủ đều có ít nhất vài chục lượt xem.
Ảnh của những người nổi tiếng và những người có lượng người theo dõi lớn trên Instagram đứng đầu danh sách những hình ảnh “Được xem nhiều nhất” được liệt kê trên trang web. Những người được xem nhiều nhất mọi thời đại trên trang này là diễn viên Jenna Ortega với hơn 66.000 lượt xem, ca sĩ kiêm nhạc sĩ Taylor Swift với hơn 27.000 lượt xem, và một người có ảnh hưởng và DJ đến từ Malaysia với hơn 26.000 lượt xem.
Swift và Ortega đã từng là mục tiêu của những bức ảnh khỏa thân deepfake trước đây. Việc lan truyền hình ảnh khỏa thân giả của Swift trên X vào tháng 1 đã gây ra một cuộc thảo luận mới về tác động của deepfake và sự cần thiết phải có sự bảo vệ pháp lý lớn hơn cho nạn nhân. Tháng này, NBC đưa tin rằng, trong bảy tháng, Meta đã lưu trữ quảng cáo cho một ứng dụng khỏa thân . Ứng dụng này khoe khoang về khả năng “cởi đồ” mọi người bằng cách sử dụng hình ảnh của Jenna Ortega từ khi cô 16 tuổi.
Ở Hoa Kỳ, không có luật liên bang nào nhắm vào việc phân phối hình ảnh khỏa thân giả mạo, không có sự đồng thuận. Một số bang đã ban hành luật riêng của họ. Tuy nhiên, Jennifer Newman, giám đốc điều hành Bộ phận Trẻ em bị bóc lột của NCMEC cho biết, những hình ảnh khỏa thân do AI tạo ra của trẻ vị thành niên cũng thuộc cùng loại với các tài liệu lạm dụng tình dục trẻ em khác, hay CSAM.
Newman nói: “Nếu nó không thể phân biệt được với hình ảnh của một nạn nhân còn sống, của một đứa trẻ thực sự thì đó là tài liệu lạm dụng tình dục trẻ em đối với chúng tôi”. “Và chúng tôi sẽ xử lý nó giống như chúng tôi đang xử lý các báo cáo của mình, khi chúng tôi chuyển những báo cáo này cho cơ quan thực thi pháp luật.”
Newman cho biết vào năm 2023, NCMEC đã nhận được khoảng 4.700 báo cáo “bằng cách nào đó kết nối với công nghệ AI tổng hợp”.
Những người muốn tạo và lưu hình ảnh khỏa thân deepfake trên trang web được yêu cầu đăng nhập bằng ví tiền điện tử Coinbase, Metamask hoặc WalletConnect. Người phát ngôn của Coinbase, McKenna Otterstedt, cho biết công ty đang tiến hành một cuộc điều tra nội bộ về việc tích hợp trang web với ví của công ty. Metamask thuộc sở hữu của WalletConnect và ConsenSys đã không trả lời yêu cầu bình luận.
Vào tháng 11 năm 2022, kênh YouTube của trang web deepnude đã đăng một video tuyên bố người dùng có thể “mua tín dụng” bằng Visa hoặc Mastercard. Cả hai bộ xử lý thanh toán đều không trả lời yêu cầu bình luận của WIRED.
Trên OpenSea, một thị trường dành cho NFT, trang web này đã liệt kê 30 NFT vào năm 2022 với các hình ảnh chưa chỉnh sửa, không được làm giả sâu về những người có ảnh hưởng trên Instagram và TikTok khác nhau, tất cả đều là phụ nữ. Sau khi mua NFT bằng tiền điện tử ether—trị giá 280 đô la theo tỷ giá hối đoái ngày nay—chủ sở hữu sẽ có quyền truy cập vào trang web, theo kho lưu trữ web, đang ở giai đoạn đầu vào thời điểm đó. Danh sách NFT cho biết: “Quyền riêng tư là ưu tiên hàng đầu” đối với người dùng.
Các NFT được phân loại bằng các thẻ đề cập đến các đặc điểm nhận thức của phụ nữ. Các danh mục bao gồm Kích thước ngực, Quốc gia (với hầu hết phụ nữ được liệt kê là đến từ Malaysia hoặc Đài Loan) và Đặc điểm, với các thẻ bao gồm “dễ thương”, “ngây thơ” và “làm mẹ”.
Không có NFT nào được tài khoản liệt kê từng được bán. OpenSea đã xóa danh sách và tài khoản trong vòng 90 phút kể từ khi WIRED liên hệ với công ty. Không ai trong số những phụ nữ có mặt trong NFT trả lời bình luận.
Không rõ ai hoặc bao nhiêu người đã tạo ra hoặc sở hữu trang web khỏa thân này. Tài khoản OpenSea hiện đã bị xóa có hình ảnh hồ sơ giống hệt với kết quả Google Image thứ ba cho “mọt sách”. Tiểu sử tài khoản nói rằng câu thần chú của người sáng tạo là “tiết lộ những điều tồi tệ trên thế giới này” và sau đó chia sẻ nó với “tất cả những kẻ khốn nạn và thảm hại”.
Một tài khoản X được liên kết từ tài khoản OpenSea đã sử dụng cùng một tiểu sử và cũng được liên kết với một blog hiện không hoạt động về “Whitehat, Blackhat Hacking” và “Lừa đảo và kiếm tiền”. Chủ sở hữu tài khoản dường như là một trong ba người đóng góp cho blog, nơi anh ta có biệt danh là 69 Fucker.
Trang web này được quảng cáo trên Reddit chỉ bởi một người dùng, người này có ảnh đại diện của một người đàn ông gốc Đông Á, có vẻ dưới 50 tuổi. Tuy nhiên, kho lưu trữ của trang web từ tháng 3 năm 2022 tuyên bố rằng trang web này “được tạo bởi 9 gã sừng sỏ”. những người có đầy đủ kỹ năng.” Phần lớn các hình ảnh hồ sơ dường như là ảnh stock và các chức danh công việc đều mang tính hài hước. Ba người trong số họ là Giám đốc Horny, Kẻ theo dõi đáng sợ và Giám đốc chiến lợi phẩm.
Một địa chỉ email liên kết với trang web đã không trả lời bình luận.
