Các công ty công nghệ lớn, bao gồm Google, Apple và Discord, đã cho phép mọi người nhanh chóng đăng ký vào các trang web "cởi đồ" có hại, sử dụng AI để loại bỏ quần áo khỏi ảnh thật để khiến nạn nhân trông "khỏa thân" mà không có sự đồng ý của họ. Hơn một chục trang web deepfake này đã sử dụng các nút đăng nhập từ các công ty công nghệ trong nhiều tháng.
Một phân tích của WIRED đã tìm thấy 16 trang web "cởi đồ" và "khỏa thân" lớn nhất sử dụng cơ sở hạ tầng đăng nhập từ Google, Apple, Discord, Twitter, Patreon và Line. Cách tiếp cận này cho phép mọi người dễ dàng tạo tài khoản trên các trang web deepfake—mang đến cho họ vẻ ngoài đáng tin cậy—trước khi họ trả tiền cho các khoản tín dụng và tạo hình ảnh.
Trong khi Bots và trang web tạo ra hình ảnh thân mật không đồng thuận của phụ nữ và trẻ em gái đã tồn tại trong nhiều năm , số lượng đã tăng lên với sự ra đời của AI tạo sinh. Loại lạm dụng "cởi đồ" này đang lan rộng một cách đáng báo động , với việc các bé trai tuổi teen bị cáo buộc tạo ra hình ảnh của bạn cùng lớp . Các nhà phê bình cho biết các công ty công nghệ đã chậm chạp trong việc giải quyết quy mô của các vấn đề, với các trang web xuất hiện nhiều trong kết quả tìm kiếm, quảng cáo trả phí quảng bá chúng trên phương tiện truyền thông xã hội và các ứng dụng xuất hiện trong các cửa hàng ứng dụng .
“Đây là sự tiếp nối của xu hướng bình thường hóa bạo lực tình dục đối với phụ nữ và trẻ em gái của Big Tech”, Adam Dodge, một luật sư và là người sáng lập EndTAB (Chấm dứt lạm dụng do công nghệ gây ra) cho biết. “API đăng nhập là công cụ tiện lợi. Chúng ta không bao giờ nên biến bạo lực tình dục thành hành động tiện lợi”, ông nói. “Chúng ta nên dựng lên những bức tường xung quanh quyền truy cập vào các ứng dụng này, thay vào đó, chúng ta lại trao cho mọi người một cây cầu kéo”.
Các công cụ đăng nhập được WIRED phân tích, được triển khai thông qua API và các phương pháp xác thực phổ biến, cho phép mọi người sử dụng các tài khoản hiện có để tham gia các trang web deepfake. Hệ thống đăng nhập của Google xuất hiện trên 16 trang web, Discord xuất hiện trên 13 trang web và Apple xuất hiện trên sáu trang web. Nút X xuất hiện trên ba trang web, với Patreon và dịch vụ nhắn tin Line đều xuất hiện trên cùng hai trang web.
WIRED không nêu tên các trang web vì chúng cho phép lạm dụng. Một số là một phần của các mạng lưới rộng hơn và thuộc sở hữu của cùng một cá nhân hoặc công ty. Các hệ thống đăng nhập đã được sử dụng mặc dù các công ty công nghệ nói chung có các quy tắc nêu rõ rằng các nhà phát triển không được sử dụng dịch vụ của họ theo cách có thể gây hại, quấy rối hoặc xâm phạm quyền riêng tư của mọi người.
Sau khi được WIRED liên hệ, người phát ngôn của Discord và Apple cho biết họ đã xóa các tài khoản nhà phát triển được kết nối với trang web của họ. Google cho biết họ sẽ có hành động chống lại các nhà phát triển khi phát hiện các điều khoản của mình bị vi phạm. Patreon cho biết họ cấm các tài khoản cho phép tạo hình ảnh khiêu dâm và Line xác nhận họ đang điều tra nhưng cho biết họ không thể bình luận về các trang web cụ thể. X đã không trả lời yêu cầu bình luận về cách hệ thống của họ đang được sử dụng.
Trong những giờ sau khi Jud Hoffman, phó chủ tịch phụ trách tin cậy và an toàn của Discord, nói với WIRED rằng họ đã chấm dứt quyền truy cập của các trang web vào API của mình vì vi phạm chính sách dành cho nhà phát triển , một trong những trang web undress đã đăng trên kênh Telegram rằng quyền ủy quyền thông qua Discord "tạm thời không khả dụng" và tuyên bố rằng họ đang cố gắng khôi phục quyền truy cập. Dịch vụ undress đó đã không trả lời yêu cầu bình luận của WIRED về hoạt động của mình.
Kể từ khi công nghệ deepfake xuất hiện vào cuối năm 2017 , số lượng video và hình ảnh thân mật không được đồng thuận được tạo ra đã tăng theo cấp số nhân. Trong khi video khó sản xuất hơn, việc tạo hình ảnh bằng các trang web và ứng dụng "cởi đồ" hoặc "khỏa thân" đã trở nên phổ biến.
“Chúng ta phải làm rõ rằng đây không phải là sự đổi mới, mà là lạm dụng tình dục”, David Chiu, luật sư thành phố San Francisco, người gần đây đã mở một vụ kiện chống lại các trang web cởi đồ và khỏa thân và những người sáng tạo ra chúng, cho biết. Chiu cho biết 16 trang web mà vụ kiện của văn phòng ông tập trung vào đã có khoảng 200 triệu lượt truy cập chỉ trong sáu tháng đầu năm nay. “Những trang web này đang tham gia vào hành vi bóc lột khủng khiếp đối với phụ nữ và trẻ em gái trên toàn cầu. Những hình ảnh này được sử dụng để bắt nạt, làm nhục và đe dọa phụ nữ và trẻ em gái”, Chiu cáo buộc.
Các trang web undress hoạt động như các doanh nghiệp, thường hoạt động trong bóng tối—chủ động cung cấp rất ít thông tin chi tiết về chủ sở hữu hoặc cách thức hoạt động của họ . Các trang web do cùng một người điều hành thường trông giống nhau và sử dụng các điều khoản và điều kiện gần như giống hệt nhau. Một số cung cấp hơn một chục ngôn ngữ khác nhau, cho thấy bản chất toàn cầu của vấn đề . Một số kênh Telegram được liên kết với các trang web có hàng chục nghìn thành viên.
Các trang web cũng liên tục được phát triển: Họ thường xuyên đăng về các tính năng mới mà họ đang phát triển—một trang web tuyên bố rằng AI của họ có thể tùy chỉnh diện mạo cơ thể phụ nữ và cho phép "tải lên từ Instagram". Các trang web thường tính phí người dùng để tạo hình ảnh và có thể chạy các chương trình liên kết để khuyến khích mọi người chia sẻ hình ảnh; một số trang web đã hợp tác với nhau thành một tập thể để tạo ra loại tiền điện tử riêng có thể được sử dụng để thanh toán cho hình ảnh.
Một người tự nhận mình là Alexander August và là CEO của một trong những trang web, đã trả lời WIRED, nói rằng họ "hiểu và thừa nhận những lo ngại về việc sử dụng sai công nghệ của chúng tôi". Người này khẳng định trang web đã đưa ra nhiều cơ chế an toàn khác nhau để ngăn chặn việc tạo ra hình ảnh trẻ vị thành niên. "Chúng tôi cam kết thực hiện trách nhiệm xã hội và sẵn sàng hợp tác với các cơ quan chính thức để tăng cường tính minh bạch, an toàn và độ tin cậy trong các dịch vụ của chúng tôi", họ viết trong email.
Thông tin đăng nhập của công ty công nghệ thường được hiển thị khi ai đó cố gắng đăng ký vào trang web hoặc nhấp vào các nút để thử tạo hình ảnh. Không rõ có bao nhiêu người sẽ sử dụng các phương thức đăng nhập và hầu hết các trang web cũng cho phép mọi người tạo tài khoản chỉ bằng địa chỉ email của họ. Tuy nhiên, trong số các trang web được xem xét, phần lớn đã triển khai API đăng nhập của nhiều công ty công nghệ, trong đó Đăng nhập bằng Google là công ty được sử dụng rộng rãi nhất. Khi nhấp vào tùy chọn này, lời nhắc từ hệ thống Google cho biết trang web sẽ lấy tên, địa chỉ email, tùy chọn ngôn ngữ và ảnh hồ sơ của mọi người.
Hệ thống đăng nhập của Google cũng tiết lộ một số thông tin về các tài khoản nhà phát triển được liên kết với một trang web. Ví dụ, bốn trang web được liên kết với một tài khoản Gmail; sáu trang web khác được liên kết với một tài khoản khác. "Để sử dụng Đăng nhập bằng Google, các nhà phát triển phải đồng ý với Điều khoản dịch vụ của chúng tôi, trong đó cấm quảng bá nội dung khiêu dâm cũng như hành vi hoặc nội dung phỉ báng hoặc quấy rối người khác", một phát ngôn viên của Google cho biết, đồng thời nói thêm rằng "hành động thích hợp" sẽ được thực hiện nếu các điều khoản này bị vi phạm.
Các công ty công nghệ khác sử dụng hệ thống đăng nhập này cho biết họ đã cấm các tài khoản sau khi được WIRED liên hệ.
Hoffman từ Discord cho biết ngoài việc thực hiện hành động đối với các trang web bị WIRED gắn cờ, công ty sẽ "tiếp tục xử lý các trang web khác mà chúng tôi biết là vi phạm chính sách của chúng tôi". Người phát ngôn của Apple, Shane Bauer cho biết họ đã chấm dứt nhiều giấy phép nhà phát triển với Apple và Sign In With Apple sẽ không còn hoạt động trên các trang web của họ nữa. Adiya Taylor, giám đốc truyền thông doanh nghiệp tại Patreon, cho biết họ cấm các tài khoản cho phép hoặc tài trợ cho quyền truy cập vào các công cụ bên ngoài có thể tạo ra tài liệu dành cho người lớn hoặc hình ảnh khiêu dâm. "Chúng tôi sẽ thực hiện hành động đối với bất kỳ tác phẩm hoặc tài khoản nào trên Patreon bị phát hiện vi phạm Nguyên tắc cộng đồng của chúng tôi".
Cũng như các hệ thống đăng nhập, một số trang web hiển thị logo của Mastercard hoặc Visa, ngụ ý rằng chúng có thể được sử dụng để thanh toán cho các dịch vụ của họ. Visa đã không trả lời yêu cầu bình luận của WIRED, trong khi một phát ngôn viên của Mastercard cho biết "việc mua nội dung deepfake không được phép trên mạng của chúng tôi" và Mastercard sẽ hành động khi phát hiện hoặc biết được bất kỳ trường hợp nào.
Nhiều lần, các công ty công nghệ và nhà cung cấp dịch vụ thanh toán đã có hành động chống lại các dịch vụ AI cho phép mọi người tạo ra hình ảnh hoặc video không được sự đồng ý sau khi phương tiện truyền thông đưa tin về hoạt động của họ. Clare McGlynn, giáo sư luật tại Đại học Durham, người có chuyên môn về quy định pháp lý về khiêu dâm, bạo lực và lạm dụng tình dục trực tuyến, cho biết các nền tảng Big Tech đang tạo điều kiện cho sự phát triển của các trang web khỏa thân và các trang web tương tự bằng cách không chủ động hành động chống lại chúng.
“Điều đáng lo ngại là đây là những bước bảo mật và kiểm duyệt cơ bản nhất đang bị thiếu hoặc không được thực thi”, McGlynn nói về các hệ thống đăng nhập đang được sử dụng, đồng thời nói thêm rằng “hoàn toàn không đủ” để các công ty phản ứng khi các nhà báo hoặc nhà vận động nêu bật cách các quy tắc của họ dễ dàng bị né tránh. “Rõ ràng là họ không quan tâm, bất chấp lời lẽ hùng biện của họ”, McGlynn nói. “Nếu không, họ đã thực hiện những bước đơn giản nhất này để giảm quyền truy cập”.
