Mục lục lục
ToggleTheo báo cáo được công bố vào ngày 15 bởi Sáng kiến Minh bạch Công nghệ, các nhà nghiên cứu đã phát hiện 18 ứng dụng trên Apple App Store và 20 ứng dụng trên Google Play Store có chức năng tạo ảnh khỏa thân hoặc ép buộc thay đổi trang phục.
Chỉ cần gõ "nudify" hoặc "undress" vào thanh tìm kiếm của cửa hàng để tìm các công cụ có thể chỉnh sửa ảnh của người nổi tiếng hoặc người bình thường để họ trông như khỏa thân hoặc bán khỏa thân.
38 ứng dụng, 483 lần lượt tải xuống, 122 triệu đô la
Theo ước tính của công ty nghiên cứu thị trường AppMagic, các ứng dụng này đã được tải xuống tổng cộng 483 triệu lần, tạo ra thu nhập khoảng 122 triệu đô la.
Một số ứng dụng được quảng cáo trực tiếp với nội dung khiêu dâm rõ ràng, trong khi những ứng dụng khác được ngụy trang dưới dạng công cụ xử lý hình ảnh thông thường, nhưng cũng có thể dễ dàng được sử dụng để tạo ra hình ảnh mang tính tình dục ngoài ý muốn, và một số ứng dụng thậm chí còn cung cấp hệ thống đăng ký trả phí.
Các quảng cáo không chỉ bán không gian quảng cáo mà còn thu hút thu hút người dùng đến các ứng dụng ảnh khỏa thân.
Phát hiện đáng chú ý nhất trong báo cáo là hệ thống quảng cáo của Apple và Google tự mình ủng hộ những ứng dụng như vậy. Không chỉ hiển thị quảng cáo cho các ứng dụng ảnh khỏa thân trên trang kết quả tìm kiếm, mà chức năng tự động hoàn thành tìm kiếm của hai nền tảng này còn chủ động đề xuất thêm tên các ứng dụng ảnh khỏa thân khi người dùng nhập từ khóa, về cơ bản hoạt động như một thuật toán chủ động hướng dẫn các công cụ độc hại.
Katie Paul, giám đốc Sáng kiến Minh bạch Công nghệ, cho biết : "Vấn đề không chỉ là các công ty này không xem xét ứng dụng một cách đúng đắn, tiếp tục niêm yết chúng và kiếm lợi từ chúng, mà nghiêm trọng hơn, chính hệ thống của họ đang hướng người dùng đến những ứng dụng này."
Trên thực tế, các hướng dẫn xem xét ứng dụng của Apple App Store nghiêm cấm rõ ràng "nội dung khiêu dâm rõ ràng"; các chính sách của Google Play Store cũng tương tự cấm "các ứng dụng làm hạ thấp hoặc coi thường người khác, chẳng hạn như các ứng dụng tuyên bố cho phép người khác cởi quần áo hoặc nhìn xuyên qua quần áo, ngay cả khi chúng tự quảng cáo là trò đùa hoặc nhằm mục đích giải trí." Mặc dù các chính sách rất rõ ràng, nhưng việc thực thi lại là một vấn đề hoàn toàn khác.
Apple hủy niêm yết 15 mẫu điện thoại khỏi App Store; Google đang "bị điều tra".
Sau khi Bloomberg liên hệ với hai công ty, Apple tuyên bố đã hủy niêm yết 15 ứng dụng đánh dấu trong báo cáo , trong đó"PicsVid AI Hot Video Generator", ứng dụng cung cấp các mẫu có nội dung gợi dục. Apple cũng đã liên hệ với nhà phát triển của sáu ứng dụng khác, yêu cầu họ giải quyết vấn đề trong một thời hạn nhất định hoặc sẽ hủy niêm yết, đồng thời nhấn mạnh rằng họ đã chủ động từ chối một số ứng dụng và hủy niêm yết các ứng dụng khác.
Google cho biết nhiều ứng dụng được đề cập trong báo cáo đã bị đình chỉ vì vi phạm chính sách của họ, đồng thời nói thêm: "Chúng tôi điều tra và có hành động thích hợp khi nhận được báo cáo về vi phạm chính sách", và cuộc điều tra vẫn đang tiếp diễn.
Một ứng dụng khác trên Google Play do các nhà nghiên cứu đặt tên, "Video Face Swap AI: DeepFace," có xếp hạng "E (phù hợp cho mọi lứa tuổi)" và đã được tải xuống hơn 1 triệu lần. Tuy nhiên, ứng dụng này có một tính năng cho phép người dùng ghép khuôn mặt của người khác vào các video nhảy gợi cảm. Người dùng có thể tìm thấy nó bằng cách tìm kiếm "face swap" trong cửa hàng ứng dụng.
Nhà phát triển phần mềm Okapi Software cho biết họ đã tiến hành điều tra và gỡ bỏ một số nội dung do người dùng tải lên, đồng thời phủ nhận việc ứng dụng này cung cấp chức năng tạo ảnh khỏa thân.
Các học giả chỉ trích việc thực thi pháp luật là "không công bằng và thiếu minh bạch", thúc đẩy sự tiến bộ nhanh chóng trong luật pháp của Mỹ và Anh.
Anne Helmond, giáo sư tại Đại học Utrecht và giám đốc nghiên cứu của Sáng kiến Nghiên cứu Ứng dụng, chỉ ra rằng các cơ chế thực thi của nền tảng này có những khiếm khuyết về cấu trúc: "Nếu một ứng dụng được quảng cáo là công cụ tạo ảnh thông thường, nó vẫn có thể vượt qua quá trình kiểm duyệt ngay cả khi có khả năng bị lạm dụng. Khả năng hiển thị được thúc đẩy bởi hệ thống xếp hạng và tìm kiếm, và việc sử dụng gây tranh cãi thực tế có thể làm tăng mức độ hiển thị của ứng dụng."
Helmond thẳng thắn tuyên bố rằng các nỗ lực thực thi của hai nền tảng này là "không đồng đều và thiếu minh bạch".
