Nhóm tiếp thị tại Shein có lẽ nghĩ rằng họ đã tìm thấy hình mẫu hoàn hảo: đường viền hàm dưới sắc nét, đôi mắt u ám, kiểu khuôn mặt có thể bán áo sơ mi chất lượng thấp cho bất kỳ ai lướt web lúc 2 giờ sáng. Chỉ có một vấn đề duy nhất - anh chàng đẹp trai do AI tạo ra của họ là Luigi Mangione, 26 tuổi bị buộc tội giết CEO của UnitedHealthcare vào tháng 12 năm ngoái.
Chiếc áo sơ mi cotton cơ bản này xuất hiện trên trang web của Shein với thông tin mà nhà nghiên cứu AI Henk van Ess nhận định là sản phẩm của Midjourney. Công cụ nhận dạng khuôn mặt đã xác nhận sự trùng khớp. Chỉ vài giờ sau khi lan truyền, danh sách sản phẩm đã biến mất nhanh hơn cả dòng chữ nhỏ trong chính sách hoàn trả của Shein.
"Chúng tôi đã biết về sản phẩm này và đã gỡ bỏ nó khỏi trang web", một phát ngôn viên của Shein nói với TMZ . Công ty đổ lỗi cho một nhà cung cấp bên thứ ba, lảng tránh trách nhiệm mà không nêu tên nhà cung cấp bị nghi ngờ. Chiếc áo được cho là đã bán hết trước khi bất kỳ ai tại Shein nhận ra sự giống nhau giữa mẫu áo mới của họ với người đàn ông bị truy nã gắt gao nhất nước Mỹ tuần trước.
Nhưng tất nhiên, bạn có thể truy cập quảng cáo nếu bạn truy cập Wayback Machine .
Shein hứa sẽ có "hành động thích hợp" đối với nhà cung cấp, có thể là tìm một nhà cung cấp có thể tạo ra các mô hình giả không vô tình sao chép những người có tên trong danh sách theo dõi của FBI.
Sự việc này đã châm ngòi cho làn sóng chỉ trích thường thấy, khi người dùng vừa kinh hoàng vừa ngưỡng mộ một cách miễn cưỡng đối với bất kỳ thuật toán nào cho rằng "kẻ giết CEO được cho là" là thẩm mỹ phù hợp cho trang phục thường ngày giá rẻ.
Vụ việc sử dụng thuật toán của Shein là một trong số nhiều vụ việc liên quan đến AI, bao gồm cả Scarlett Johansson, người gần như đã biến mình thành gương mặt giả của phong trào chống deepfake.
Nữ diễn viên nổi tiếng đã đe dọa kiện OpenAI vì một trợ lý giọng nói quen thuộc đến đáng ngờ . Sau đó, cô kiện Lisa AI vì đã tạo ra một người bạn đồng hành AI sử dụng hình ảnh của cô. Và sau đó, hình ảnh của cô đã bị đưa vào mộtchiến dịch hoàn toàn do AI tạo ra mà không có sự đồng ý của cô, trong đó nhiều nghệ sĩ Do Thái khác nhau mặc áo phông giơ ngón giữa với Kanye West.
Gần đây, công ty trò chơi Nexon đã bị phát hiện sử dụng người có sức ảnh hưởng là AI trong quảng cáo TikTok cho The First Descendant.
"Những quảng cáo AI này khiến tôi buồn và lo lắng cho tương lai của trò chơi", một người dùng Reddit viết. "Điều tồi tệ nhất là bất kỳ ai kiểm soát các tài khoản TikTok chính thức của TFD đều biết về phản ứng dữ dội đối với quảng cáo AI nhưng lại cố tình lờ đi và che giấu nó. Họ đã xóa và đăng lại các video AI mỗi khi nhận được quá nhiều phản ứng tiêu cực trong phần bình luận."
Các cơ quan quản lý đang nỗ lực để bắt kịp, nhưng cho đến nay, quy định vẫn chậm chạp trong khi AI lại phát triển nhanh chóng.
