Ủy ban châu Âu hôm thứ Hai đã khởi động một cuộc điều tra chính thức về việc liệu X có vi phạm các quy định kỹ thuật số của EU hay không, cụ thể là do bị cáo buộc không ngăn chặn chatbot Grok AI của mình tạo ra và phát tán nội dung bất hợp pháp, bao gồm cả hình ảnh khiêu dâm trẻ em.
Ủy ban cho biết trong một tuyên bố hôm thứ Hai rằng cuộc điều tra sẽ đánh giá xem công ty đã đánh giá và giảm thiểu rủi ro một cách thích đáng trước khi triển khai các tính năng tạo hình ảnh của Grok hay chưa .
Ủy ban cũng cho biết các rủi ro đã trở thành hiện thực thông qua việc tạo ra và phát tán nội dung khiêu dâm bất hợp pháp, gây nguy hiểm nghiêm trọng cho công dân EU.
Điều này diễn ra trong bối cảnh sự giám sát quốc tế ngày càng gia tăng đối với vai trò của Grok trong việc tạo ra các video deepfake không được sự đồng ý của người dùng.
Hai tuần trước, X đã áp đặt các hạn chế , giới hạn việc tạo hình ảnh chỉ dành cho người dùng trả phí và bổ sung các rào cản kỹ thuật để ngăn người dùng chỉnh sửa ảnh người khác mặc quần áo hở hang. Công ty cũng chặn tính năng này tại các khu vực pháp lý nơi nội dung như vậy là bất hợp pháp.
Bất chấp những biện pháp này, các nhà nghiên cứu phát hiện ra rằng khoảng một phần ba số hình ảnh khiêu dâm trẻ em được xác định trong mẫu CCDH vẫn có thể truy cập được trên nền tảng của X.
"Với cuộc điều tra này, chúng tôi sẽ xác định liệu X có đáp ứng các nghĩa vụ pháp lý của mình theo Đạo luật An ninh và Dịch vụ (Thuật toán chữ ký kỹ thuật số (DSA) hay không, hoặc liệu họ có coi quyền của công dân châu Âu - bao gồm cả phụ nữ và trẻ em - như là thiệt hại ngoài ý muốn của dịch vụ mình cung cấp hay không", bà Henna Virkkunen, Phó Chủ tịch điều hành phụ trách Chủ quyền Công nghệ, An ninh và Dân chủ, cho biết trong tuyên bố.
Đầu tháng này, người phát ngôn của Ủy ban châu Âu, Thomas Regnier, đã lên án tính năng "Chế độ cay" của X tại một cuộc họp báo ở Brussels.
"Đây không phải là món ăn cay. Đây là hành vi bất hợp pháp. Đây là điều kinh khủng. Đây là điều ghê tởm. Món ăn này không có chỗ đứng ở châu Âu", ông Regnier nói.
Fraser Edwards, đồng sáng lập kiêm CEO của cheqd, chia sẻ với Decrypt rằng “mọi nhà sáng tạo đều nên có quyền kiểm soát cách hình ảnh của họ được sử dụng trong các sản phẩm truyền thông do AI tạo ra.”
Ông cho rằng "phản ứng dữ dội xung quanh việc lạm dụng deepfake cho thấy một thất bại cơ bản của chính internet."
“Hiện vẫn chưa có cách nào để xác minh ai đã tạo ra nội dung tổng hợp hoặc liệu việc sử dụng nó có được cho phép hay không”, Edwards nói thêm, khiến trách nhiệm pháp lý tiếp tục “thuộc về các bên trung gian như X thay vì những người chịu trách nhiệm tạo ra hành vi lạm dụng”.
Nếu được chứng minh, những sai phạm đang được điều tra sẽ cấu thành hành vi vi phạm Điều 34(1) và (2), 35(1) và 42(2) của Luật Dịch vụ Kỹ thuật số, yêu cầu các nền tảng phải đánh giá và giảm thiểu rủi ro hệ thống, bao gồm việc phát tán nội dung bất hợp pháp và các tác động tiêu cực liên quan đến bạo lực dựa trên giới.
Cuộc điều tra của EU mở rộng vụ kiện Thuật toán chữ ký kỹ thuật số (DSA) cuối năm 2023, dẫn đến việc X bị phạt 140 triệu đô la (120 triệu euro) vào tháng 12 vì thiết kế lừa đảo, thiếu minh bạch trong quảng cáo và hạn chế quyền truy cập của nhà nghiên cứu.
Kể từ đó, Ủy ban đã mở rộng phạm vi xem xét đối với Grok, bao gồm cả những lo ngại trước đây về nội dung bài Do Thái do chatbot này tạo ra.
Decrypt đã liên hệ với xAI để yêu cầu thêm bình luận.
