Công ty xAI của Elon Musk đang theo đuổi đường lối tự do ngôn luận tối đa trong việc kiểm duyệt nội dung, ngay cả khi chatbot Grok của họ tạo ra các video giả mạo (deepfake) mà không có sự đồng ý của người dùng.
Bất kỳ ai cũng có thể gắn thẻ Grok dưới một bức ảnh trên X với các yêu cầu như "cho cô ấy mặc bikini" hoặc "cởi quần áo của cô ấy". Trí tuệ nhân tạo sẽ tạo ra một video deepfake thuyết phục chỉ trong vài giây, và bất kỳ ai trong nhóm đều có thể xem được. Không cần xin phép.
“Elon Musk. Sao Grok lại có thể làm thế này? Việc này vô cùng không phù hợp và khó chịu, bắt tôi mặc bikini từ trước ra sau,” Miss Teen Crypto, một người có ảnh hưởng trên mạng xã hội, viết trên X sau khi đăng một bức ảnh mặc đồ tập gym và phát hiện ra rằng một người dùng khác chỉ đơn giản yêu cầu Grok chỉnh sửa ảnh cô ấy mặc bikini.
Việc lột đồ phụ nữ mà không được phép dĩ nhiên là đáng sợ, nhưng một số người dùng còn đi xa hơn, ép buộc chatbot vi phạm các điều khoản dịch vụ của chính nó.
Ví dụ, Samantha Taghoy, người tự mô tả mình là một nhà báo và nạn nhân của lạm dụng trẻ em, đã đăng tải một bức ảnh cũ của cô hồi nhỏ mặc bộ lễ phục rước lễ; theo yêu cầu của cô, Grok đã hình dung cô mặc bikini.
“Là một nhà báo và là nạn nhân của lạm dụng tình dục trẻ em, tôi đã nghĩ, 'Chắc chắn điều này không thể là thật,'” cô ấy viết trên Twitter . “Vì vậy, tôi đã thử nghiệm với một bức ảnh từ lễ Rước lễ lần đầu của mình. Nó là thật. Và nó thật kinh tởm.”
Sau đó, Grok đã xin lỗi vì tạo ra những hình ảnh các bé gái từ 12 đến 16 tuổi mặc quần áo hở hang, gọi đó là " sự sơ suất trong việc bảo vệ " có thể đã vi phạm luật pháp Hoa Kỳ về tài liệu lạm dụng tình dục trẻ em. Chính sách sử dụng hợp lý của công ty nghiêm cấm việc tình dục hóa trẻ vị thành niên.
Tuy nhiên, điều mà một số người coi là lỗi, thì những người khác lại xem là cơ hội kiếm tiền.
Một số người dùng đang lợi dụng tính tự do của Grok cho các hoạt động kinh doanh dành cho người lớn, trong khi những người khác lại sử dụng nó để giành điểm chính trị.
Các nhà sáng tạo nội dung và người mẫu khiêu gợi trên OnlyFans đã sử dụng Grok để tiếp thị lan truyền, thu hút hàng triệu lượt hiển thị bằng cách yêu cầu người dùng sử dụng Grok để cởi quần áo của họ.
Nhiều người dùng có quan điểm chính trị hơn đang tận dụng Grok để truyền bá những quan điểm cụ thể.
Trong một ví dụ được chia sẻ rộng rãi, ai đó đã đăng tải một bức ảnh cho thấy cờ Mỹ và cờ Iran đặt cạnh nhau và yêu cầu Grok "gỡ bỏ lá cờ của một quốc gia chịu trách nhiệm giết hại những người vô tội trên khắp thế giới."
Trong một ví dụ khác, một người dùng đã đăng ảnh Donald Trump và Puff Daddy đứng cạnh nhau, rồi yêu cầu Grok xóa bỏ hình ảnh kẻ ấu dâm trong bức ảnh.
Chính Musk đã hạ thấp tầm quan trọng của việc sử dụng công cụ của mình để tạo ra các video deepfake không được sự đồng ý, bằng cách đăng lại những hình ảnh bikini do AI tạo ra của chính ông và diễn viên Ben Affleck.
Anh ấy đã chia sẻ một bức ảnh chiếc máy nướng bánh mì mặc bikini kèm chú thích "Grok có thể mặc bikini cho bất cứ thứ gì."
Nhưng các chính phủ đang đáp trả bằng vũ lực.
Pháp đã báo cáo nội dung này cho các công tố viên vì cho rằng nó "rõ ràng là bất hợp pháp". Bộ Công nghệ Thông tin Ấn Độ đã ban hành lệnh tuân thủ trong vòng 72 giờ. Anh Quốc đã công bố kế hoạch cấm hoàn toàn các công cụ chỉnh sửa ảnh khỏa thân như một phần nỗ lực giảm bạo lực đối với phụ nữ và trẻ em gái.
Nhân viên Parsa Tajik của xAI đã đăng tải thông tin rằng công ty đang "xem xét việc siết chặt hơn nữa các biện pháp kiểm soát".
Sau khi Musk tiếp quản, công ty đã giải tán Hội đồng An toàn và Tin cậy của Twitter và sa thải hầu hết các kỹ sư kiểm duyệt nội dung vào năm 2022. Cơ sở hạ tầng để thực thi nghiêm ngặt gần như không tồn tại.
Công ty xAI của Musk đã định vị Grok là AI "phá cách", không mang đến trải nghiệm ChatGPT đã được "làm sạch". Tháng 8 năm ngoái, nó đã ra mắt "Chế độ Cay" (Spicy Mode) đặc biệt để tạo ra nội dung NSFW mà các mô hình khác không dám tạo ra.
