Theo TechFlow TechFlow ngày 3 tháng 1, Reuters, FT và các hãng truyền thông khác đưa tin rằng Grok, chatbot của xAI do Elon Musk sáng lập, gần đây bị cáo buộc tạo ra hình ảnh khiêu dâm nhắm vào phụ nữ và trẻ vị thành niên, gây ra sự giám sát chặt chẽ từ các cơ quan quản lý quốc tế. Reuters đã tìm thấy hơn 20 trường hợp trên nền tảng X cho thấy người dùng sử dụng Grok để "cởi đồ kỹ thuật số" các hình ảnh, nhắm vào cả phụ nữ và nam giới.
Về tiến trình điều chỉnh pháp lý, một số bộ trưởng chính phủ Pháp đã chuyển giao thông tin liên quan cho văn phòng công tố và yêu cầu cơ quan quản lý truyền thông quốc gia đánh giá xem Grok có tuân thủ Đạo luật Dịch vụ Kỹ thuật số (DSA) của EU hay không; Bộ Công nghệ Thông tin Ấn Độ đã gửi thư cho X India, nêu rõ rằng họ đã không ngăn chặn hiệu quả việc lạm dụng Grok và yêu cầu báo cáo về các biện pháp khắc phục trong vòng ba ngày.
Đáp lại, tài khoản chính thức của Grok tuyên bố rằng "CSAM (lạm dụng tình dục trẻ vị thành niên) là bất hợp pháp và bị cấm", đồng thời thừa nhận có những lỗ hổng trong các biện pháp bảo mật của mình và cho biết đang nỗ lực khắc phục; trong khi đó, xAI cho đến nay chỉ đưa ra một số tuyên bố công khai hạn chế.
