Một số Bots AI được thiết kế cho các cuộc trò chuyện vai diễn fantasy và tình dục đang rò rỉ các lời nhắn của người dùng lên web gần như theo thời gian thực, theo nghiên cứu mà WIRED nhìn thấy. Một số dữ liệu bị rò rỉ cho thấy mọi người đang tạo các cuộc trò chuyện chi tiết về việc lạm dụng tình dục trẻ em, theo nghiên cứu.
Các cuộc trò chuyện với Bots AI sinh sản gần như tức thời - bạn gõ một lời nhắn và AI trả lời. Tuy nhiên, nếu các hệ thống được cấu hình không đúng, điều này có thể dẫn đến việc các cuộc trò chuyện bị phơi bày. Vào tháng 3, các nhà nghiên cứu tại công ty bảo mật UpGuard đã phát hiện khoảng 400 hệ thống AI bị phơi bày trong khi quét web để tìm các cấu hình sai. Trong số đó, 117 địa chỉ IP đang rò rỉ các lời nhắn. Phần lớn các hệ thống này dường như là các thiết lập thử nghiệm, trong khi những hệ thống khác chứa các lời nhắn chung liên quan đến các bài kiểm tra giáo dục hoặc thông tin không nhạy cảm, theo Greg Pollock, giám đốc nghiên cứu và thông tin tại UpGuard. "Có một số hệ thống nổi bật khác hẳn so với những hệ thống còn lại," Pollock nói.
Ba trong số đó đang chạy các kịch bản vai diễn nơi mọi người có thể trò chuyện với nhiều nhân vật AI được xác định trước - ví dụ, một nhân cách tên là Neva được mô tả là một phụ nữ 21 tuổi sống trong một phòng ký túc xá với ba phụ nữ khác và "nhút nhát và thường trông có vẻ buồn". Hai thiết lập vai diễn là khiêu dâm một cách rõ ràng. "Về cơ bản, tất cả đều được sử dụng cho một loại vai diễn tình dục rõ ràng," Pollock nói về các lời nhắn bị rò rỉ. "Một số kịch bản liên quan đến việc quan hệ tình dục với trẻ em."
(Bản dịch tiếp tục theo cùng phong cách cho toàn bộ văn bản)
