性幻想聊天机器人不断泄露露骨信息

几个设计用于奇幻和性角色扮演对话的人工智能聊天机器人正在将用户提示实时泄露到网络上，WIRED看到的最新研究显示。根据研究，泄露的部分数据显示有人创建了详细描述儿童性虐待的对话。 安全公司UpGuard的研究人员在3月份扫描网络寻找配置错误时，发现了大约400个暴露的人工智能系统。其中，117个IP地址正在泄露提示。UpGuard研究和洞察力主管格雷格·波尔克表示，这些系统中绝大多数似乎是测试设置，而其他一些则包含与教育测验或非敏感信息相关的通用提示。"有少数几个与其他系统明显不同，"波尔克说。 这些系统中有三个正在运行角色扮演场景，人们可以与各种预定义的人工智能"角色"交谈。例如，一个名为内瓦的角色被描述为一名21岁的女性，与其他三名女性一起住在大学宿舍，"害羞且经常看起来很悲伤"。两个角色扮演设置是公开的性场景。波尔克表示："基本上都被用于某种性明确的角色扮演。一些场景涉及与儿童发生性行为。" 在24小时内，UpGuard收集了人工智能系统泄露的提示，以分析数据并试图查明泄露源头。波尔克表示，公司每分钟收集一次新数据，总共积累了约1,000个泄露的提示，包括英语、俄语、法语、德语和西班牙语的提示。 波尔克表示，无法确定哪些网站或服务正在泄露数据，但可能来自小规模使用的人工智能模型实例，可能是由个人而非公司使用。他补充说，泄露的数据中未包含发送提示的用户名或个人信息。