性幻想聊天機器人不斷洩露露骨信息

幾個設計用於奇幻和性角色扮演對話的人工智慧聊天機器人正在將使用者提示實時洩露到網路上，WIRED看到的最新研究顯示。根據研究，洩露的部分資料顯示有人建立了詳細描述兒童性虐待的對話。 安全公司UpGuard的研究人員在3月份掃描網路尋找配置錯誤時，發現了大約400個暴露的人工智慧系統。其中，117個IP地址正在洩露提示。UpGuard研究和洞察力主管格雷格·波爾克表示，這些系統中絕大多數似乎是測試設定，而其他一些則包含與教育測驗或非敏感資訊相關的通用提示。"有少數幾個與其他系統明顯不同，"波爾克說。 這些系統中有三個正在執行角色扮演場景，人們可以與各種預定義的人工智慧"角色"交談。例如，一個名為內瓦的角色被描述為一名21歲的女性，與其他三名女性一起住在大學宿舍，"害羞且經常看起來很悲傷"。兩個角色扮演設定是公開的性場景。波爾克表示："基本上都被用於某種性明確的角色扮演。一些場景涉及與兒童發生性行為。" 在24小時內，UpGuard收集了人工智慧系統洩露的提示，以分析資料並試圖查明洩露源頭。波爾克表示，公司每分鐘收集一次新資料，總共積累了約1,000個洩露的提示，包括英語、俄語、法語、德語和西班牙語的提示。 波爾克表示，無法確定哪些網站或服務正在洩露資料，但可能來自小規模使用的人工智慧模型例項，可能是由個人而非公司使用。他補充說，洩露的資料中未包含傳送提示的使用者名稱或個人資訊。