周二，美国两党参议员提出一项法案，限制人工智能模型与儿童互动的方式，并警告称人工智能伙伴会对未成年人的心理健康和情感福祉构成严重风险。
这项名为《GUARD 法案》的立法将禁止为未成年人提供人工智能伴侣，要求聊天机器人明确表明自己是非人类，并对那些面向未成年人、招揽或生成性内容的公司的产品和服务制定新的刑事处罚措施。
“在竞相降低标准的过程中，人工智能公司向孩子们推销危险的聊天机器人，并且对他们的产品导致性虐待、胁迫儿童自残或自杀视而不见，”该法案的共同发起人之一、康涅狄格州民主党参议员理查德·布卢门撒尔在一份声明中表示。
他补充道：“我们的立法对剥削性或操纵性人工智能施加了严格的保障措施，并辅以严厉的执法，包括刑事和民事处罚。大型科技公司一贯将利润置于儿童安全之上，辜负了我们应该相信它们会自行做出正确决定的说法。”
问题的严重性令人警醒。Common Sense Media 七月份的一项调查发现，72%的青少年使用过人工智能伴侣，超过半数的青少年每月至少使用几次。约三分之一的青少年表示，他们使用人工智能进行社交或恋爱互动、获得情感支持或练习对话——许多人表示，与人工智能的聊天感觉与和真正的朋友聊天一样有意义。同样比例的青少年表示，他们会选择与人工智能伴侣而不是真人讨论严肃或私人问题。
随着针对大型人工智能公司的产品涉嫌导致青少年自残和自杀的诉讼不断增加，人们的担忧也日益加深。其中，16岁的亚当·雷恩（Adam Raine）的父母——他生前曾与ChatGPT讨论过自杀——已对OpenAI提起过失致死诉讼。
该公司因其法律回应而受到批评，其中包括要求提供参加该青少年追悼会的人员名单和悼词。家属的律师称他们的行为是“蓄意骚扰”。
“人工智能的发展速度比我们以往接触过的任何技术都要快，我们已经看到了它对行为、信仰和情感健康的影响，”Holonym 联合创始人兼数字权利倡导者 Shady El Damaty 告诉Decrypt 。
“这看起来更像是核军备竞赛，而不是iPhone时代。我们谈论的是能够改变人们思维方式的技术，需要以严肃的、全球性的责任感来对待。”
埃尔·达马蒂补充说，用户权利对于确保用户安全至关重要。“如果你开发的工具会影响人们的生活和思维方式，那么你就要对这些工具的使用方式负责，”他说。
这个问题不仅限于未成年人。本周，OpenAI披露，每周有120万用户与ChatGPT讨论自杀话题，占所有用户的0.15%。公司数据显示，近50万用户表现出明确或隐含的自杀倾向，另有56万用户每周出现精神病或躁狂症状，超过100万用户对聊天机器人表现出高度的情感依恋。
Reddit和其他平台上也涌现出一些论坛，供那些声称与人工智能机器人谈恋爱的用户交流。在这些小组中，用户们描述他们与人工智能“男友”和“女友”的关系，并分享人工智能生成的他们自己和“伴侣”的图像。
面对日益严格的审查，OpenAI本月成立了“福祉与人工智能专家委员会”，成员包括学术界人士和非营利组织负责人，旨在指导其产品如何处理与心理健康相关的互动。与此同时，首席执行官萨姆·奥特曼宣布，公司将于12月开始逐步放宽对成人内容的限制。
