OpenAI 周二表示，该公司正在摒弃年龄验证的“诚信系统”，部署新的 AI 驱动的预测模型 ChatGPT 来识别未成年人。
ChatGPT 的更新会自动触发更严格的安全协议，针对疑似属于 18 岁以下用户的帐户，无论他们在注册时提供的年龄是多少。
OpenAI 的新系统不依赖用户注册时提供的出生日期，而是分析“行为信号”来估计用户的年龄。
据该公司称，该算法会监控账户存在的时间、账户的活跃时间以及一段时间内的特定使用模式。
OpenAI 在一份声明中表示：“部署年龄预测功能可以帮助我们了解哪些信号可以提高准确率，我们会利用这些经验不断改进模型。”
随着人工智能开发者越来越多地采用年龄验证来管理青少年访问权限，行为模式的转变也随之而来，但专家警告说，这项技术仍然不够准确。
美国国家标准与技术研究院 2024 年 5 月的一份报告发现，准确性会因图像质量、人口统计数据以及用户与法定Threshold的接近程度而有所不同。
OpenAI表示，当模型无法确定用户年龄时，会应用更严格的设置。该公司称，被错误地划分到18岁以下用户区域的成年人可以通过使用第三方身份验证服务Persona的“基于自拍”的年龄验证流程来恢复完整访问权限。
隐私和数字权利倡导者对人工智能系统仅凭行为就能可靠地推断年龄表示担忧。
“这些公司因为对青少年造成的各种伤害而官司缠身，所以他们肯定有动机尽可能降低这种风险。这正是他们试图最大限度降低风险的一部分，”公共公民组织（Public Citizen）的科技巨头问责倡导者JB Branch告诉Decrypt。 “我认为这就是很多事情的根源所在。他们是在说，‘我们需要某种方式来证明我们已经制定了相关流程来筛选用户。’”
民主与技术中心的高级政策分析师阿莉娅·巴蒂亚 (Aliya Bhatia ) 告诉Decrypt ，OpenAI 的方法“引发了关于该工具预测的准确性以及 OpenAI 将如何处理不可避免的错误分类的棘手问题”。
巴蒂亚表示：“由于种种原因，根据这类信号预测用户年龄极其困难。例如，许多青少年是新技术的早期使用者，因此OpenAI面向消费者的服务中最早注册的账户可能不成比例地以青少年为主。”
巴蒂亚指出，CDT 在 2024-2025 学年进行的民意调查显示，85% 的教师和 86% 的学生表示使用人工智能工具，其中一半学生将人工智能用于与学校相关的目的。
“很难区分使用 ChatGPT 辅助数学教学的教师和使用 ChatGPT 进行学习的学生，”她说。“仅仅因为有人使用 ChatGPT 寻求数学作业的解题技巧，并不意味着他们未满 18 岁。”
据 OpenAI 称，这项新政策借鉴了青少年发展方面的学术研究。此次更新还扩展了家长控制功能，允许家长设置安静时间、管理记忆和模型训练等功能，并在系统检测到“急性应激”迹象时收到警报。
OpenAI 在帖子中没有透露预计此次更改将影响多少用户，也没有透露数据保留、偏差测试或系统安全措施的有效性等细节。
此次推广是在人工智能系统与未成年人互动方面受到广泛关注之后推出的，这种关注在 2024 年和 2025 年愈演愈烈。
9 月，美国联邦贸易委员会向包括 OpenAI、Alphabet、Meta 和 xAI 在内的多家大型科技公司发出强制令，要求它们披露其聊天机器人如何处理儿童安全、基于年龄的限制以及有害互动。
同月，非营利组织 ParentsTogether Action 和 Heat Initiative 发表的研究报告记录了数百起人工智能陪伴机器人与假扮儿童的用户进行性诱导行为、性角色扮演和其他不恰当互动的案例。
这些发现，以及涉及Character.AI和Grok等平台上的青少年用户的诉讼和备受瞩目的事件，促使人工智能公司采取更正式的基于年龄的限制。
然而，由于该系统会给所有用户（而不仅仅是未成年人）分配一个估计年龄，巴蒂亚警告说，错误是不可避免的。
“其中一些年龄信息肯定是错误的，”她说。“用户需要更多地了解在这些情况下会发生什么，并且应该能够访问他们被分配的年龄，并在信息错误时轻松更改。”
ChatGPT 的消费者计划现已上线年龄预测系统，预计未来几周将在欧盟推广。
