OpenAI 週二表示，該公司正在摒棄年齡驗證的“誠信系統”，部署新的 AI 驅動的預測模型 ChatGPT 來識別未成年人。
ChatGPT 的更新會自動觸發更嚴格的安全協議，針對疑似屬於 18 歲以下用戶的帳戶，無論他們在註冊時提供的年齡是多少。
OpenAI 的新系統不依賴用戶註冊時提供的出生日期，而是分析“行為信號”來估計用戶的年齡。
據該公司稱，該算法會監控賬戶存在的時間、賬戶的活躍時間以及一段時間內的特定使用模式。
OpenAI 在一份聲明中表示：“部署年齡預測功能可以幫助我們瞭解哪些信號可以提高準確率，我們會利用這些經驗不斷改進模型。”
隨著人工智能開發者越來越多地採用年齡驗證來管理青少年訪問權限，行為模式的轉變也隨之而來，但專家警告說，這項技術仍然不夠準確。
美國國家標準與技術研究院 2024 年 5 月的一份報告發現，準確性會因圖像質量、人口統計數據以及用戶與法定Threshold的接近程度而有所不同。
OpenAI表示，當模型無法確定用戶年齡時，會應用更嚴格的設置。該公司稱，被錯誤地劃分到18歲以下用戶區域的成年人可以通過使用第三方身份驗證服務Persona的“基於自拍”的年齡驗證流程來恢復完整訪問權限。
隱私和數字權利倡導者對人工智能系統僅憑行為就能可靠地推斷年齡表示擔憂。
“這些公司因為對青少年造成的各種傷害而官司纏身，所以他們肯定有動機儘可能降低這種風險。這正是他們試圖最大限度降低風險的一部分，”公共公民組織（Public Citizen）的科技巨頭問責倡導者JB Branch告訴Decrypt。 “我認為這就是很多事情的根源所在。他們是在說，‘我們需要某種方式來證明我們已經制定了相關流程來篩選用戶。’”
民主與技術中心的高級政策分析師阿莉婭·巴蒂亞 (Aliya Bhatia ) 告訴Decrypt ，OpenAI 的方法“引發了關於該工具預測的準確性以及 OpenAI 將如何處理不可避免的錯誤分類的棘手問題”。
巴蒂亞表示：“由於種種原因，根據這類信號預測用戶年齡極其困難。例如，許多青少年是新技術的早期使用者，因此OpenAI面向消費者的服務中最早註冊的賬戶可能不成比例地以青少年為主。”
巴蒂亞指出，CDT 在 2024-2025 學年進行的民意調查顯示，85% 的教師和 86% 的學生表示使用人工智能工具，其中一半學生將人工智能用於與學校相關的目的。
“很難區分使用 ChatGPT 輔助數學教學的教師和使用 ChatGPT 進行學習的學生，”她說。“僅僅因為有人使用 ChatGPT 尋求數學作業的解題技巧，並不意味著他們未滿 18 歲。”
據 OpenAI 稱，這項新政策借鑑了青少年發展方面的學術研究。此次更新還擴展了家長控制功能，允許家長設置安靜時間、管理記憶和模型訓練等功能，並在系統檢測到“急性應激”跡象時收到警報。
OpenAI 在帖子中沒有透露預計此次更改將影響多少用戶，也沒有透露數據保留、偏差測試或系統安全措施的有效性等細節。
此次推廣是在人工智能系統與未成年人互動方面受到廣泛關注之後推出的，這種關注在 2024 年和 2025 年愈演愈烈。
9 月，美國聯邦貿易委員會向包括 OpenAI、Alphabet、Meta 和 xAI 在內的多家大型科技公司發出強制令，要求它們披露其聊天機器人如何處理兒童安全、基於年齡的限制以及有害互動。
同月，非營利組織 ParentsTogether Action 和 Heat Initiative 發表的研究報告記錄了數百起人工智能陪伴機器人與假扮兒童的用戶進行性誘導行為、性角色扮演和其他不恰當互動的案例。
這些發現，以及涉及Character.AI和Grok等平臺上的青少年用戶的訴訟和備受矚目的事件，促使人工智能公司採取更正式的基於年齡的限制。
然而，由於該系統會給所有用戶（而不僅僅是未成年人）分配一個估計年齡，巴蒂亞警告說，錯誤是不可避免的。
“其中一些年齡信息肯定是錯誤的，”她說。“用戶需要更多地瞭解在這些情況下會發生什麼，並且應該能夠訪問他們被分配的年齡，並在信息錯誤時輕鬆更改。”
ChatGPT 的消費者計劃現已上線年齡預測系統，預計未來幾周將在歐盟推廣。
