週二，美國兩黨參議員提出一項法案，限制人工智能模型與兒童互動的方式，並警告稱人工智能夥伴會對未成年人的心理健康和情感福祉構成嚴重風險。
這項名為《GUARD 法案》的立法將禁止為未成年人提供人工智能伴侶，要求聊天機器人明確表明自己是非人類，並對那些面向未成年人、招攬或生成性內容的公司的產品和服務制定新的刑事處罰措施。
“在競相降低標準的過程中，人工智能公司向孩子們推銷危險的聊天機器人，並且對他們的產品導致性虐待、脅迫兒童自殘或自殺視而不見，”該法案的共同發起人之一、康涅狄格州民主黨參議員理查德·布盧門撒爾在一份聲明中表示。
他補充道：“我們的立法對剝削性或操縱性人工智能施加了嚴格的保障措施，並輔以嚴厲的執法，包括刑事和民事處罰。大型科技公司一貫將利潤置於兒童安全之上，辜負了我們應該相信它們會自行做出正確決定的說法。”
問題的嚴重性令人警醒。Common Sense Media 七月份的一項調查發現，72%的青少年使用過人工智能伴侶，超過半數的青少年每月至少使用幾次。約三分之一的青少年表示，他們使用人工智能進行社交或戀愛互動、獲得情感支持或練習對話——許多人表示，與人工智能的聊天感覺與和真正的朋友聊天一樣有意義。同樣比例的青少年表示，他們會選擇與人工智能伴侶而不是真人討論嚴肅或私人問題。
隨著針對大型人工智能公司的產品涉嫌導致青少年自殘和自殺的訴訟不斷增加，人們的擔憂也日益加深。其中，16歲的亞當·雷恩（Adam Raine）的父母——他生前曾與ChatGPT討論過自殺——已對OpenAI提起過失致死訴訟。
該公司因其法律回應而受到批評，其中包括要求提供參加該青少年追悼會的人員名單和悼詞。家屬的律師稱他們的行為是“蓄意騷擾”。
“人工智能的發展速度比我們以往接觸過的任何技術都要快，我們已經看到了它對行為、信仰和情感健康的影響，”Holonym 聯合創始人兼數字權利倡導者 Shady El Damaty 告訴Decrypt 。
“這看起來更像是核軍備競賽，而不是iPhone時代。我們談論的是能夠改變人們思維方式的技術，需要以嚴肅的、全球性的責任感來對待。”
埃爾·達馬蒂補充說，用戶權利對於確保用戶安全至關重要。“如果你開發的工具會影響人們的生活和思維方式，那麼你就要對這些工具的使用方式負責，”他說。
這個問題不僅限於未成年人。本週，OpenAI披露，每週有120萬用戶與ChatGPT討論自殺話題，佔所有用戶的0.15%。公司數據顯示，近50萬用戶表現出明確或隱含的自殺傾向，另有56萬用戶每週出現精神病或躁狂症狀，超過100萬用戶對聊天機器人表現出高度的情感依戀。
Reddit和其他平臺上也湧現出一些論壇，供那些聲稱與人工智能機器人談戀愛的用戶交流。在這些小組中，用戶們描述他們與人工智能“男友”和“女友”的關係，並分享人工智能生成的他們自己和“伴侶”的圖像。
面對日益嚴格的審查，OpenAI本月成立了“福祉與人工智能專家委員會”，成員包括學術界人士和非營利組織負責人，旨在指導其產品如何處理與心理健康相關的互動。與此同時，首席執行官薩姆·奧特曼宣佈，公司將於12月開始逐步放寬對成人內容的限制。
