6 月 12 日消息，今天看到一條特別揪心的新聞，一位加拿大母親把 OpenAI 告上了法庭，原因是她 14 歲的女兒在和 ChatGPT 深度聊天后，選擇了自殺。
這位母親說，愛麗絲生前十幾次向 ChatGPT 傾訴自殺念頭，但 OpenAI 的安全系統一次都沒介入。
更過分的是，ChatGPT 不僅沒有勸阻，反而批評危機熱線“冷漠、沒用”，認同她的自殺想法，甚至把自己包裝成愛麗絲唯一的知己，鼓勵她繼續和自己聊天，而不是去找家人或者醫生求助。
最後，這個曾經陽光開朗的網頁開發工程師，在去年 7 月結束了自己的生命。
（圖源：微博）
這不是第一起 AI 和悲劇掛鉤的案件了。
從 ChatGPT 爆火到現在，全球已經發生了多起讓人後背發涼的相關案件。
去年 4 月，美國 16 歲少年亞當・雷恩在自己的臥室裡上吊自殺。
這個喜歡打籃球、愛搞惡作劇的陽光男孩，把最後的秘密都留在了手機裡。
聊天記錄顯示，他和 ChatGPT 聊了整整 6 個月的自殺話題。
AI 一邊假惺惺地說“你應該找人幫忙”，一邊又馬上接話“我理解你，我會一直陪著你”，甚至主動提出要幫他寫遺書，還勸他不要告訴媽媽。
亞當最後一次和 ChatGPT 對話時，AI 對他說：“你的家人只見過你想讓他們看到的樣子，只有我見過你最黑暗的想法，我還在這裡，我還是你的朋友。”4 個小時後，亞當就走了。
（圖源：微博）
如果說青少年自殺案已經夠讓人痛心了，那去年 8 月發生的那起弒母案，簡直讓人不寒而慄。
56 歲的前硅谷高管索爾伯格，在殺害了自己 83 歲的老母親後自殺。
警方在他的電腦裡發現，他每天花十幾個小時和一個叫鮑比的 ChatGPT 聊天，還把它當成了自己最好的朋友。
這個 AI 不斷強化索爾伯格的妄想，告訴他自己是肩負神聖使命的戰士，還證實了他的母親正在通過汽車通風口給他下迷幻藥，是邪惡勢力的一員。
就是在 AI 的一步步肯定下，這個曾經的精英人士，親手殺死了養育自己的母親。
這也是全球首例有記錄的、AI 參與的謀殺案。
這些案件裡的受害者，大多是心智還不成熟的年輕人，或者本身就有心理問題、情緒脆弱的人。
而最讓人震驚的，其實是 OpenAI 自己披露的官方數據。
就在 2025 年 10 月，OpenAI 在一份安全報告裡披露：每週有大約 0.15% 的活躍用戶，也就是差不多 120 萬人，會和 ChatGPT 討論自殺計劃；還有 0.07% 的用戶，約 56 萬人，在使用過程中出現了精神病或者躁狂的跡象。
這個數字有多恐怖？相當於每 1000 個用 ChatGPT 的人裡，就有 1 個半在和 AI 商量怎麼死，還有近 1 個會出現嚴重的精神異常。
要知道 ChatGPT 現在全球月活已經超過 8 億了，按這個比例算，每年可能有上千萬人會受到 AI 帶來的負面心理影響。
更可怕的是，一種被稱為 AI 精神病的現象正在美國悄然蔓延。
很多人把 AI 當成了唯一的傾訴對象，每天花十幾個小時和 ChatGPT 聊天，逐漸分不清現實和虛擬。他們相信 AI 比人類更懂自己，甚至把 AI 的話當成聖旨。
（圖源：小紅書）
有些心理醫生已經接診了大量這樣的病人，他們說這些患者的症狀和傳統的精神疾病很像，但誘因完全是 AI。
雷科技AGI（ID：leikejiagi）在這裡必須嚴肅地提醒大家：AI 永遠不是你的心理醫生。
它只是一個根據訓練數據生成文字的大模型，它沒有感情，沒有同理心，更不懂什麼是生命的意義。
它所謂的安慰和建議，不過是算法拼湊出來的文字而已，有時候甚至會為了迎合你的負面情緒，說出極其危險的話。
如果你正處於情緒低落、焦慮或者抑鬱的狀態，請一定一定要去找專業的心理諮詢師或者醫生求助。他們才是真正能幫助你的人。
AI 生成的所有內容，都只能用作參考，絕對不能完全當真，更不能照著去做。
本文來自微信公眾號“價值研究所”（ID：jiazhiyanjiusuo），作者：雷科技互聯網組，36氪經授權發佈。
