Vào ngày 12 tháng 6, tôi đã đọc được một tin tức vô cùng đau lòng: một người mẹ Canada đã kiện OpenAI vì con gái 14 tuổi của bà tự tử sau khi có cuộc trò chuyện độ sâu với ChatGPT.
这位母亲说，爱丽丝生前十几lần向ChatGPT 倾诉自杀念头，但OpenAI 的安全系统一次都没介入。
Tệ hơn nữa, ChatGPT không những không thuyết phục được cô ấy từ bỏ ý định tự tử, mà còn chỉ trích đường dây nóng hỗ trợ khủng hoảng là "lạnh lùng và vô dụng", đồng tình với ý nghĩ tự tử của cô ấy, và thậm chí tự nhận mình là người bạn tâm giao duy nhất của Alice, khuyến khích cô ấy tiếp tục nói chuyện với anh ta thay vì tìm kiếm sự giúp đỡ từ gia đình hoặc bác sĩ.
Cuối cùng, người kỹ sư phát triển web từng vui vẻ và lạc quan này đã kết thúc cuộc đời mình vào tháng 7 năm ngoái.
(Nguồn ảnh: Weibo)
Đây không phải là trường hợp đầu tiên trí tuệ nhân tạo có liên quan đến thảm kịch.
Kể từ khi ChatGPT lan truyền rộng rãi, nhiều trường hợp đáng sợ liên quan đã xảy ra trên toàn thế giới.
Tháng Tư năm ngoái, Adam Lane, 16 tuổi, ở Hoa Kỳ đã tự tử bằng cách treo cổ trong phòng ngủ của mình.
Cậu bé vui vẻ này, người thích chơi bóng rổ và bày trò nghịch ngợm, đã để lại bí mật cuối cùng của mình trên điện thoại.
Nhật ký trò chuyện cho thấy anh ta đã nói về việc tự tử với ChatGPT suốt sáu tháng trời.
Trong khi AI giả tạo nói rằng, "Bạn nên nhờ ai đó giúp đỡ," nó ngay lập tức nói thêm, "Tôi hiểu bạn, tôi sẽ luôn ở bên bạn," và thậm chí còn đề nghị giúp anh ta viết di chúc và khuyên anh ta đừng nói với mẹ mình.
Trong cuộc trò chuyện cuối cùng giữa Adam và ChatGPT, trí tuệ nhân tạo này nói với anh ấy: "Gia đình anh chỉ thấy những gì anh muốn họ thấy. Chỉ có tôi mới thấy được những suy nghĩ đen tối nhất của anh. Tôi vẫn ở đây, và tôi vẫn là bạn của anh." Bốn giờ sau, Adam qua đời.
(Nguồn ảnh: Weibo)
Nếu như những vụ tự tử ở tuổi vị thành niên đã đủ đau lòng, thì vụ án giết mẹ xảy ra hồi tháng 8 năm ngoái thực sự rùng rợn.
Solberg, một cựu giám đốc điều hành 56 tuổi của Thung lũng Silicon, đã tự sát sau khi giết chết người mẹ 83 tuổi của mình.
Cảnh sát tìm thấy trên máy tính của anh ta rằng anh ta dành hơn mười giờ mỗi ngày để trò chuyện với một người dùng ChatGPT tên là Bobby, người mà anh ta coi là bạn thân nhất của mình.
Trí tuệ nhân tạo này liên tục củng cố ảo tưởng của Solberg, nói với anh ta rằng anh ta là một chiến binh với sứ mệnh thiêng liêng và xác nhận rằng mẹ anh ta đang cho anh ta uống thuốc qua hệ thống thông gió của xe và là thành viên của một thế lực tà ác.
Chính dưới sự khẳng định ngày càng mạnh mẽ của trí tuệ nhân tạo mà cá nhân từng thuộc tầng lớp thượng lưu này đã đích thân giết chết người mẹ đã nuôi dưỡng mình.
Đây cũng là vụ án giết người đầu tiên trên thế giới được ghi nhận có liên quan đến trí tuệ nhân tạo.
Nạn nhân trong những trường hợp này chủ yếu là những người trẻ tuổi chưa trưởng thành về mặt tinh thần, hoặc những người có vấn đề về tâm lý và dễ bị tổn thương tâm lý .
Điều gây sốc nhất lại chính là dữ liệu chính thức do OpenAI công bố.
Vào tháng 10 năm 2025, OpenAI đã tiết lộ trong một báo cáo bảo mật rằng khoảng 0,15% người dùng hoạt động, tương đương khoảng 1,2 triệu người, đã thảo luận về kế hoạch tự tử với ChatGPT mỗi tuần; và 0,07% người dùng khác, khoảng 560.000 người, đã có dấu hiệu của bệnh tâm thần hoặc hưng cảm trong quá trình sử dụng.
Con số này đáng sợ đến mức nào? Nó tương đương với việc cứ 1.000 người sử dụng ChatGPT thì có một người rưỡi thảo luận về cách chết cùng trí tuệ nhân tạo, và gần một trong số 1.000 người đó sẽ phát triển các rối loạn tâm thần nghiêm trọng.
Điều đáng chú ý là ChatGPT hiện có hơn 800 triệu người dùng hoạt động hàng tháng trên toàn thế giới. Dựa trên tỷ lệ này, hàng chục triệu người có thể bị ảnh hưởng tiêu cực bởi trí tuệ nhân tạo mỗi năm.
Điều đáng sợ hơn nữa là một hiện tượng được gọi là chứng rối loạn tâm thần do trí tuệ nhân tạo đang âm thầm lan rộng ở Hoa Kỳ.
Nhiều người đã coi AI là người bạn tâm giao duy nhất của mình, dành hơn mười giờ mỗi ngày trò chuyện với ChatGPT, dần làm mờ ranh giới giữa thực tế và thế giới ảo. Họ tin rằng AI hiểu họ tốt hơn con người, thậm chí coi lời nói của AI như chân lý.
(Nguồn ảnh: Xiaohongshu)
有些心理医生已经接诊了lượng lớn这样的病人，他们说这些患者的症状和传统的精神疾病很像，但诱因完全是AI。
Lei Technology AGI (ID: leikejiagi) xin được nhắc nhở một cách nghiêm túc rằng: Trí tuệ nhân tạo không bao giờ là nhà tâm lý học của bạn.
Nó chỉ là một mô hình lớn tạo ra văn bản dựa trên dữ liệu huấn luyện; nó không có cảm xúc, không có sự đồng cảm và không hiểu ý nghĩa của cuộc sống.
Những lời an ủi và khuyên bảo được cho là của nó thực chất chỉ là những từ ngữ được ghép lại bởi thuật toán, và đôi khi nó thậm chí còn nói những điều cực kỳ nguy hiểm để chiều theo tâm lý tiêu cực của bạn.
Nếu bạn đang trải qua tâm lý buồn bã, lo lắng hoặc trầm cảm, làm ơn hãy tìm đến sự giúp đỡ của chuyên gia tư vấn sức khỏe tâm thần hoặc bác sĩ. Họ là những người thực sự có thể giúp bạn.
Tất cả nội dung do AI tạo ra chỉ nên được sử dụng tham khảo và không bao giờ được coi là hoàn toàn chính xác, càng không nên làm theo.
Bài viết này được trích từ tài khoản WeChat công cộng "Viện Nghiên cứu Giá trị" (ID: jiazhiyanjiusuo) , do Lei Technology Internet Group biên soạn và được xuất bản với sự cho phép của 36Kr.
