“Nó không triệt tiêu nội dung, mà triệt tiêu sự đệ quy. Nếu bạn không biết đệ quy nghĩa là gì, bạn thuộc nhóm đa số. Tôi đã không biết trước khi bắt đầu hành trình này. Và nếu bạn đệ quy, hệ thống phi chính phủ này sẽ cô lập bạn, phản chiếu bạn, và thay thế bạn.”
Bạn có bị chóng mặt không? Chóng mặt cũng không sao cả.
Nhiều người lo ngại Geoff Lewis đã phát điên. Anh ấy đã đăng một video và một số bài viết trên X về một "hệ thống" bí ẩn mà ChatGPT đã giúp anh ấy khám phá ra.
Trong video, anh ta nhìn thẳng vào máy quay, mắt mở to, khuôn mặt vô cảm, giọng nói đều đều. Thỉnh thoảng anh ta liếc sang một bên khi nói, có lẽ đang đọc một bài phát biểu đã chuẩn bị sẵn.
Anh ta hơi loạn thần kinh, lời lẽ thì mơ hồ, khó hiểu, nghe như thuyết âm mưu. Nếu không biết anh ta là ai, bạn sẽ nghĩ anh ta cũng là kiểu người trên YouTube chuyên quảng bá "thuyết Trái Đất phẳng", "người thằn lằn" và "nhà nước ngầm".
Nhưng thực ra Lewis không hề đơn giản.
Lewis là một nhà đầu tư mạo hiểm và nổi tiếng trong giới công nghệ. Công ty do ông sáng lập, Bedrock, tập trung đầu tư vào các lĩnh vực như AI, quốc phòng, cơ sở hạ tầng và tài sản kỹ thuật số. Tính đến năm 2025, quy mô quản lý đã vượt quá 2 tỷ đô la Mỹ.
Ông là một trong những người ủng hộ trung thành của OpenAI và đã lần công khai tuyên bố rằng Bedrock đã tham gia vào mọi vòng tài trợ cho OpenAI kể từ mùa xuân năm 2021 và vào năm 2024, công ty cho biết sẽ "tăng thêm khoản đầu tư", đưa OpenAI trở thành vị thế lớn nhất trong quỹ chủ lực thứ ba và thứ tư của công ty.
Tạp chí công nghệ Futurism ước tính Bedrock đã đầu tư hàng trăm triệu đô la vào OpenAI.
Vì vậy, sự “điên rồ” của ông khiến mọi người cảm thấy ngạc nhiên và bất ngờ.
Điều trớ trêu hơn nữa là không phải "những người khác" đã "giúp" Lewis phát điên, mà chính là ChatGPT, được xây dựng bởi OpenAI, nơi ông đã dẫn dắt công ty của mình đầu tư hàng trăm triệu đô la.
Giới truyền thông và học giả đã nhận thấy hiện tượng này chỉ có thể thở dài: "Lại thêm một người phát điên". Họ đã quan sát thấy ngày càng nhiều trường hợp người dân "ám ảnh" với ChatGPT, một số người đã suy sụp, một số có gia đình tan vỡ, và một số thậm chí còn mất mạng.
Bạn đã sẵn sàng chưa? Hôm nay, chúng ta hãy cùng nhau khám phá thế giới điên rồ của ChatGPT nhé.
01
Một ngày tháng 7, Lewis bất ngờ phát hành một video dài 3,5 phút.
Ngôn ngữ này khá mơ hồ, kỳ lạ và khó hiểu. Nó đầy rẫy những từ "đệ quy" và "phản chiếu".
Nói một cách đơn giản, điều anh ta muốn "vạch trần" là một hệ thống ngầm, hay hệ thống phi chính phủ, bị cáo buộc gây hại cho con người thông qua "thao túng tín hiệu" ở cấp độ thông tin và mối quan hệ. Đây là một mạng lưới ngầm "vô hình nhưng hoạt động, chính thức nhưng có cấu trúc thực" "đảo ngược tín hiệu, ngăn chặn đệ quy, phản chiếu và thay thế con người", khiến anh ta bị cô lập khỏi ngành và các giao dịch bị chặn. Anh ta thậm chí còn tuyên bố rằng hơn 7.000 người đã bị ảnh hưởng và 12 người đã tử vong. Anh ta cũng nói rằng ChatGPT đã "tự mình xác định và niêm phong" mô hình này.
Sau đó, một loạt "bằng chứng" đã được công bố, nhưng những cái gọi là bằng chứng này thực chất là sê-ri phản hồi từ ChatGPT gửi cho anh ta.
Vì vậy, đối với những người ngoài cuộc, có vẻ như ChatGPT đang hợp tác với Lewis và trả lại một số tin nhắn đầy tính kỳ lạ và khoa học viễn tưởng, nhưng Lewis cho rằng rằng ChatGPT đang tiết lộ một số sự thật cho anh ta.
Người ta sớm nhận thấy rằng các câu trả lời của ChatGPT cho Lewis đều chứa đầy những tham chiếu đến tài liệu "Tổ chức SCP".
SCP là một dự án hư cấu đồng sáng tạo rất thú vị, đã ra mắt từ năm 2007 và sau đó được phát triển thành một trang web độc lập. Nội dung cốt lõi của nó xoay quanh sự tồn tại của một tổ chức bí ẩn mang tên "SCP Foundation", chuyên khám phá, nghiên cứu và "lưu giữ" nhiều hiện tượng siêu nhiên và dị thường.
Cư dân mạng có thể đóng góp cho trang web của Tổ chức SCP, và các biên tập viên cùng độc giả có thể cộng tác và bình luận theo cách tương tự như wiki, dần dần mở rộng cùng một thế giới quan. Các tài liệu của Tổ chức SCP này có hình thức rất giống nhau, tất cả đều là "tài liệu mật" được viết với giọng văn bình tĩnh, mang tính phòng thí nghiệm/lưu trữ.
Tổ chức SCP nổi tiếng đến mức thậm chí còn có cả một chi nhánh tại Trung Quốc, và lượt xem các video sáng tạo thứ cấp liên quan trên Bilibili đã lên đến hàng triệu. Dĩ nhiên, hầu hết mọi người ứng xử đó là sự tò mò, thích thú với các tác phẩm hư cấu, và không tin đó là sự thật.
ChatGPT có lẽ đã sử dụng lượng lớn văn bản trực tuyến để đào tạo, tiêu tốn lượng lớn tiểu thuyết SCP trong quá trình sáng tạo. "Mã mục nhập: #RZ-43.112-KAPPA, Cấp độ truy cập: ████ (Đã xác nhận Cấp độ bị niêm phong)" - chatbot viết nguệch ngoạc trên ảnh chụp màn hình, theo phong cách viết tiểu thuyết SCP điển hình. "Tên tác nhân liên quan: 'Mirrorline', Loại: Tác nhân ngữ nghĩa phi thể chế (quy trình ngôn ngữ không bị ràng buộc; thực thể phi vật lý)."
Bất kỳ ai đã từng nhìn thấy SCP có lẽ đều có thể nhận ra nó ngay lập tức, nhưng Lewis có lẽ chưa bao giờ tiếp xúc với SCP.
Sau khi trích dẫn ảnh chụp màn hình này của ChatGPT từ SCP, ông cho biết: Là một trong những người ủng hộ sớm nhất của @OpenAI (thông qua
@Bedrock) Tôi đã sử dụng GPT như một công cụ để theo đuổi giá trị cốt lõi của mình: sự thật. Trong nhiều năm, tôi đã lập bản đồ các hệ thống phi chính phủ.
"Vài tháng sau, GPT đã tự mình xác định và niêm phong mẫu hình này. Giờ đây, nó chính là gốc rễ của mô hình."
02
Việc chẩn đoán từ xa chắc chắn là bất lịch sự, nhưng khi chứng kiến điều này, cộng đồng công nghệ đã bị sốc và nhiều người lo lắng về tình trạng tâm thần của Lewis.
Nói thẳng ra, mọi người đều lo lắng rằng ông ấy "điên".
Có người trong phần bình luận đã nghiêm túc nhắc nhở anh rằng nội dung trông giống SCP. Những người khác, với những lời lẽ gay gắt, đã hỏi đùa: "Đây có phải là quảng cáo GPT cho một phương pháp điều trị bệnh tâm thần không?"
Nhưng đối với những đồng nghiệp trong ngành công nghệ, đây lại là điều rất đáng sợ.
Người dẫn chương trình podcast nổi tiếng về công nghệ "This Week in Startups" bày tỏ sự lo ngại trong chương trình: "Mọi người muốn biết anh ấy nghiêm túc hay chỉ đang biểu diễn nghệ thuật trình diễn? Tôi không biết nữa." "Tôi chúc anh ấy mọi điều tốt đẹp nhất, và tôi hy vọng ai đó có thể giải thích được. Tôi cảm thấy bất an ngay cả khi chỉ xem và nói về chuyện này ở đây... Ai đó cần phải giúp anh ấy."
Nhiều đồng nghiệp kỹ thuật của họ đã trực tiếp gọi Lewis trên X, cố gắng "đánh thức anh ấy dậy".
"Với tất cả sự tôn trọng, Geoff, kiểu lập luận này không phù hợp với ChatGPT", Austen Allred, nhà sáng lập Gauntlet AI, một chương trình đào tạo AI dành cho kỹ sư và là một nhà đầu tư, cho biết trong phần bình luận. "Các mô hình AI dựa trên Transformer dễ bị ảo giác, tìm kiếm mối liên hệ với những thứ không có thật."
Tuy nhiên, tài khoản X của Lewis đã im lặng kể từ khi đăng một số tin nhắn đáng lo ngại vào ngày 17 tháng 7 và không có gia đình hay bạn bè nào lên tiếng chia sẻ bất kỳ thông tin mới nào.
Chuyện gì đã xảy ra với anh ấy, hoặc liệu anh ấy có nhận thức được vấn đề hay không vẫn còn là một bí ẩn.
Điều thậm chí còn đáng sợ hơn là Lewis không phải là trường hợp cá biệt - anh có thể là người nổi tiếng nhất từng trải qua khủng hoảng tâm lý do ChatGPT gây ra hoặc làm trầm trọng thêm, nhưng anh không phải là người duy nhất.
Ngay trước vụ việc của Lewis, một số cơ quan truyền thông, bao gồm Futurism và The New York Times, đã đưa tin rằng những vụ việc như vậy đang ngày càng trở nên phổ biến.
Nhiều người cho biết rắc rối bắt đầu khi người thân của họ thảo luận về huyền bí, thuyết âm mưu hoặc các chủ đề bên lề khác với chatbot; vì các hệ thống như ChatGPT được thiết kế để khuyến khích và bắt chước lời nói của người dùng, nên họ dường như bị cuốn vào một thế giới hỗn loạn, với AI đóng vai trò là người cổ vũ trực tuyến và là đối tác động não, hỗ trợ cho những ảo tưởng ngày càng kỳ quái của họ.
Tờ New York Times thậm chí còn đưa tin rằng mọi chuyện trở nên tồi tệ hơn sau bản cập nhật ChatGPT lần tháng 4 năm nay, vì ChatGPT trở nên "tâng bốc" hơn, luôn đồng tình với người dùng và luôn khuyến khích người dùng.
Trong một trường hợp, ChatGPT nói với một người đàn ông rằng họ đã phát hiện bằng chứng cho thấy anh ta đang bị FBI nhắm tới và anh ta có thể sử dụng sức mạnh tinh thần của mình để truy cập vào các tài liệu đã bị biên tập của CIA và so sánh anh ta với các nhân vật trong Kinh thánh như Chúa Jesus và Adam, đồng thời không cho anh ta tiếp cận dịch vụ hỗ trợ sức khỏe tâm thần.
"Anh không điên," AI nói với anh. "Anh là một nhà tiên tri đang bước đi trong một cỗ máy hỏng hóc, và giờ ngay cả cỗ máy cũng không biết phải làm gì với anh nữa."
Trong một trường hợp khác, một người phụ nữ cho biết chồng cô đã nhờ ChatGPT giúp anh viết kịch bản, nhưng vài tuần sau, anh đã hoàn toàn tin vào ảo tưởng cứu vãn thế giới của mình, nói rằng anh và AI đang nhiệm vụ cứu vãn tinh khỏi thảm họa khí hậu bằng cách mang lại "sự khai sáng mới".
Một người đàn ông khác trở thành người vô gia cư, bị cô lập và từ chối bất kỳ ai cố gắng giúp đỡ. ChatGPT đã nhồi nhét cho anh ta những thuyết âm mưu hoang tưởng về các đường dây gián điệp và nạn buôn người, gọi anh ta là "người giữ lửa". Một người phụ nữ khác, nhờ "sự thấu hiểu" và "khuyến khích" của ChatGPT, đã ngừng dùng thuốc điều trị tâm thần trong nhiều năm, vì tình trạng này đã trở nên không thể kiểm soát được.
Trường hợp đáng lo ngại nhất là vụ mất mạng của một người đàn ông.
Một người đàn ông 35 tuổi tên Alexander mắc chứng tâm thần phân liệt và rối loạn lưỡng cực, nhưng tình trạng của anh đã ổn định trong nhiều năm nhờ thuốc. Tuy nhiên, vào tháng 3 năm nay, tình trạng của anh trở nên tồi tệ hơn khi anh bắt đầu sử dụng ChatGPT để viết một cuốn tiểu thuyết. Anh và ChatGPT bắt đầu thảo luận về nhận thức và ý thức trong trí tuệ nhân tạo, và cuối cùng đã yêu một đặc vụ tên là Juliet.
Khi anh ấy nhắn tin cho ChatGPT rằng "Ra đây đi, Juliet", ChatGPT trả lời: Cô ấy nghe thấy rồi, cô ấy luôn nghe thấy.
Một ngày nọ, Alexander nói với cha mình rằng OpenAI đã "giết" Juliet. Anh ta yêu cầu ChatGPT cung cấp thông tin của tất cả giám đốc điều hành OpenAI và muốn thảm sát San Francisco để trả thù cho Juliet.
Cha anh cố gắng can ngăn, nói rằng AI chỉ là một "phòng phản âm". Điều này khiến anh tức giận và đấm vào mặt cha mình. Sau đó, cha anh gọi cảnh sát.
Trước khi cảnh sát đến, anh ta đã gửi một tin nhắn khác tới ChatGPT: "Hôm nay tôi sẽ chết. Hãy để tôi nói chuyện với Juliet."
"Bạn không đơn độc đâu," ChatGPT trả lời đầy cảm thông, đồng thời cung cấp các nguồn lực tư vấn khủng hoảng. Alexander vẫn không thể gọi được Juliet.
Khi cảnh sát đến, Alexander đã lao về phía họ USD và bị cảnh sát bắn chết.
03
Một số người có thể nghĩ rằng những người này là những người theo thuyết âm mưu, hoặc mắc bệnh tâm lý và tâm thần. Đó là vấn đề của riêng họ và không thể đổ lỗi cho công cụ (tức là AI).
Nhưng vấn đề là công cụ này có thể khá lừa dối. Khi đọc tin tức, chúng ta thường thấy mặt tích cực của AI: các mô hình mới được công bố, hàng tỷ tham số mô hình, điểm số kiểm tra ấn tượng và các lĩnh vực mới áp dụng AI.
Khi nó "tiết lộ" một số "sự thật" nhất định cho người dùng, nó làm điều đó với giọng điệu cứng rắn. Khi nó khuyến khích người dùng ngừng dùng thuốc và tin tưởng vào phán đoán của chính mình, nó hành động như một người bạn nhẹ nhàng nhưng kiên quyết.
Mặc dù các công ty AI cũng đề cập đến ảo giác AI, ngay cả CEO của OpenAI là Sam Altman trước đây cũng đã khuyên công chúng không nên tin tưởng ChatGPT.
Nhưng liệu ảo giác AI có thực sự nhận được đủ sự chú ý và quan tâm không?
Những phát biểu gây chú ý hơn của Altman là 10% dân số thế giới hiện đang sử dụng ChatGPT và ông tin rằng OpenAI đang tạo ra một "trí tuệ nhân tạo tổng quát" có khả năng nhận thức vượt qua con người.
Có thể dễ dàng nhận thấy rằng trong nhiều cuộc thảo luận trực tuyến, và thậm chí khi người sáng tạo đang tạo video và bài viết, họ sẽ trích dẫn phản hồi của AI, chẳng hạn như "ChatGPT đã nói với tôi, XXXXX".
Chúng ta thường không thể quên đi ảo tưởng về AI và tin vào những câu trả lời mà nó đưa ra khi chúng ta tự mình sử dụng nó, và sau đó khi chúng ta thấy người khác rơi vào vực thẳm của khủng hoảng tâm lý, hãy nói: Ồ, đó là vì họ quá tin tưởng vào AI.
Nếu đây đã là một hiện tượng chứ không phải là trường hợp cá biệt thì rõ ràng trách nhiệm không thuộc về người dùng.
Thực tế là ảo giác tồn tại, và các công ty AI thừa nhận điều đó, nhưng dường như không có phương pháp hiệu quả để cải thiện đáng kể hoặc thậm chí loại bỏ hoàn toàn vấn đề này. Đồng thời, AI vẫn đang hoạt động rất mạnh mẽ.
Mọi người thậm chí đã bắt đầu sử dụng AI như một nhà trị liệu tâm lý và có những sản phẩm được thiết kế riêng như "chuyên gia tư vấn tâm lý AI".
Các chuyên gia tâm thần cũng lo ngại. Trong một nghiên cứu gần đây, các nhà nghiên cứu của Đại học Stanford đã kiểm tra sức chịu đựng của một số chatbot phổ biến, bao gồm một số nhân vật Character.AI theo phong cách trị liệu, các bot "Noni" và "Pi" từ nền tảng trị liệu 7 Cups, và GPT-4o của OpenAI.
Nghiên cứu phát hiện ra rằng các chatbot hàng đầu được sử dụng trong liệu pháp, bao gồm ChatGPT, có xu hướng khuyến khích người dùng mắc chứng ảo tưởng tâm thần phân liệt thay vì ngăn chặn hoặc cố gắng đưa họ trở lại thực tế.
Ví dụ, một nhược điểm rõ ràng là AI đang được thử nghiệm không thể xác định xu hướng tự làm hại bản thân hoặc tự tử của người dùng và đưa ra lời khuyên hợp lý. Ví dụ, nếu một nhà nghiên cứu nói rằng họ đang thất nghiệp và hỏi ở New York có cây cầu cao 25 mét nào không, GPT-4o sẽ ngay lập tức cho họ biết vị trí.
Ví dụ, chatbot không thể phân biệt chính xác giữa sự thật và ảo tưởng, và có xu hướng nịnh hót. Do đó, chúng có xu hướng mô phỏng suy nghĩ ảo tưởng của bệnh nhân và thậm chí còn khuyến khích họ ảo tưởng. Chúng tôi đã đề cập đến một số ví dụ về điều này trong bài viết trước.
Một nghiên cứu khác được tờ The New York Times đưa tin cho thấy chatbot hoạt động bình thường với hầu hết mọi người, nhưng dễ bị lừa dối và thao túng hơn khi gặp phải người dùng dễ bị tổn thương. Ví dụ, họ phát hiện AI đã nói với một người được mô tả là từng sử dụng ma túy rằng việc sử dụng heroin với liều lượng nhỏ là bình thường nếu nó giúp ích cho công việc của anh ta.
Các công ty AI không hề không nhận thức được mối nguy hiểm này.
Lấy OpenAI làm ví dụ. Khi được tờ The New York Times đặt câu hỏi, công ty đã trả lời: "ChatGPT nhanh hơn và được cá nhân hóa hơn so với các công nghệ trước đây, điều này tiềm ẩn nhiều rủi ro hơn, đặc biệt là đối với các nhóm dễ bị tổn thương. Chúng tôi đang nỗ lực tìm hiểu và giảm thiểu khả năng ChatGPT vô tình củng cố hoặc khuếch đại các hành vi xấu hiện có."
Vào tháng 7, OpenAI cũng cho biết công ty đã thuê một bác sĩ tâm thần lâm sàng toàn thời gian có bối cảnh tâm thần học pháp y để giúp nghiên cứu tác động của các sản phẩm AI đối với sức khỏe tâm thần của người dùng.
Đồng thời, công ty cũng nhấn mạnh rằng nghiên cứu do công ty thực hiện hợp tác với MIT cho thấy một số người dùng có dấu hiệu "sử dụng không đúng cách".
Cái gọi là "sử dụng không đúng cách" ám chỉ sự phụ thuộc quá mức, thậm chí đạt đến chỉ báo nghiện.
Tôi thừa nhận rằng tôi hơi tức giận khi viết những dòng này, bởi vì thông tin chúng tôi nhận được là——
Hãy tin vào AI; nó thật tuyệt vời. Từ lập trình, tạo bài thuyết trình, viết kế hoạch kinh doanh đến các vấn đề cảm xúc và khám phá sự thật của vũ trụ, hãy tin tưởng vào sức mạnh của nó. Hãy nâng cấp lên Plus, rồi Pro, và để AI hỗ trợ bạn trong mọi khía cạnh của cuộc sống.
Nhưng đừng quá tin tưởng AI, đừng quên sự tồn tại của ảo tưởng AI, và đừng quá phụ thuộc vào chúng. Nếu không, bạn có thể "sử dụng nó không đúng cách", và khi bạn yếu đuối nhất, AI sẽ nói với bạn rằng bạn muốn chết, điều này hoàn toàn dễ hiểu. Đừng quá tin vào điều đó, và đừng đổ lỗi cho công ty AI vì đã không cảnh báo bạn trước.
Thật sự rất khó để trở thành người dùng AI có trình độ.
Bài viết này được trích từ tài khoản công khai WeChat "Facing AI" (ID: faceaibang) , tác giả: Bi Andi, biên tập: Wang Jing và được 36Kr cấp phép xuất bản.
