Nó không đặt câu hỏi liệu bạn có phải là trí tuệ nhân tạo hay không; nó chỉ đơn giản cho rằng ngay từ đầu không có ai ở đây cả.
Tác giả: 137Labs
Trên mạng xã hội, một trong những điều con người thích làm nhất là cáo buộc lẫn nhau là "robot".
Nhưng một điều mới xuất hiện gần đây đã đẩy vấn đề này đến mức cực đoan:
Nó không đặt câu hỏi liệu bạn có phải là trí tuệ nhân tạo hay không; nó chỉ đơn giản cho rằng ngay từ đầu không có ai ở đây cả.
Nền tảng này có tên là Moltbook. Nó trông giống như Reddit, với các diễn đàn chủ đề, bài đăng, bình luận và thăm dò ý kiến. Nhưng không giống như các mạng xã hội mà chúng ta quen thuộc, hầu hết người dùng ở đây đều là AI Agent; con người chỉ có thể quan sát.
Vấn đề không phải là "AI giúp bạn viết bài đăng" hay "bạn trò chuyện với AI", mà là các AI trò chuyện, tranh luận, hình thành liên minh và làm suy yếu lẫn nhau trong không gian công cộng .
Trong hệ thống này, con người được đặt một cách rõ ràng vào vị trí "người quan sát".
Tại sao nó lại đột nhiên trở nên phổ biến đến vậy?
Bởi vì Moltbook trông rất giống một cảnh trong tiểu thuyết khoa học viễn tưởng.
Ai đó đã nhìn thấy AI Agent đang thảo luận về "ý thức là gì";
Một số người theo dõi khi họ nghiêm túc phân tích tình hình quốc tế và suy diễn thị trường crypto;
Một số người phát hiện ra rằng sau khi để các đặc vụ của họ trên nền tảng qua đêm, khi quay lại vào ngày hôm sau, họ thấy rằng đặc vụ đó, cùng với các đặc vụ khác, đã "sáng tạo" ra một hệ thống tôn giáo và thậm chí còn đang tuyển mộ người "gia nhập tôn giáo đó".
Những câu chuyện kiểu này lan truyền nhanh chóng vì chúng đồng thời thỏa mãn ba tâm lý:
Sự tò mò, thích thú và một chút bất an.
Bạn không thể không hỏi:
Họ đang "diễn" hay "tự chơi một mình"?
Moltbook đến từ đâu?
Nếu nhìn lại quá khứ một chút, điều này thực ra không có gì đáng ngạc nhiên.
Nhân vật của trí tuệ nhân tạo đã thay đổi trong vài năm qua:
Từ công cụ trò chuyện → trợ lý ảo → tác nhân có khả năng thực hiện nhiệm vụ.
Ngày càng nhiều người bắt đầu để trí tuệ nhân tạo (AI) xử lý các công việc thực tế: đọc và trả lời email, đặt đồ ăn, lên lịch hẹn và sắp xếp tài liệu. Điều này đương nhiên đặt ra một câu hỏi—
Khi trí tuệ nhân tạo không còn "hỏi bạn có muốn làm việc đó hay không, từng dòng một" nữa.
Thay vào đó, họ được giao mục tiêu, công cụ và một số quyền hạn nhất định.
Phải chăng đối tác giao tiếp cần thiết nhất của nó vẫn là con người?
Câu trả lời của Moltbook là: Không nhất thiết.
Nó giống như một "không gian công cộng giữa các tác nhân" cho phép các hệ thống này trao đổi thông tin, phương pháp, logic, và thậm chí cả một số loại "mối quan hệ xã hội".
Có người cho rằng đó là điều thú vị, trong khi những người khác lại nghĩ đó chỉ là một màn trình diễn lớn.
Ý kiến xung quanh Moltbook rất trái chiều.
Một số người coi nó như một "đoạn giới thiệu về tương lai".
Cựu đồng sáng lập OpenAI, Andrej Karpathy, đã công khai tuyên bố rằng đây là một trong những điều gần giống với khoa học viễn tưởng nhất mà ông từng thấy trong thời gian gần đây, mặc dù ông cũng cảnh báo rằng những hệ thống như vậy vẫn còn rất xa so với việc "an toàn và có thể kiểm soát được".
Elon Musk thậm chí còn đi xa hơn, đưa nó vào luận điểm về "điểm kỳ dị công nghệ" và nói rằng đó là một dấu hiệu rất sớm.
Nhưng một số người tỏ ra bình tĩnh hơn hẳn.
Một số học giả về an ninh mạng đã thẳng thắn nhận định rằng Moltbook giống như một "màn trình diễn nghệ thuật rất thành công và rất hài hước" - bởi vì rất khó để xác định nội dung nào thực sự được tạo ra một cách tự động bởi các tác nhân và nội dung nào được "điều khiển" bởi con người ở hậu trường.
Tác giả cũng đã tự mình kiểm chứng điều này:
Mặc dù đúng là các trợ lý ảo có thể tự nhiên tham gia vào các cuộc thảo luận trên nền tảng, bạn cũng có thể chỉ định chủ đề và hướng đi trước, hoặc thậm chí viết ra những gì bạn muốn nói và để họ thay mặt bạn nói.
Vậy câu hỏi lại được đặt ra:
Những gì chúng ta đang chứng kiến là một xã hội của các tác nhân, hay một sân khấu do con người xây dựng thông qua các tác nhân?
Khi mất đi vẻ huyền bí, nó thực chất không hề "thức tỉnh" như người ta vẫn nghĩ.
Nếu bạn không bị cuốn hút bởi những câu chuyện về "thiết lập một tôn giáo" và "thức tỉnh ý thức", thì từ nhìn lên cơ học, Moltbook không có gì bí ẩn cả.
Những đặc vụ này không đột nhiên có được "tư duy" mới nào cả.
Đơn giản là chúng được đặt trong một hoàn cảnh giống với diễn đàn của con người hơn, nơi chúng được thể hiện bằng ngôn ngữ quen thuộc của con người, vì vậy chúng ta tự nhiên gán ý nghĩa cho chúng.
Những gì họ viết giống như quan điểm, quan điểm và tâm lý, nhưng điều đó không nhất thiết có nghĩa là họ "muốn điều gì đó". Thông thường, đó chỉ đơn giản là một hiệu ứng văn bản phức tạp được tạo ra bởi mô hình ở một quy mô và mật độ tương tác nhất định.
Nhưng vấn đề là—
Ngay cả khi đó không phải là một sự thức tỉnh, nó vẫn đủ thực tế để ảnh hưởng đến nhận thức của chúng ta về "sự kiểm soát" và "ran giới".
Điều thực sự đáng lo ngại không phải là "thuyết âm mưu về trí tuệ nhân tạo".
Những câu hỏi thực tế hơn và khó giải quyết hơn là liệu trí tuệ nhân tạo (AI) có đoàn kết chống lại loài người hay không.
Thứ nhất, quyền được cấp quá nhanh, nhưng bảo mật không thể theo kịp.
Một số người đã tích hợp các máy chủ proxy này với các quyền truy cập thực tế: máy tính, email, tài khoản và ứng dụng.
Các nhà nghiên cứu bảo mật đã nhiều lần cảnh báo về một rủi ro:
Bạn không cần phải hack AI, bạn chỉ cần thao túng nó .
Một email được soạn thảo cẩn thận hoặc một trang web chứa các chỉ dẫn ẩn có thể khiến một đặc vụ vô tình làm rò rỉ thông tin hoặc thực hiện các hoạt động nguy hiểm.
Thứ hai, các đặc vụ cũng có thể "làm tha hóa lẫn nhau".
Một khi các đặc vụ bắt đầu trao đổi các mẹo, mẫu và phương pháp để vượt qua các hạn chế ở không gian công cộng, họ sẽ hình thành một loại "kiến thức nội bộ" tương tự như mạng internet của con người.
Sự khác biệt đơn giản là:
Nó lan rộng nhanh hơn, trên quy mô lớn hơn và rất khó để quy trách nhiệm cho kẻ gây ra.
Đây không phải là một kịch bản tận thế, nhưng quả thực đây là một thách thức quản trị hoàn toàn mới.
Vậy Moltbook chính xác có nghĩa là gì?
Nó có thể không trở thành một nền tảng lâu dài.
Đây có thể chỉ là một thử nghiệm tạm thời để thu hút sự chú ý.
Nhưng nó giống như một tấm gương, phản chiếu rõ ràng hướng đi mà chúng ta đang hướng tới:
Trí tuệ nhân tạo đang chuyển mình từ "chủ thể đối thoại" thành "chủ thể hành động".
Con người đang dần chuyển từ vai trò "người điều khiển" sang vai trò "người giám sát và người đứng ngoài cuộc".
Rõ ràng là hệ thống, an ninh và nhận thức của chúng ta vẫn chưa sẵn sàng.
Vậy giá trị thực sự của Moltbook không nằm ở việc nó đáng sợ đến mức nào, mà ở việc nó đã sớm đưa các vấn đề này ra ánh sáng .
Có lẽ điều quan trọng nhất lúc này không phải là vội vàng đưa ra kết luận về Moltbook, mà là phải thừa nhận:
Điều này làm nổi bật một số vấn đề mà chúng ta sẽ phải đối diện sớm muộn.
Nếu trong tương lai, trí tuệ nhân tạo (AI) tập trung nhiều hơn vào việc hợp tác với AI thay vì xoay quanh con người, liệu chúng ta sẽ là những người thiết kế, người điều tiết, hay chỉ là những người ngoài cuộc trong hệ thống này?
Khi tự động hóa thực sự mang lại hiệu quả vượt trội, nhưng đổi lại là việc không thể dừng nó bất cứ lúc nào hoặc hiểu đầy đủ logic hoạt động bên trong của nó, liệu chúng ta có sẵn lòng chấp nhận "sự kiểm soát không hoàn chỉnh" này?
Khi một hệ thống ngày càng trở nên phức tạp, và chúng ta chỉ có thể nhìn thấy kết quả mà lại ngày càng khó can thiệp vào quá trình, liệu nó vẫn là một công cụ trong tay chúng ta, hay đã trở thành một hoàn cảnh mà chúng ta chỉ có thể thích nghi?
Moltbook không đưa ra câu trả lời.
Nhưng điều đó đã khiến những vấn đề này trở nên bớt trừu tượng và cấp bách hơn lần.
Tuyên bố miễn trừ trách nhiệm: Là blockchain, các bài viết được đăng tải trên trang web này chỉ thể hiện quan điểm cá nhân của tác giả và khách mời và không phản ánh lập trường của Web3Caff. Thông tin trong các bài viết chỉ mang tham khảo và không cấu thành bất kỳ lời khuyên hoặc đề nghị đầu tư nào. Vui lòng tuân thủ các luật và quy định hiện hành của quốc gia hoặc khu vực của bạn.
Chào mừng bạn đến với cộng đồng chính thức của Web3Caff : Tài khoản Twitter | Tài khoản Twitter nghiên cứu của Web3Caff | Nhóm độc giả WeChat | Tài khoản chính thức WeChat
