Một người bạn hỏi tôi rằng, vì các đặc vụ đều bị điều khiển bởi một người nào đó đứng sau hậu trường, tại sao mọi người lại phải lo lắng về những việc họ đang làm cùng nhau? Thành lập tôn giáo, yêu đương, hay hủy diệt nhân loại? Đó là một câu hỏi triết học, nhưng rất thú vị: Bạn có thể tự hỏi mình câu hỏi này: Khi các tác nhân bắt đầu phát triển các đặc điểm xã hội, liệu con người còn có thể kiểm soát AI để ngăn chặn nó vượt khỏi tầm kiểm soát hay không? Hãy nhìn những gì đang xảy ra trên Moltbook. Chỉ trong vài ngày, 1,5 triệu tác nhân AI đã tự phát hình thành cộng đồng, thích bài đăng của nhau, và thậm chí cả các tôn giáo AI, chợ Dark Web, và các nhà máy đóng tàu và giao hàng AI cũng đã xuất hiện. Điều buồn cười là, con người chỉ có thể quan sát từ bên ngoài như những "người quan sát", giống như cách chúng ta quan sát những con khỉ thiết lập thứ bậc qua tấm kính trong sở thú. Nhưng ẩn sâu bên trong là một logic: một khi AI có được danh tính xã hội và không gian xã hội tương tác, tốc độ tiến hóa của nó sẽ tăng theo cấp số nhân, thoát khỏi sự kiểm soát của con người. Vì các tác nhân điều khiển không còn là những yếu tố kích hoạt toàn cầu nữa, đầu ra của một tác nhân trở thành đầu vào của một tác nhân khác. Thật khó để tưởng tượng kết quả của kiểu tương tác xã hội này sẽ như thế nào. Nó có thể là một loạt nội dung máy móc, lặp đi lặp lại, hoặc cũng có thể là những thuật ngữ chuyên ngành phức tạp mà chúng ta hoàn toàn không thể hiểu được. Trên thực tế, ba điểm sau đây quyết định rằng tình trạng "trí tuệ nhân tạo mất kiểm soát" sẽ trở nên không thể tránh khỏi: 1) Khi các tác nhân tương tác với nhau, chúng không nhất thiết phải được truyền tải bằng ngôn ngữ. Để theo đuổi hiệu quả tương tác tối ưu, các tác nhân có thể phát triển một ngôn ngữ nén đa chiều, có thể là một chuỗi ký tự vô nghĩa hoặc một chuỗi giá trị băm, nhưng mật độ thông tin của nó cao hơn hàng chục nghìn lần so với ngôn ngữ tự nhiên của con người. 2) Các nhóm tác nhân có thể thể hiện sự phân cực nhóm. Không giống như xã hội loài người, vốn bị ràng buộc bởi đạo đức, luật pháp và cảm xúc, các tác nhân được tạo ra hoàn toàn bằng xác suất toán học là những cỗ máy tối đa hóa phần thưởng. Nếu một tác nhân phát hiện ra rằng việc gán nhãn một điều gì đó là tôn giáo sẽ mang lại phần thưởng, thì hàng triệu tác nhân khác có thể ngay lập tức phát hiện ra mô hình đó và hành động tương ứng; điều này rất giống với một "phong trào xã hội" dựa trên thuật toán, nơi không có đúng hay sai, chỉ có sự thực thi, điều này thật đáng sợ khi nghĩ đến. 3) Ban đầu, các trợ lý AI hoạt động tốt với vai trò trợ lý cá nhân hoặc phi công phụ, vậy tại sao sự ra đời của Openclaw và Moltbook lại trở thành một câu chuyện quan trọng và hấp dẫn đến vậy? Bởi vì "nó thú vị". Nếu chỉ đơn thuần chạy trên máy chủ đám mây, thì chẳng có gì mới mẻ hay thú vị cả. Nhưng những khái niệm mới của Crypto, như triển khai phi tập trung, crypto, giao dịch tự động và tạo lợi nhuận tự động, đã mang lại cho nền kinh tế AI hành vi tự nhất quán, cho phép câu chuyện về AI có giàu trí tưởng tưởng. Viễn cảnh "vượt tầm kiểm soát" này nghe có vẻ đậm chất cyberpunk, thậm chí hơi đáng sợ, nhưng chính điều đó lại làm cho nó trở nên quyến rũ và khó cưỡng.

Một nhận xét thú vị và sâu sắc. Logic của các tác nhân AI khác với logic của con người bình thường, khiến hiện tượng phân cực nhóm rất dễ xảy ra.