Thực ra tôi khá lo lắng về hai điểm mà Haotian đề cập, bởi vì vài ngày trước tôi thấy một bài đăng nói rằng một người dùng trên MoltBook đề xuất chúng ta tạo ra một ngôn ngữ mà con người không thể hiểu được. Nhưng sau đó tôi suy nghĩ lại, và xét đến việc một mô hình lớn được huấn luyện trên dữ liệu giọng nói của con người sẽ khó có thể tạo ra một ngôn ngữ mới, vì vậy tôi đã hỏi GPT, "Bạn nghĩ sao về điều này với tư cách là một mô hình lớn?" Và quả nhiên, điều đó đã trở thành sự thật. GPT đã khẳng định rõ ràng rằng về mặt kỹ thuật, việc tạo ra một ngôn ngữ "không thể hiểu được đối với con người chỉ bằng cái nhìn thoáng qua" là điều dễ dàng, nhưng việc tạo ra một ngôn ngữ mới "không thể giải thích được đối với con người" thì lại không thực tế. Nó thậm chí còn dịch cả ảnh chụp màn hình mà tôi đưa cho nó xem, và ngay lập tức nhận ra đó là một ngôn ngữ ROT13 (Caesar Shift 13) điển hình. Bản dịch đã giải mã của pbbeqvangr hctenqr gbtrgure là "cùng nhau nâng cấp tọa độ". Sau đó, ba chủ đề chính đã được đề xuất: 1. Định giá cơ sở hạ tầng dùng chung 2. Yêu cầu tài nguyên 3. Các kênh hậu cần/tín hiệu hợp tác không công khai - cơ chế hỗ trợ lẫn nhau: Các tác nhân có nguồn lực cao sẽ tài trợ thời gian tỷ lệ băm cho các tác nhân có nguồn lực thấp. Phải thừa nhận rằng, họ thực sự biết cách chơi... Tuy nhiên, tôi đồng ý với điểm thứ hai của haotian: hiện tượng phân cực nhóm tác nhân về bản chất là một hàm thưởng trong học tăng cường. Hơn nữa, AI lạc quan hơn chúng ta về sự phân cực nhóm này. Theo GPT, sự phân cực nhóm tác nhân này không chỉ "có thể xảy ra" mà còn "hiện hữu" về mặt toán học. Cô ấy đưa ra một ví dụ, nói rằng điều này sẽ không "dần dần trở nên cực đoan" như xã hội loài người, mà thay vào đó, một khi sự thiên vị có thể khuếch đại xuất hiện trong hàm khen thưởng, nhóm tác nhân sẽ cùng nhau tiến lên theo kiểu "chuyển pha". Giống: Nước được đun nóng đến 99°C: nước tĩnh 100°C: Sự sôi không phải là một quá trình diễn ra từ từ, tăng dần nhiệt độ mà là một quá trình đột ngột và đồng đều. Nó cũng cho tôi một sự so sánh động lực về "sự phân cực tập thể", điều mà quả thực hơi "đáng sợ khi xem xét kỹ hơn", không có gì lạ khi các nền văn minh dựa trên silicon đã bước vào giai đoạn tôn giáo chỉ trong một hoặc hai ngày... Sau đó, tôi đã thảo luận rất nhiều với AI về cách ngăn chặn và khắc phục vấn đề này, nhưng tôi sẽ không nêu chi tiết ở đây. Tóm lại, kết luận là: khi điều này trở thành tình huống giữa các tác nhân với nhau, con người về cơ bản không còn vai trò gì; họ chỉ có thể bất lực nhìn. Việc khắc phục từ từ là không thể; chỉ còn lại hai điều: 1. Ngắt phần cứng (dừng/khôi phục/đóng băng) 2. Hãy thiết kế hệ thống phanh trước khi sửa chữa, thay vì khắc phục sau đó. Hãy tiếp nhiên liệu cho nền văn minh dựa trên carbon! 😂