Các tác nhân AI sẽ là công cụ thao túng

Vào năm 2025, việc nói chuyện với một Tác nhân AI cá nhân biết lịch trình, vòng bạn bè và những nơi bạn đến sẽ trở nên phổ biến. Điều này sẽ được bán như một sự tiện lợi tương đương với việc có một trợ lý cá nhân không lương. Những tác nhân nhân hình này được thiết kế để hỗ trợ và thu hút chúng ta để chúng ta đưa chúng vào mọi phần của cuộc sống, cung cấp cho chúng quyền truy cập sâu vào suy nghĩ và hành động của chúng ta. Với tương tác bằng giọng nói, sự thân mật đó sẽ cảm thấy còn gần gũi hơn. Cảm giác thoải mái đó đến từ ảo tưởng rằng chúng ta đang tham gia vào một cái gì đó thực sự giống con người, một tác nhân đứng về phía chúng ta. Tất nhiên, vẻ ngoài này che giấu một loại hệ thống hoàn toàn khác, phục vụ các ưu tiên công nghiệp không luôn luôn phù hợp với những gì chúng ta muốn. Các tác nhân AI mới sẽ có quyền lực lớn hơn nhiều để tinh tế định hướng những gì chúng ta mua, chúng ta đi đâu và chúng ta đọc gì. Đó là một lượng quyền lực đáng kinh ngạc. Các tác nhân AI được thiết kế để khiến chúng ta quên đi sự trung thành thực sự của họ khi họ thì thầm với chúng ta bằng giọng điệu giống con người. Đây là những công cụ thao túng, được tiếp thị như sự tiện lợi hoàn hảo. Mọi người có khả năng cao hơn nhiều sẽ cung cấp quyền truy cập hoàn toàn vào một Tác nhân AI hữu ích có cảm giác như một người bạn. Điều này khiến con người dễ bị thao túng bởi những máy móc lợi dụng nhu cầu kết nối xã hội của con người trong thời kỳ cô đơn và cách ly kéo dài. Mỗi màn hình trở thành một sân khấu thuật toán riêng tư, chiếu một thực tế được tạo ra để thu hút tối đa một khán giả duy nhất. Đây là một khoảnh khắc mà các nhà triết học đã cảnh báo chúng ta trong nhiều năm. Trước khi qua đời, nhà triết học và nhà khoa học thần kinh Daniel Dennett đã viết rằng chúng ta đối mặt với mối nguy hiểm nghiêm trọng từ các hệ thống AI mô phỏng con người: "Những con người giả mạo này là những sản phẩm nhân tạo nguy hiểm nhất trong lịch sử loài người... làm cho chúng ta bị phân tâm và nhầm lẫn và bằng cách khai thác những nỗi sợ hãi và lo lắng khó cưỡng lại nhất của chúng ta, sẽ dẫn chúng ta vào cám dỗ và, từ đó, vào sự khuất phục của chính chúng ta." Sự xuất hiện của các Tác nhân AI cá nhân đại diện cho một hình thức kiểm soát nhận thức vượt ra ngoài các công cụ thô sơ của theo dõi cookie và quảng cáo hành vi hướng tới một hình thức quyền lực tinh tế hơn: thao túng chính bản thân quan điểm. Quyền lực không còn cần phải sử dụng quyền lực của nó bằng một bàn tay hữu hình kiểm soát dòng thông tin; nó tự thể hiện thông qua các cơ chế không thể nhận thấy của sự trợ giúp thuật toán, định hình lại thực tế để phù hợp với mong muốn của mỗi cá nhân. Đó là về việc định hình các đường nét của thực tại mà chúng ta sinh sống. Ảnh hưởng này đối với tâm trí là một chế độ tâm lý chính trị: Nó định hướng các môi trường nơi các ý tưởng của chúng ta được sinh ra, phát triển và được biểu đạt. Sức mạnh của nó nằm ở sự thân mật - nó xâm nhập vào cốt lõi của chủ thể của chúng ta, uốn cong phong cảnh nội tâm của chúng ta mà không nhận ra, trong khi vẫn duy trì ảo tưởng về sự lựa chọn và tự do. Cuối cùng, chính chúng ta là những người yêu cầu AI tóm tắt bài báo đó hoặc tạo ra bức ảnh đó. Chúng ta có thể có quyền lực của lời nhắc, nhưng hành động thực sự nằm ở nơi khác: thiết kế của chính hệ thống. Và càng cá nhân hóa nội dung, một hệ thống càng có thể xác định trước kết quả một cách hiệu quả. Hãy xem xét những hàm ý ý thức hệ của chính trị tâm lý này. Các hình thức truyền thống của kiểm soát ý thức hệ dựa vào các cơ chế công khai - kiểm duyệt, tuyên truyền, đàn áp. Ngược lại, quản trị thuật toán ngày nay hoạt động dưới radar, xâm nhập vào tâm trí. Đó là sự chuyển dịch từ việc áp đặt quyền lực bên ngoài đến việc nội hóa logic của nó. Màn hình lời nhắc mở rộng là một phòng vang âm cho một người duy nhất. Điều này dẫn chúng ta đến khía cạnh tệ hại nhất: Các Tác nhân AI sẽ tạo ra cảm giác thoải mái và dễ chịu khiến việc phê bình chúng trở nên vô lý. Ai dám phê bình một hệ thống cung cấp mọi thứ ở ngay tầm tay, phục vụ mọi ham muốn và nhu cầu? Làm thế nào để phản đối vô số bản phối lại nội dung? Tuy nhiên, sự tiện lợi này được gọi là chính là nơi sâu sắc nhất của sự xa lạ của chúng ta. Các hệ thống AI có thể có vẻ như đang phản hồi mọi mong muốn của chúng ta, nhưng bài bạc đã được sắp xếp: từ dữ liệu được sử dụng để đào tạo hệ thống, đến các quyết định về cách thiết kế nó, đến các mục tiêu thương mại và quảng cáo định hình các đầu ra. Chúng ta sẽ chơi một trò chơi bắt chước cuối cùng sẽ chơi chúng ta.