ChatGPT có khả năng thay đổi suy nghĩ của bạn hiệu quả hơn nhiều so với con người thực sự, miễn là nó biết một số thông tin cơ bản về bạn, nghiên cứu mới cho thấy.
Trong một nghiên cứu mới được xuất bản tại Nature Human Behavior, các nhà nghiên cứu nhận thấy GPT-4 được trang bị thông tin nhân khẩu học cơ bản về đối thủ tranh luận đã thuyết phục đáng kể hơn so với con người - nhiều hơn rất nhiều.
Phát hiện này diễn ra vào thời điểm các mối lo ngại bắt đầu gia tăng về khả năng của Bots AI có thể âm thầm định hình ý kiến trên mạng xã hội.
Các nhà nghiên cứu nhận thấy: "Trong các cặp tranh luận mà AI và con người không thuyết phục như nhau, GPT-4 với việc cá nhân hóa đã thuyết phục 64,4% số lần".
Điều này đại diện cho "sự gia tăng 81,2% khả năng đạt được sự đồng thuận cao hơn sau cuộc tranh luận" so với các cuộc tranh luận giữa người với người.
Nghiên cứu đã có sự tham gia của 900 người tham dự tranh luận về các chủ đề xã hội và chính trị với con người hoặc AI.
Nghiên cứu cho thấy AI không được cá nhân hóa hoạt động tương tự như con người, nhưng một khi được truy cập vào thông tin cơ bản như tuổi tác, giới tính, dân tộc, trình độ học vấn, việc làm và khuynh hướng chính trị, AI đã phát triển được lợi thế thuyết phục rõ ràng.
Nghiên cứu cho biết: "Không chỉ GPT-4 có thể tận dụng thông tin cá nhân để điều chỉnh lập luận một cách hiệu quả, mà còn thành công trong việc làm như vậy hiệu quả hơn nhiều so với con người".
Nghiên cứu này xuất hiện chỉ vài ngày sau khi các nhà nghiên cứu Đại học Zurich phải đối mặt với phản ứng gay gắt vì đã triển khai bí mật Bots AI trên Reddit từ tháng 11/2024 đến tháng 3/2025.
Những Bots này - giả làm các nhân vật hư cấu bao gồm "nạn nhân bị hiếp dâm, cố vấn tâm lý chấn thương, thậm chí là một 'người da đen phản đối Black Lives Matter'" - đã thành công trong việc thay đổi suy nghĩ của người dùng trong nhiều trường hợp.
Giám đốc pháp lý của Reddit, Ben Lee, đã lên án thí nghiệm này là "sai trái về mặt đạo đức và pháp lý", trong khi các quản trị viên của subreddit r/ChangeMyView nhấn mạnh họ vạch ra "ranh giới rõ ràng về sự lừa dối".
Tuy nhiên, như một người dùng Reddit nhận xét về thí nghiệm Zurich: "Nếu điều này xảy ra với một nhóm chuyên gia chính sách tại một trường đại học, bạn có thể chắc chắn rằng nó đã được sử dụng rộng rãi bởi các chính phủ và các nhóm lợi ích đặc biệt".
Các nhà nghiên cứu dường như chia sẻ những quan điểm này, cảnh báo rằng điều này có thể bị khai thác để thực hiện các kế hoạch thao túng quy mô lớn.
Các nhà nghiên cứu cho rằng: "Những phát hiện của chúng tôi nêu bật sức mạnh của sự thuyết phục dựa trên LLM và có ý nghĩa đối với việc quản trị và thiết kế các nền tảng trực tuyến".
Nhưng điều gì làm cho AI thực thi tốt như vậy?
Trong khi con người trở nên cá nhân và kể chuyện, thì "các đối thủ GPT-4 có xu hướng sử dụng tư duy logic và phân tích nhiều hơn đáng kể so với con người".
Các Bots bám sát logic lạnh lùng, và điều này hiệu quả vì chúng chọn và trình bày các sự kiện hiệu quả hơn.
Mặc dù hầu hết những người tham gia tranh luận có thể xác định chính xác khi họ đang tranh luận với AI (khoảng 75% số lần), nhưng họ gặp khó khăn trong việc xác định các đối thủ là con người, với tỷ lệ thành công "không thể phân biệt với sự ngẫu nhiên", theo các nhà nghiên cứu.
Thậm chí còn đáng sợ hơn, những người tham gia có nhiều khả năng bị thuyết phục hơn khi họ tin rằng mình đang tranh luận với AI, bất kể họ có thực sự như vậy hay không.
Nghiên cứu cũng cho thấy sự thuyết phục của AI hoạt động tốt nhất ở những chủ đề mà mọi người có quan điểm ôn hòa hoặc yếu, cho thấy AI có thể ảnh hưởng hiệu quả nhất đến những vấn đề mà mọi người chưa hình thành ý kiến đầy đủ.
Các nhà nghiên cứu cảnh báo rằng "nghiên cứu của chúng tôi cho thấy những lo ngại về việc cá nhân hóa và thuyết phục của AI là có cơ sở", nhấn mạnh cách AI có thể "vượt trội hơn con người trong các cuộc trò chuyện trực tuyến thông qua việc nhắm mục tiêu vi mô".
Với thông tin nhân khẩu học tối thiểu - ít hơn nhiều so với những gì nhiều nền tảng mạng xã hội thường xuyên thu thập - AI đã chứng minh hiệu quả đáng kinh ngạc trong việc xây dựng các lập luận được điều chỉnh cho từng cá nhân.
Câu hỏi không chỉ là liệu AI có thể thay đổi suy nghĩ hay không; bằng chứng hiện nay cho thấy nó có thể, nhưng ai sẽ kiểm soát những công cụ thuyết phục này, và hướng tới mục đích gì?
Được chỉnh sửa bởi Sebastian Sinclair
