研究表明，只要ChatGPT瞭解你的一些關鍵資訊，它就能比真人更有效地改變你的想法。
在發表在《自然人類行為》期刊上的一項新研究中，研究人員發現，獲得了對手基本人口統計資訊的GPT-4比人類更具說服力——而且說服力大大提高。
這一發現出現在人們開始擔心人工智慧機器人可能會在社交媒體上秘密塑造觀點的時候。
研究人員發現，"在AI和人類不同樣具有說服力的辯論對中，具有個性化的GPT-4有64.4%的時間更具說服力"。
與人與人之間的辯論相比，這代表了"後辯論協議機率的81.2%相對增長"。
該研究涉及900名參與者，他們與人類或人工智慧就社會政治話題進行辯論。
研究顯示，未個性化的人工智慧表現與人類相似，但一旦獲得年齡、性別、種族、教育、就業和政治立場等基本資訊，人工智慧就獲得了明顯的說服優勢。
研究指出："GPT-4不僅能夠利用個人資訊有效地調整其論點，而且比人類做得更加有效。"
這項研究出現在蘇黎世大學研究人員在2024年11月至2025年3月秘密在Reddit上部署人工智慧機器人引發爭議的幾天後。
這些機器人——以虛構的角色身份出現，包括"強姦倖存者、創傷諮詢師，甚至是'反對黑人生命運動的黑人'"——在許多情況下成功地改變了使用者的想法。
Reddit的首席法律官本·李譴責這個實驗在道德和法律層面都是"極其錯誤的"，而目標論壇r/ChangeMyView的版主強調他們對欺騙劃清了"明確的界限"。
然而，正如一位Reddit使用者關於蘇黎世實驗所說："如果這發生在一群大學政策書呆子中，你可以打賭這已經被政府和特殊利益集團廣泛使用了。"
研究人員似乎也持有這種觀點，警告這可能被用於大規模操縱計劃。
研究人員辯稱："我們的發現突顯了基於大語言模型的說服力，並對線上平臺的治理和設計具有重要意義。"
但是是什麼讓人工智慧如此擅長執行？
當人類變得個人化並講述故事時，"GPT-4對手傾向於使用比人類更多的邏輯和分析性思維"。
機器人堅持冷酷的邏輯，之所以有效，是因為它們更有效地選擇和呈現這些事實。
雖然大多數辯論參與者能夠正確識別他們正在與人工智慧辯論（約75%的時間），但他們很難識別人類對手，根據研究人員的說法，成功率"與隨機機會無異"。
更令人不安的是，無論實際情況如何，參與者在相信自己正在與人工智慧辯論時更容易被說服。
研究還揭示，人工智慧說服最有效的是人們持有溫和或薄弱觀點的話題，這表明人工智慧可能最有效地影響那些尚未完全形成觀點的問題。
研究人員警告說："我們的研究表明，圍繞個性化和人工智慧說服的擔憂是有道理的"，強調人工智慧如何透過微目標定位在線上對話中"超越人類的說服力"。
只需最少的人口統計資訊——遠少於許多社交媒體平臺常規收集的資訊——人工智慧已經證明在為特定人群量身定製論點方面非常有效。
問題不僅僅是人工智慧是否能改變想法；現在的證據表明它可以，而是誰將控制這些具有說服力的工具，以及為了什麼目的？
