在春季,美國看到了可能是其第一位 AI 候選人。在懷俄明州市長的短暫競選中,由真人 Victor Miller 建立的基於 ChatGPT 的虛擬整合公民(VIC)承諾完全由 AI 來治理。
在 2024 年初,許多人認為,即使沒有贏得選舉,生成式 AI 也將在民主選舉中發揮關鍵作用並對其構成重大風險,因為超過 60 個國家的 20 多億人參與了投票。但現在,專家和分析人士改變了調子,稱生成式 AI 可能幾乎沒有產生任何影響。
那麼,所有預測 2024 年將是 AI 選舉年的預言都是錯誤的嗎?事實是...並非如此。接受 WIRED 採訪的專家表示,這可能仍然是"AI 選舉"——只是與許多人預期的不同。
首先,圍繞生成式 AI 的炒作主要集中在對深度造假的威脅上,專家和評論員擔心它們有可能淹沒已經模糊的資訊空間,欺騙公眾。
"我認為,關於誤導性深度造假的擔憂佔據了很大一部分討論空間,"紐約大學技術政策中心主任 Scott Brennen 說。但 Brennen 表示,許多競選活動實際上都很猶豫使用生成式 AI 製作深度造假,特別是針對對手,因為這項技術使用起來很複雜。在美國,一些人擔心可能會觸犯一些新的州級法律,這些法律限制"欺騙性"的深度造假廣告,或要求在政治廣告中披露 AI 的使用。
"我認為任何競選活動或政客或廣告商都不想成為試驗品,特別是因為這些法律的寫法,'欺騙性'的定義並不清晰,"Brennen 說。
今年早些時候,WIRED 啟動了AI 選舉專案,跟蹤全球選舉中 AI 的使用情況。哥倫比亞大學騎士第一修正案研究所釋出的一份關於 WIRED AI 選舉專案的分析發現,大約一半的深度造假案例並不一定是有意欺騙性的。這與華盛頓郵報的報道一致,即深度造假並沒有真正誤導人或改變人們的想法,但確實加深了黨派分歧。
許多 AI 生成的內容都用於表達對某些候選人的支援或粉絲情緒。例如,一段 AI 生成的唐納德·特朗普和埃隆·馬斯克跳舞的影片,配上 BeeGees 樂隊的"Stayin' Alive"歌曲,在社交媒體上被分享了數百萬次,包括猶他州共和黨參議員邁克·李。
"這都是關於社會訊號。這就是人們分享這些東西的原因。這不是 AI 的問題。你看到的是一個極度分裂的選民群體的影響,"公共利益技術專家、哈佛肯尼迪學院講師布魯斯·施奈爾說。"這不是我們整個歷史上都有完美的選舉,突然出現了 AI 就都是虛假資訊。"
但不要誤解——確實有誤導性的深度造假在這次選舉期間傳播。例如,在孟加拉國選舉前幾天,網上流傳著深度造假,鼓勵該國一個政黨的支持者抵制投票。非營利組織 Witness 的專案主管 Sam Gregory 表示,他的團隊今年確實看到了深度造假案例的增加。
"在多個選舉背景下,"他說,"都有使用合成媒體(音訊、影片和影象格式)的欺騙性或令人困惑的例子,讓記者感到困惑,無法完全驗證或質疑。"這表明,目前用於檢測 AI 生成媒體的工具和系統仍然跟不上技術發展的步伐。在美國和西歐以外的地方,這些檢測工具甚至更不可靠。
"幸運的是,AI 並沒有以欺騙性的方式大規模使用在大多數選舉或關鍵選舉中,但很明顯,檢測工具和獲取這些工具的渠道還存在差距,對於最需要的人來說尤其如此,"Gregory 說。"現在還不是自滿的時候。"
他說,合成媒體的存在本身就意味著政客們能夠聲稱真實媒體是假的——這種現象被稱為"說謊者的紅利"。8 月,唐納德·特朗普聲稱顯示副總統卡馬拉·哈里斯競選集會人群眾多的圖片是 AI 生成的(事實並非如此)。Gregory 表示,在 Witness 深度造假快速響應小組收到的所有報告中,大約三分之一的案例是政客們使用 AI 否認真實事件的證據,其中許多涉及洩露的對話。
但 Brennen 表示,今年 AI 的更重要用途發生在幕後,以更微妙、不那麼引人注目的方式。"雖然誤導性的深度造假比許多人擔心的要少,但 AI 在幕後仍在大量使用,"Brennen 說。"我認為我們已經看到 AI 被用來為電子郵件、廣告甚至演講撰寫文案的情況越來越多。"但由於這些使用生成式 AI 的方式不像深度造假那樣面向消費者,Brennen 說,很難確切知道這些工具被使用的規模。
施奈爾說,AI 實際上在選舉中發揮了重要作用,包括"語言翻譯、外展活動、協助制定策略"。
在印度尼西亞的選舉中,一家政治諮詢公司使用了一款基於 OpenAI 的 ChatGPT 構建的工具來撰寫演講稿和起草競選策略。在印度,總理納倫德拉·莫迪使用了一款AI 翻譯軟體,實時將他的演講翻譯成印度多種語言。施奈爾說,這些 AI 的使用有可能對民主產生積極影響,讓更多人感到參與政治過程,並幫助小型競選活動獲得通常無法獲得的資源。
"我認為我們會看到對地方候選人的影響最大,"他說。"這個國家的大多數競選活動都很小。這可能是一個人在競選一份甚至不是有薪的工作。"能夠幫助候選人與選民聯絡或辦理文書手續的 AI 工具,施奈爾說,將是"非常棒的"。
施奈爾還指出,AI 候選人和發言人可以幫助保護專制國家的真人反對候選人。今年早些時候,白俄羅斯流亡異議人士作為抗議符號運行了一位 AI 候選人,反對總統亞歷山大·盧卡申科,這位被稱為"歐洲最後的獨裁者"的人已經逮捕了記者和異議人士,以及他們的親屬。
就生成式 AI 公司而言,它們已經在今年的美國競選活動中參與其中。微軟和谷歌都為多個競選活動提供了關於如何使用其產品的培訓。
"這可能還不是 AI 選舉的年份,因為這些工具才剛剛開始,"施奈爾說。"但它們正在開始。"
