在春季,美国看到了可能是其第一位 AI 候选人。在怀俄明州市长的短暂竞选中,由真人 Victor Miller 创建的基于 ChatGPT 的虚拟集成公民(VIC)承诺完全由 AI 来治理。
在 2024 年初,许多人认为,即使没有赢得选举,生成式 AI 也将在民主选举中发挥关键作用并对其构成重大风险,因为超过 60 个国家的 20 多亿人参与了投票。但现在,专家和分析人士改变了调子,称生成式 AI 可能几乎没有产生任何影响。
那么,所有预测 2024 年将是 AI 选举年的预言都是错误的吗?事实是...并非如此。接受 WIRED 采访的专家表示,这可能仍然是"AI 选举"——只是与许多人预期的不同。
首先,围绕生成式 AI 的炒作主要集中在对深度造假的威胁上,专家和评论员担心它们有可能淹没已经模糊的信息空间,欺骗公众。
"我认为,关于误导性深度造假的担忧占据了很大一部分讨论空间,"纽约大学技术政策中心主任 Scott Brennen 说。但 Brennen 表示,许多竞选活动实际上都很犹豫使用生成式 AI 制作深度造假,特别是针对对手,因为这项技术使用起来很复杂。在美国,一些人担心可能会触犯一些新的州级法律,这些法律限制"欺骗性"的深度造假广告,或要求在政治广告中披露 AI 的使用。
"我认为任何竞选活动或政客或广告商都不想成为试验品,特别是因为这些法律的写法,'欺骗性'的定义并不清晰,"Brennen 说。
今年早些时候,WIRED 启动了AI 选举项目,跟踪全球选举中 AI 的使用情况。哥伦比亚大学骑士第一修正案研究所发布的一份关于 WIRED AI 选举项目的分析发现,大约一半的深度造假案例并不一定是有意欺骗性的。这与华盛顿邮报的报道一致,即深度造假并没有真正误导人或改变人们的想法,但确实加深了党派分歧。
许多 AI 生成的内容都用于表达对某些候选人的支持或粉丝情绪。例如,一段 AI 生成的唐纳德·特朗普和埃隆·马斯克跳舞的视频,配上 BeeGees 乐队的"Stayin' Alive"歌曲,在社交媒体上被分享了数百万次,包括犹他州共和党参议员迈克·李。
"这都是关于社会信号。这就是人们分享这些东西的原因。这不是 AI 的问题。你看到的是一个极度分裂的选民群体的影响,"公共利益技术专家、哈佛肯尼迪学院讲师布鲁斯·施奈尔说。"这不是我们整个历史上都有完美的选举,突然出现了 AI 就都是虚假信息。"
但不要误解——确实有误导性的深度造假在这次选举期间传播。例如,在孟加拉国选举前几天,网上流传着深度造假,鼓励该国一个政党的支持者抵制投票。非营利组织 Witness 的项目主管 Sam Gregory 表示,他的团队今年确实看到了深度造假案例的增加。
"在多个选举背景下,"他说,"都有使用合成媒体(音频、视频和图像格式)的欺骗性或令人困惑的例子,让记者感到困惑,无法完全验证或质疑。"这表明,目前用于检测 AI 生成媒体的工具和系统仍然跟不上技术发展的步伐。在美国和西欧以外的地方,这些检测工具甚至更不可靠。
"幸运的是,AI 并没有以欺骗性的方式大规模使用在大多数选举或关键选举中,但很明显,检测工具和获取这些工具的渠道还存在差距,对于最需要的人来说尤其如此,"Gregory 说。"现在还不是自满的时候。"
他说,合成媒体的存在本身就意味着政客们能够声称真实媒体是假的——这种现象被称为"说谎者的红利"。8 月,唐纳德·特朗普声称显示副总统卡马拉·哈里斯竞选集会人群众多的图片是 AI 生成的(事实并非如此)。Gregory 表示,在 Witness 深度造假快速响应小组收到的所有报告中,大约三分之一的案例是政客们使用 AI 否认真实事件的证据,其中许多涉及泄露的对话。
但 Brennen 表示,今年 AI 的更重要用途发生在幕后,以更微妙、不那么引人注目的方式。"虽然误导性的深度造假比许多人担心的要少,但 AI 在幕后仍在大量使用,"Brennen 说。"我认为我们已经看到 AI 被用来为电子邮件、广告甚至演讲撰写文案的情况越来越多。"但由于这些使用生成式 AI 的方式不像深度造假那样面向消费者,Brennen 说,很难确切知道这些工具被使用的规模。
施奈尔说,AI 实际上在选举中发挥了重要作用,包括"语言翻译、外展活动、协助制定策略"。
在印度尼西亚的选举中,一家政治咨询公司使用了一款基于 OpenAI 的 ChatGPT 构建的工具来撰写演讲稿和起草竞选策略。在印度,总理纳伦德拉·莫迪使用了一款AI 翻译软件,实时将他的演讲翻译成印度多种语言。施奈尔说,这些 AI 的使用有可能对民主产生积极影响,让更多人感到参与政治过程,并帮助小型竞选活动获得通常无法获得的资源。
"我认为我们会看到对地方候选人的影响最大,"他说。"这个国家的大多数竞选活动都很小。这可能是一个人在竞选一份甚至不是有薪的工作。"能够帮助候选人与选民联系或办理文书手续的 AI 工具,施奈尔说,将是"非常棒的"。
施奈尔还指出,AI 候选人和发言人可以帮助保护专制国家的真人反对候选人。今年早些时候,白俄罗斯流亡异议人士作为抗议符号运行了一位 AI 候选人,反对总统亚历山大·卢卡申科,这位被称为"欧洲最后的独裁者"的人已经逮捕了记者和异议人士,以及他们的亲属。
就生成式 AI 公司而言,它们已经在今年的美国竞选活动中参与其中。微软和谷歌都为多个竞选活动提供了关于如何使用其产品的培训。
"这可能还不是 AI 选举的年份,因为这些工具才刚刚开始,"施奈尔说。"但它们正在开始。"
