当美国 2024 年大选遇上 AI 深度造假，真实性亟待保证

撰文：Alexandra Ulmer 和 Anna Tong

来源：路透社

图片来源：由** AI工具生成

“我其实很喜欢 Ron DeSantis，”希拉里·克林顿在一段出人意料的在线支持视频中透露。“他正是这个国家需要的那种人，我是认真的。”

拜登终于摘下面具，对一个变性人咆哮道：“你永远不会成为一个真正的女人”。

欢迎来到美国 2024 年总统大选，在这里，真实性亟待保证。

克林顿和拜登的伪造视频 — 由人工智能算法根据大量在线录像训练而成的逼真视频 — 是浮现在社交媒体上的成千上万个视频之一，在美国政治的两极化世界中模糊了事实和虚构。

根据路透社对人工智能、在线错误信息和政治活动等领域的二十多位专家的采访，虽然这种合成媒体已经存在了好几年，但在过去一年里，由于 Midjourney 等一系列新的“生成式 AI”工具的出现，使得制造令人信服的深度伪造变得廉价而容易。

“选民们将很难区分真假。你可以想象特朗普的支持者或拜登的支持者如何利用这项技术使对手看起来很糟糕。”布鲁金斯学会技术创新中心的**研究员 Darrell West 说。

“可能会有一些东西在大选前夕降落，但没有人有机会将其解决。”

研究技术对社会影响的非营利组织人类技术中心（Center for Human Technology）的联合创始人 Aza Raskin 说，随着科技行业参与人工智能军备竞赛，能够产生深度假象的工具正在被发布，而防止有害错误信息的护栏很少，或不完善。

前总统唐纳德特朗普将与德桑蒂斯和其他人争夺共和党提名以对抗拜登，他本月早些时候在他的社交媒体平台 Truth Social 上分享了 CNN 主播 Anderson Cooper 的篡改视频。

“那是特朗普总统在 CNN 现场总统全体会议上给我们开的一个新玩笑，”Cooper 在录像中说，尽管这些话与他的嘴唇动作不一致。

CNN 称该视频是深度造假。特朗普的代表没有回应对该片段发表评论的请求，该片段本周仍在他儿子小唐纳德的推特页面上。

虽然像 Facebook、Twitter 和 ** 这样的主要社交媒体平台已经努力禁止和删除深度造假，但它们在监管此类内容方面的效果各不相同。

DALL-E 不可深度伪造特朗普，但彭斯可以

根据致力于检测合成媒体工具的 DeepMedia 公司的数据，与 2022 年同期相比，今年网上发布的各种视频深度造假数量是之前的 3 倍，语音深度造假数量更是达到了 8 倍。

DeepMedia 估计，2023 年，全球将有大约 50 万个深度造假的视频和语音在社交媒体网站上分享。该公司表示，直到去年年底，克隆一个声音需要花费 1 万美元的服务器和人工智能训练费用，但现在初创公司提供的服务只需几美元。

据受访者称，没有人确定生成式人工智能的道路会通向何方，也没有人确定如何有效地防范其传播大规模错误信息。

行业*** OpenAI 最近几个月通过发布 ChaPT 和更新模型 GPT-4 改变了游戏规则，它自己也在努力解决这个问题。首席执行官 Sam Altman 本月在国会表示，选举诚信是一个“值得关注的重要领域”，并敦促迅速对该行业进行监管。

根据路透社对 6 家提供生成式 AI 服务的领先公司的使用条款的分析，与一些小型创业公司不同，OpenAI 已经采取措施限制其产品在政治领域的使用。

不过，这些护栏还是有漏洞的。

例如，OpenAI 说它禁止其图像生成器 DALL-E 创建公众人物。的确，当路透社试图创建特朗普和拜登的图像时，该请求被阻止了，并出现消息称“可能不符合我们的内容政策。”

然而，路透社却能够通过 DALL-E 创建至少十几个其他美国政治家的图像，包括前副总统迈克 – 彭斯，而他也在权衡 2024 年的白宫竞选。

此外，OpenAI 还限制将其产品用于政治目的的任何“大规模”使用。例如，禁止使用其人工智能向选民大规模发送个性化的电子邮件。

这家由微软支持的公司在采访中向路透社解释了其政治政策，但没有回应关于其政策中的执行差距的进一步评论请求，例如阻止政治家的图像创作。

而几家较小的初创公司对政治内容没有明确的限制。

去年推出的 Midjourney 是 AI 生成图像的佼佼者，其官方 Discord 服务器上有 1600 万用户。据受访的四名人工智能研究人员和创作者称，该应用根据图片数量和速度等因素，每月收费从免费到 60 美元不等，由于其能够生成超现实的名人和政治家图片，因此成为了 AI 设计师和艺术家的**。

Midjourney 没有对本文的评论请求作出回应。在上周 Discord 的一次在线聊天中，首席执行官 David Holz 表示，该公司可能会在选举前做出改变，以打击错误信息。

Holz 补充说，Midjourney 希望在行业解决方案上进行合作，以实现人工智能生成的图像的可追溯性，其数字相当于水印，并将考虑阻止政治候选人的图像。

共和党使用 AI 生成广告

就在整个行业为如何防止滥用而苦苦思索之际，一些政治人物正在寻求利用生成式 AI 的力量为竞选活动增色。

到目前为止，美国唯一备受瞩目的 AI 生成的政治广告是共和党全国委员会在 4 月底发布的一个广告。共和党全国委员会披露，这则 30 秒的广告完全是由人工智能生成的，它使用了虚假的图像，暗示如果拜登连任，会出现灾难性情景。

共和党全国委员会没有回应关于对该广告或其更广泛地使用 AI 的评论请求。民主党全国委员会也拒绝就其对该技术的使用发表评论。

路透社调查了所有共和党总统竞选活动对人工智能的使用情况。尽管 Nikki Haley 的团队说他们没有使用这项技术，而希望渺茫的候选人 Perry Johnso 的竞选团队说它正在使用人工智能进行“副本生成和迭代”，但没有提供进一步的细节。

生成式人工智能用于制作竞选邮件、帖子和广告的潜力对一些活动家来说是不可抗拒的，他们认为这种低成本的技术可以在选举中创造公平的竞争环境。

即使在密歇根州 Hillsdale 的农村，机器智能也在进行中。

密歇根州第五国会选区的共和党主席 Jon ith 正在举行几次教育会议，以便他的盟友能够学习使用人工智能进行社交媒体和广告生成。

“人工智能帮助我们与巨擘对弈，”他说。“我看到了地方竞选中**的上升势头。一个 65 岁的农民和县委书记，很容易被年轻势力利用并参加初选。”

此外，政治咨询公司也在寻求利用人工智能，进一步模糊真实与虚幻之间的界限。

Numinar *ytics 是一家专注于共和党客户的政治数据公司，创始人 Will Long 在接受采访时说，该公司已经开始尝试用人工智能生成音频和图像内容，以及语音生成，以便有可能用候选人的声音创建个性化的信息。

民主党民调和战略集团 Honan Strategy Group 同时也在尝试开发人工智能调查机器人。它希望在 2023 年市政选举前推出一个女性机器人，首席执行官 Bradley Honan 说，研究表明男性和女性都更愿意与女性采访者交谈。