从特朗普“被捕”到“巴黎世家”教皇，AI “致幻”引发真实性担忧

撰文：Amanda Silberling

来源：

编译：区块链之家

图片来源：Midjourney AI 图像，从左到右分别由 Pablo Xavier, Eliot Higgins, Reddit 用户 u/arctic_chile 生成

去年秋天，Tumblr 用户对马丁·斯科塞斯 1973 年执导的由罗伯特·德尼罗和阿尔·帕西诺主演的电影（Goncharov）大加赞赏。他们称赞这部鲜为人知的斯科塞斯经典作品是有史以来最伟大的***电影。它领先于它的时代，却从未赢得它应得的赞誉。

现在，我们都应该知道，“Goncharov”不是一部真正的电影，尽管本人也参与了这个笑话。这只是 上的一个梗，后来演变成了整个网站的恶搞，用户们在共享的谷歌文档中彼此合作，真诚而准确地回答“yes, and”，以至于这部虚构的电影看起来似乎是合理的。

随着人工智能图像生成技术变得更好，互联网感觉有点像“Goncharov”时刻的 Tumblr。我们正在创造新的集体现实，只是这一次，我们只是通过不加思索地发布信息而意外地产生了它们。

两周前，当人工智能图像生成器 Midjourney 开放对 模型的访问时，其超现实的输出迅速走红。一些生成的图像说明了这些容易获得的工具的危险性，比如一系列描绘的假照片。

这组戏剧性的图片显示了特朗普强行拒捕，然后从一队警察面前冲刺而过等场景。这些像野火一样在互联网上疯传的图片是由调查新闻网站 Bellingcat 的创始人 Eliot Higgins 制作的。Higgins 最初的推文表明，他只是在玩，但这些推文在没有相关背景的情况下迅速传播开来。

注：目前该推文已添加了背景信息，称该照片由人工智能生成。

其他一些被疯传的人工智能图片则温和一些，比如一张广为流传的教皇（Pope Francis II）身穿一件令人惊艳的巴黎世家（Balenciaga）白色外套的**时尚照片。关于这张照片的一条被浏览了 2600 多万次。

这甚至不是上周唯一一个与巴黎世家有关的 AI meme 病毒。一个名为 的创作者一直在使用 Midjourney 图像、Eleven Labs 语音和 D-ID 动画来制作超现实的、由 AI 驱动的搞怪视频。他传播最广的视频是“”，这是一则**时装风格广告，其中合成的人物形象说着：“You are Balenciaga，Harry”之类的话。

Demonfingfox 告诉 TechCrunch，他有意让他的视频变得足够奇怪，以至于没有人会意外地相信它们是真的。（一般观众都知道，Joe Rogan 从未真正采访过耶稣**，而邓布利多在《哈利波特》电影中很遗憾地没有穿上皮夹克，戴上墨镜）。此外，他还故意使用 Midjourney 4，而不是更新的软件，以便他的角色看起来不那么逼真。

“我所做的事情显然是假的，我并不担心传播错误信息，这也是我的意图，”demonfingfox 说。“但我知道工具的力量，而且现在这样做非常容易。”

前提越可信，我们就越有可能将合成图像视为事实。如果你不是教皇着装方面的专家，你可能就会相信教皇在冬季外出时穿一件非常棒的白色羽绒服——要知道这位教皇，他的前在 Pitchfork 上得到了评论，他还曾在阿根廷的夜总会当过。

甚至连超级名模 Chrissy Teigen 也被这对这组图像信以为真。她在上称：“我以为教皇的羽绒服是真的，没有多想。”“我不可能在未来的技术中生存。”

除了“时尚教皇”，特朗普被捕的人工智能图片也在网上疯传，但任何人只要愿意扫描自己的推特时间轴，就能迅速核实事实，以寻找真正新闻突发的证据。对于人工智能生成的历史事件来说，这一过程就不那么明显了。

就在几天前，Reddit 用户 u/Arctic_Chilean 在 Midjourney subreddit 上发布了一组，声称它们描绘了“2001 年卡斯卡迪亚 9.1 大地震和海啸”，袭击了美国和加拿大。在 reddit 的这个版块里，我们致力于用 Midjourney 的人工智能工具进行实验，很明显，卡斯卡迪亚大地震并不是一个真实的事件。但是，如果 r/Midjourney 只是你订阅的众多子 reddits 中的一个，你就很容易不加思索地消费这些图片。

一个 Reddit 用户：“难道只有我一个人觉得‘我怎么不记得发生过这件事’。….. 直到看到这个子 reddit？

这些图像与现实非常相似，以至于人们相信它可能是真的。卡斯卡迪亚俯冲带是太平洋西北部附近的一条真实的断层线，1700 年曾发生过大规模的破坏性地震。该地区的人们担心，这种规模的可能在我们的有生之年再次发生，这种认识使人工智能生成的未来潜在事件的场景充满了不祥之感。

有时，像 ChaPT 和 Bing AI 这样的人工智能工具会产生”幻觉“– 当它们自信地用虚假信息回答问题时，就会使用这一术语。淹没在合成图像的海洋中，我们可能都处于集体产生幻觉的边缘。

“我正想骂你呢，因为你在这个分论坛上发布了旧新闻，”r/midjourney 的一个 Redditor 。“这些看起来太真实，太疯狂了。”

互联网社区倾向于聚集在一个小众的想法周围，并构建出关于它的深入知识，就像一种合作构建世界的行为（参见：“Goncharov”）。自然，这些虚假的历史事件也发生了同样的事情，Reddit 用户开始创造他们自己的历史，讲述 2001 年地震如何影响全球政治。

“尽管 2001 年康科迪亚大地震的规模和破坏力很大，但似乎 10 年后，很少有人记得这一事件，”另一位在一篇捏造的新闻文章中写道，对这场从未发生的地震进行了错误的命名。“这可能是由于全球反恐战争、伊拉克战争和经济大衰退等综合因素造成的。”

最初发布这些图片的 Redditor 推测在 9/11 之前发生的重大灾难将如何影响反恐战争，这场灾难的经济影响可能会削弱对入侵伊拉克的支持。

随着广泛可用的 AI 图像生成器变得更加成熟，它们的创作可能会超过我们对大量可信但完全虚假的图像的适应能力。不管是好是坏，现在我们可以瞬间创造出自己的“Goncharov”，将任何模糊的虚构变成有形的东西，并将其放到网上。

虽然这些创作很多都是无害的，但不难想象合成图像将如何操纵公众对当前或历史事件的认识。

事实证明，“巴黎世家教皇”是一个 31 岁的有服用致幻药物的的创意，他告诉 BuzzFeed，他没有考虑人工智能图像的后果。他说：“如果他们不开始实施法律来规范它，情况肯定会变得严重。”

事实上，英国和美国一些州的立法者已经，禁止未经同意的深度伪造的人工智能色情。但像卡斯卡迪亚大地震和 Balenciaga Pope 这样的 meme 并不具有内在的危害性，也不会很快面临监管。

人工智能生成的图像仍然不完美。地震中街道的标志看起来像是用 Simlish 写的，而且 AI 生成的图像中三指手的现象要比你在自然界中发现的多。通常，如果你足够仔细地观察人工智能生成的图像，你就会发现一些奇怪的畸变，一组像素会告诉你图像有问题。但现在越来越难区分的是，什么是真实的，什么是想象的，更难以想象接下来会发生什么。