加密货币和人工智能的交叉点是什么？

安全专家 Ari Juels 从记事起就一直在思考技术如何使社会脱轨。这并不意味着 Chainlink 首席科学家、纽约康奈尔科技大学教授 Juels 认为世界很快就会脱轨。

但在过去的十年里，随着支持日益强大的人工智能系统和自主、自动执行的智能合约的大型语言模型的发展，事情开始朝着更令人担忧的方向发展。

Juels 在接受 CoinDesk 采访时表示，“人们越来越认识到金融系统可能成为人工智能逃逸的载体，如果你控制了金钱，你就能对现实世界产生影响。” 这个世界末日场景是朱尔斯第二部小说《神谕》的起点，这是一部由重量级科幻小说出版社 Talos 出版的犯罪惊悚小说，讲述了一位纽约区块链研究人员被美国政府招募来阻止武器化加密协议的故事。

以不久的将来为背景，读者可能会看到一些与今天相似的东西。以主角对智能合约的研究为例，该智能合约可能会变得流氓并导致杀人，类似于 Juel 自己 2015 年关于“犯罪智能合约”的学术论文。或者参考 Chainlink 首席执行官谢尔盖·纳扎罗夫 (Sergey Nazarov) **的格子衬衫。其他工具，比如帮助计算机与世界交互和解释世界的强大人工智能工具，比如 OpenAI 的 ChaPT，只是在 Juels 开始写作后才上线。

值得庆幸的是，小说有时比现实更奇怪，而被编程用于杀人的智能合约的前景仍然是一个遥远的威胁，尤尔斯说。他表示，他仍然谨慎乐观地认为，如果人们今天开始考虑风险，并设计像基于区块链的预言机（本质上是信息馈送系统）这样的护栏，从长远来看，它可能有助于防止出现问题。

CoinDesk 上周采访了 Juels，讨论了区块链和人工智能蓬勃发展的交叉点、事物脱轨的方式以及人们对技术的高估和低估。

如今，像《预言家》中那样的智能合约是否可行？

它们在当今的基础设施中是不可能的，但在当今的技术中是可能的或至少是合理的。

当书中的事件发生时，你的时间表是什么？

有点难说。至少几年。是什么让它们在技术上变得合理，而事实上，在我开始写小说的时候它们还没有出现，是强大的 LLM（大型语言模型）的出现，因为它们本质上是需要用小说中所谓的流氓来裁决的。合同。流氓合同是在招揽犯罪，在这种情况下，是小说主人公的死亡，必须以某种方式确定犯罪是否发生以及谁对此负责并因此应该获得奖励。

为了做到这两件事，你需要从新闻文章中提取关键词——基本上是一个插入区块链基础设施的法学硕士，并继承智能合约所具有的相同属性，即至少在原则上，如果它们是不可阻挡的，那么它们是不可阻挡的。编码为这样的行为。

您需要区块链来构建智能合约吗？

这取决于您所追求的信任模型。从某种意义上说，答案是否定的，您可以在集中式系统中运行智能合约。但这样你就会失去去中心化的好处，即对单个计算设备故障的恢复能力、抗审查性以及对规则不会在你的领导下改变的信心。

这可能是一个奇怪的问题，但我想你可能会明白：区块链是阿波罗式的吗？

这是一个奇怪的问题，我确实明白。我不会泛指区块链，但**是预言机。如您所知，这部小说不仅讲述了现代的神谕，还讲述了德尔斐的神谕。从某种意义上说，它们都旨在充当确定的事实来源。至少在古希腊人的信仰中，它实际上是由阿波罗神提供动力的。另一个由网站等权威数据源提供支持。所以如果你从这个角度来看，是的，我会说神谕系统本质上是阿波罗式的，因为阿波罗是真理之神。

今天区块链隐私足够了吗？

所有技术都有一把双刃剑。隐私显然有好的和重要的方面。没有隐私就不可能有一个真正自由的社会。人们的思想至少需要保持私密性，以便人们自由行动。但隐私可能会被滥用。犯罪活动可以利用区块链技术。但我想说的是，我们今天还没有足够强大的隐私保护工具来为用户提供我认为他们应得的隐私好处。

您认为技术作为一个整体是一种普遍的积极力量吗？

技术有明显的好处。我们在消除全球贫困方面已经取得了很大进展，这是人们往往忽视的好消息之一。但使用新技术是有代价的——当你看看西方富裕国家人民的总体幸福感或满足感停滞不前时，这一点就显而易见了。这在一定程度上可以解释为技术的副作用。还有其他因素在起作用，包括社会凝聚力的崩溃和孤独感，但技术在一定程度上对此负有责任。

我在《神谕》中加入古希腊维度的原因之一是，我觉得由于技术的普及，我们正在失去的东西之一就是某种敬畏感。事实上，我们自然而然地向谷歌或人工智能**提出的大多数问题的答案都在我们的指尖，这意味着我们过去所充满的惊奇和神秘感正在减弱。我们在日常生活中进行智力探索的空间越来越少。如果这有意义的话，你必须更深入地挖掘。

这是一个美好的主意。万维网并不包含人类知识的全部，但它是其中的重要组成部分。然而我们主要用它来满足我们的基本欲望。

我们被赋予了这份令人难以置信的礼物。而我们却出奇地难以欣赏。

当谈到技术时，我们对什么反应过度？

当谈到人工智能世界末日的场景时，我倾向于持乐观态度。我绝不是这里的主题专家，但我研究信息安全很长一段时间。我喜欢用“千年虫”做类比，我希望它能成立。人们想象的世界末日场景并没有发生。不需要手动干预。我们已经安装了所有这些类型的隐藏断路器。因此，我有一定程度的信心，如果人工智能**失控，这些断路器将会启动。这至少让我对人工智能的未来感到一定程度的安慰和乐观。

我注意到您的大部分学术著作通常都是合着的。单独写作是一个很大的转变吗？

是的，与撰写学术论文相比，这在很多方面都是一个巨大的转变。一是你写学术论文的时候，语言基本上必须是干的，否则论文很可能会被同行拒绝。一个有趣的故事。1999 年，我与人合着了一篇论文——实际上就是这篇论文提出了工作量证明（比特币背后的共识机制）这个术语。我们引用了一本流行的烹饪书《烹饪的乐趣》，因为该论文的标题包含面包布丁这个词，我们想要一个参考来解释它是什么。一位审稿人想要拒绝这篇论文，因为他认为这篇参考文献不具有适当的学术性。这就是你在学术界工作的环境类型。

但更重要的是，当您独自完成此类项目时，您可以更自由地发挥想象力。这是与其他人合作的好处之一，也是我这样做的原因之一——它可以帮助你形成想法，但也可以检查那些不起作用或没有意义的想法。就小说而言，在宽松的限制范围内，不存在不起作用或没有意义的想法。

您是否有任何不寻常的工作技巧，来自于在常春藤盟校任教、为 Chainlink 做研究并在业余时间写作的人？

这取决于我正在处理的项目集。当我试图挤出时间写这本书时，有一点很有帮助，那就是我对写这本书很着迷。这是一个真正的流程。匈牙利心理学家 Miha Csikszentmihai 探索了心流的概念，将其定义为一种可以在较长时间内保持独特注意力并忘记时间的活动。写作让我处于一种心流状态。我把它挤进了我可以利用的小角落和缝隙里。

您认为 NFT 是被高估了还是被低估了？

无聊的猿类被高估了。无意义的 NFT 被高估了。但 NFT 的长期未来可能被低估了。从某种意义上说，它是一种新的艺术媒介——就像 19 世纪的摄影一样。人们只是慢慢地将摄影视为一种真正的艺术媒介。从长远来看，我实际上非常看好，尽管我无法说服我的博士生从事 NFT 相关项目。

有趣的，对加密货币的兴趣会随着人群的变化而变化吗？

它因人而异。就像我有一些博士生进来时不知道他们想做什么，我最终会帮助他们建立一个研究方向。其他人从第一天起就清楚地知道他们想做什么。我有一位即将毕业的学生，​​他知道自己想从事 DeFi 工作。这基本上就是他和我一起工作五年来所做的事情。我认为博士生导师的作用是帮助我的博士生完成他们想要完成的任何事情。

关于这本书你还有什么想说的吗？

我确实想强调的一件事，对于整个社区来说是一个重要信息，那就是人们越来越认识到金融系统可能成为人工智能逃逸的载体。人们担心人工智能**会逃脱他们的限制并控制自动驾驶汽车、发电厂或武器系统等网络物理系统——这就是他们想到的场景。我认为他们忘记了金融系统，特别是加密货币，特别适合人工智能**的控制，并且本身就可以成为逃逸载体。如果你控制了金钱，你就能对现实世界产生影响，对吗？

问题是，鉴于区块链系统这一非常特殊的问题，我们如何处理人工智能安全问题？这本书实际上让我和 Chainlink 的同事思考了预言机如何充当这个新金融体系的看门人，以及他们在人工智能安全中可以发挥的作用。

Chainlink 是否可以采取任何切实可行的措施来防止此类事件发生？

这是我刚刚开始考虑的事情，但是我们构建的系统中已经存在的一些护栏（例如 CCIP 或跨链桥）实际上会在 AI 逃逸的情况下有所帮助，方法是为恶意行为建立边界。**可以做。这是一个起点。但问题是，我们是否需要异常检测之类的东西来不仅检测流氓人类活动，还检测流氓人工智能活动？这是一个重要的问题，实际上我已经开始投入相当多的注意力。