姚谦：算法经济与算法监督

本文仅代表作者个人学术观点，不代表组织观点。本文于2021年1月发表于《清华财经评论》，2021年1月5日发表，谢松岩主编

导语：近年来，随着云计算、大数据、人工智能、区块链等创新技术的发展和应用，数据作为生产要素的价值日益体现，算法在经济活动中的重要性日益Convex显。本文针对算法在经济领域的影响，提出了一种基于智能算法的经济模：算法经济。但由于算法隐含着风险，因此有必要利用监管技术来应对新技术，加强算法监管。

姚谦中国***科技监督局局长

算法是指一系列清晰的计算机指令来解决问题。在当今信息时代，算法已经渗透到社会的各个领域。克里斯托弗·施泰纳在其**著作《算法帝国》中认为，21世纪最重要的能力是建立模仿、超越并最终取代人类的算法。未来属于算法及其创造者。

算法经济

商品经济的本质是买卖、供给和需求的匹配。由于信息不对称，市场参与者需要寻找合适的交易对手进行交易，这将耗费大量资金。从某种意义上说，搜索技术决定了交易空间。在没有互联网的情况下，人们依靠广播、电视等媒体的广告来寻找交易对手。互联网时代，人与人之间的物理隔离和时空限制得到了极大解放，一种新的电子商务经济模式应运而生。”网上购物，只有意料之外，没有买不到。网络购物已经渗透到人们生活的方方面面，供需匹配度大大提高。

应该说，在互联网经济初期，网络效应主要是通过连接产生的，数据的价值尚未显现，算法只是辅助手段，电子商务活动高度依赖于平台公司的组织和管理。近年来，随着云计算、大数据、人工智能、区块链等创新技术的发展和应用，数据作为生产要素的价值日益体现，算法在经济活动中的重要性日益Convex显。

首先，该算法拓展了网络经济的深度和广度。比如，基于平台上的交易数据、用户自己提供的数据以及其他替代数据，我们可以进行大数据分析，画出用户的“千人千面”，深入分析每个个体消费者的行为模式和特征，形成独特的客户洞察，并开展**营销、服务和风险控制；基于算法的智能调度使云计算成为一个很好的解决方案，智能客户服务提高了客户服务的响应速度，降低了成本，提高了效率。

二是出现了以算法为核心的新经济模式，也可以称之为算法经济。算法经济是指人们总结、提炼生产经验、逻辑和规则，然后用代码“固化”起来，使生产经营、交易和融资活动不需要人工干预就能自动执行的一种智能经济模式。

算法经济的典代表是算法金融。互联网平台企业依托用户生态，以数据为核心，以算法为动力，以计算资源为保障，在互联网平台上开展和提供支付、贷款、理财、保险等金融服务。依托强大的数据分析能力，开展智能营销、智能风险控制、智能投资顾问、智能理赔，为客户提供定制化的金融服务和产品，将专家分析和决策经验与人工智能技术相结合，实现智能化通过风险控制模的自学习、自递进分析过程，实现基于海量数据机器学习的实时复杂风险控制，从而帮助合作基金金融机构更好地量化风险，更好地应对了解客户、反欺诈、反洗钱等关键业务风险洗钱和信用风险。

算法经济的典代表是共享经济，如优步和滴滴出租车共享平台。在这些平台上，生产者和消费者直接进行动态、多变、复杂的网络连接和点对点交易，平台企业设计、维护和运行的强大算法有效地支持了这些网络连接和点对点交易。并且随着环境和市场的变化，算法也在不断的调整和优化。虽然共享平台的算法机制仍未脱离企业的传统组织形式，平台规则和算法由企业自行设计、维护和操作，但算法已在很大程度上取代了企业的组织、管理和协调功能，并日益成为关键核心。从某种意义上说，共享平台的算法机制可以看作是企业提供的SaaS（software as a service）。

如果共享平台的算法机制仍然“保留”着企业的影响力，脱媒、去组织的加密经济将“抹去”企业的“痕迹”，完全依靠算法来进行经济活动。这是一种“无组织的组织权力”。加密经济以密码学技术为基础，通过“完整、准确、不易篡改”的分布式共识机制记录价值转移（交易）的全过程，构建多中心的应用或业务逻辑，并通过智能合约保证业务逻辑的自动执行，使整个过程自动完成数字经济活动，无需管理者的干预。加密经济性不仅得到技术逻辑层的支持，而且得到经济逻辑层的保障。随着区块链、第五代移动通信技术（5g）、物联网、大数据、人工智能等技术的赋能，有望成为一种极具潜力的新兴经济模式。目前，基于“区块链+5g+物联网”的加密经济模式已应用于仓单物流、农业溯源、资产数字化、数字金融等领域。

伴随着算法经济的是算法货币。货币作为交易的一般等价物，应该是社会的共识，否则就不能广泛流通。在许多情况下，共识是通过机构建立的，比如法定货币。比特币虽然很难成为真正的货币，但它却创造了一种完全算法化的货币类：经协商一致验证的不可追踪、可追溯的“交易输出未花”（utxo），这在一定程度上启发了法定货币的数字化或标记化。就价值而言，法定数字货币是信用货币，而就实现而言，它很可能是算法货币。

算法的潜在风险

算法经济大大提高了市场经济的匹配效率和交易成本。人们一方面欢迎和享受智能算法带来的便利，另一方面又担心被智能算法所取代，导致个人价值的丧失。而且，随着算法经济的快速发展，算法的渗透力和影响力越来越强，其潜在的风险和作恶的可能性也引起了人们的关注。

首先是算法滥用。算法规则的背后是商业利益。为了利益**化，该算法可能会违背社会公平、道德和人性。例如，如果大数据是熟悉的，老客户的价格高于新客户的相同商品或服务的价格。只推荐能给人们带来潜在商业利益的东西，而不是最合适、最合适的。它可能会滥用人性的弱点，对顾客进行过度的刺激、劝说和诱导，使人们习惯于被喂饱，不自觉地对算法投放的产品上瘾。只有算法逻辑，不考虑人性，把人异化为简单的数据、商品和工具。算法的具体原理和参数只能为运营企业中的少数人所知，这就可能导致利益侵占的问题。一次，共享出租车的动态调价算法被质疑企业是否在利用该算法谋取私利。甚至，企业可能会利用算法做坏事，比如推送耸人听闻的虚假信息，推荐虚假产品，以扩大流量。

二是算法偏差。该算法的数据可能不全面，数据片面的结果必然会导致一定的偏差。算法的设计者是人，算法设计者甚至企业管理者的偏见和价值观都可能嵌入到算法中。算法的“技术光环”容易使人们盲目追随所谓的“科学”，但事实上，有些算法有很大程度的不可解释性，比如类似“黑箱”的机器学习算法；机器学习算法注重的是相关性分析而不是因果分析，基于历史数据的机器学习算法在某种程度上意味着“过度解释”，用历史宿命论来定义和标注每个人也是一种偏见。

“算法差距”也值得关注。算法通常是秘密的，专利或商业秘密。即使是开放的，也不是每个人都能理解，因为存在技术障碍。这就产生了一个新的“数字鸿沟”。不懂算法的人可能不知道自己的利益何时受损。即使他们知道，他们也可能无法证明和面对。

在特定领域，算法也可能导致特定的风险。比如在金融领域，智能算法给出的资产配置建议可能是与金融机构自身利益高度相关的产品，涉嫌利益侵占；智能算法形成“信息茧屋”，强化投资者偏好，容易掩盖金融风险的复杂性，吸引过度消费和负债，甚至误导投资者；如果智能算法中存在歧视，会损害投资者的利益，智能算法的收敛会导致羊群效应，增加金融顺周期风险。

算法监督建议

各国监管部门都十分关注算法的潜在风险。欧盟《通用数据保护条例》（gdpr）第22条限制自动决策。包括数据分析在内的自动决策对数据主体具有法律效力或者具有类似重大影响的，数据主体有权不受上述决策的限制。对于智能算法在投资咨询中的应用，美国证券交易委员会（SEC）、金融业监管局（FINRA）和澳大利亚证券投资委员会（ASIC）分别发布了针对智能投资咨询的具体监管指引。2018年，我国新的资产管理条例《关于规范金融机构资产管理业务的指导意见》提出，要规避智能算法的顺周期性风险，要求金融机构根据不同的产品开发相应的人工智能算法或程序化交易投资策略上，避免算法同质化加剧投资行为的顺周期性，应对可能出现的市场波动应制定风险应对方案。如果人工智能算法模的缺陷或系统异常，如算法同质化、编程错误、数据利用深度不足等，导致“羊群效应”，影响金融市场的稳定运行，金融机构应当及时采取人工干预措施，强行调整或者终止人工智能业务。2020年9月，国际证券组织市场中介机构委员会（IOSCO）发布了一份关于中介机构如何应用人工智能和机器学习的咨询报告，并提出了具体的指导方针，以协助IOSCO成员建立适当的监管框架和监管市场中介机构和资产管理公司应用人工智能和机器学习。即将出台的欧盟数字服务法案（DSA）打算授权“数字服务协调员”（Digital Services coordinator）监督大科技公司的合规性，包括用于定向或精确广告的算法是否合法，并要求平台公司披露其算法如何自动向在线客户推送内容或产品的细节。2020年12月，**中央印发《法治社会建设实施纲要（2020-2025年）》，提出要制定和完善算法推荐、深度造假等新技术应用的规范化管理办法，加强对大数据、云计算、人工智能等新技术研发和应用的规范化指导。

一般来说，智能算法在大科技企业中得到了广泛的应用。考虑到其巨大的生态规模、潜在的风险和社会影响，不可忽视。不过，我国的算法监管体系正在逐步完善，但具体内容还有待细化和完善。

从机制角度看，算法监管的具体内容至少包括六个方面：一是信息披露，即作为算法的设计者和控制者，大科技公司等利益相关者应该披露算法设计过程中可能存在的偏差和漏洞，实施和使用、数据来源和对个人和社会的潜在危害。二是解释，即作为采用算法自动化的决策组织，大科技公司和其他利益相关者有义务解释算法的运行原理和算法的具体决策结果。三是跟踪审计，即对算法系统的设计、测试、运行性能和变化进行记录、监控和审计。四是质询和上诉，即保证受到算法决策负面影响的个人或组织有权对算法提出质询和上诉。五是内部治理。大科技企业应建立明确有效的内部治理框架、内控机制和责任制，防止算法滥用，防范算法风险，提高算法对抗性，避免算法攻击。六是加强行业自律。通过行业自律机制，加强算法道德和算**理建设。

后记

不可否认，该算法产生了一种新的经济模，带来了社会整体效率的提高，具有其独特的优势。然而，近年来，算法的滥用、算法的恶行、算法的道德和算法的伦理问题引起了广泛关注。卓别林电影《现代》对机器控制行业工人的讽刺，马克思著作《1844年经济学哲学手稿》对机器工业化时代人的“异化”的警示，提醒我们，正如机器装配线优于工人一样，算法也可能优于所有生物，其风险值得我们关注和警惕。因此，有必要加强对新技术处理算法的监督。

结束