人工智能监管进入倒计时？美国各界两极分化

来源：，作者 ： Craig ith，编辑： 林志佳

图片来源：由工具生成

随着超17亿月访问的 AI 聊天机器模型ChaPT风靡全球，产品体验令人惊叹，但与此同时，这也引发美国各界对 AI 技术风险的担忧。

近日，美国联邦贸易委员会（FTC）接到人工智能和数字政策中心（CAIDP）的投诉，要求对OpenAI及其产品GPT-4进行调查。CAIDP在一份***中称，OpenAI违反FTC法案规定和 AI 治理规则，存在偏见、欺诈，并对隐私和公共安全构成风险，该机构要求FTC对OpenAI展开调查，并暂停GPT产品商业部署，直到符合FTC法案规定。目前该信已获得超过20000个签名。

在此之前，亿万富翁马斯克（Elon Musk）、苹果联合创始人Steve Wozniak以及上千名专家联名呼吁暂停训练比GPT-4更强大的AI系统。

另外，5月4日，美国副总统哈里斯会见了微软、谷歌和OpenAI的CEO，讨论 AI 潜在风险。美国总统拜登（Joe Biden）则明确表示，这些 AI 企业必须在推出产品之前确保其安全性，“你们正在做的事不仅有巨大的影响力，还将带来巨大的危害。”

不过，尽管美国从拜登到学术界、产业界集体表达对 AI 技术监管和暂停的提议，但多份信息显示，目前美国各界对此仍有分歧。Meta AI 实验室首席科学家LeCun直言反对暂停任何 AI 开发，他认为应该继续进行研究并负责任地开展 AI 研究工作。

无论结果如何，这场 AI 监管风暴即将打响。包括ChaPT在内的全球 AI 新热潮正在迎来技术监管倒计时。

在此之前，欧洲和中国已抢先下场调查和监管。

3月31日，意大利打响调查ChaPT第一*，要求暂时禁止使用ChaPT，并对OpenAI公司展开调查；随后法国、爱尔兰、西班牙跟进，欧洲数据保护委员会则成立专门工作组开展调查；4月11日，中国下发《生成式人工智能服务管理办法（征求意见稿）》的通知，并向社会公开征求意见。直到4月末，OpenAI宣布ChaPT恢复在意大利的访问。此外，加拿大、德国和澳大利亚当局也在推进调查和规范 AI 发展。

几乎是同一天，美国也加入到了这场这场围剿 ChaPT 的 AI 监管风暴中。

3月30日，CAIDP向联邦贸易委员会提交了一份长达 46 页的投诉信，投诉呼吁放慢生成式 AI 模型的发展，并实施更严格的政府监管。

诉讼全文截图

CAIDP称，OpenAI违反了 FTC法案第5节，该条禁止不公平和欺骗性的贸易行为，而且违反AI治理规则，存在偏见、欺诈，并对隐私和公共安全构成风险。CAIDP要求FTC对OpenAI展开调查并暂停GPT产品的商业化部署。

作为上述这封2万多名签署的控诉信之一，非营利性机构CAIDP总裁兼总法律顾问Marc Rotenberg表示，OpenAI根本不符合FTC的指导方针，他声称担心GPT模型是不公平的和具有欺骗性的。

“FTC之前已经宣布， AI 的使用应该‘透明、可解释、公平，并且在经验上合理，同时促进问责制’。我们认为FTC应该密切关注OpenAI和GPT-4。”Rotenberg表示，G​​PT-4不满足这些要求，FTC应该对OpenAI展开调查，并确保建立必要规范以保护消费者、企业以及商业市场。

实际上，Rotenberg并不仅是一个机构负责人，他还是乔治城大学法学院教授、隐私法专家和AI政策倡导者，而且是《AI政策手册》的编辑、OECD AI专家小组的成员。他此前成功参与 FTC 与Meta（原Facebook）和谷歌之间的监管过程。

2010年，他通过另一个非营利组织电子隐私信息中心(EPIC)，曾指控谷歌于2010年推出的Google Buzz社交网络服务违反用户隐私规定，未经用户同意自动共享他们的电子邮件联系人。随后FTC调查此事，并在2011年与谷歌公司达成和解协议，谷歌同意实施全面的隐私计划并接受为期20年的定期隐私审计，并全面关停Google Buzz服务；此外，Rotenberg还曾向FTC指控 Facebook 侵犯用户隐私权，致使Facebook与FTC在2019年达成50亿美元和解协议，是该机构迄今为止实施的**罚款之一。

因此种种迹象表明，Rotenberg并不是普通的反对者，而是能够参与拜登政府监管科技公司的一个关键性人物，一定程度上可以影响美国在 AI 技术监管与规范的走向。

如今，Rotenberg对准GPT-4大模型和它的OpenAI公司。他认为，AI 创新和基本权利保护可以通过监管策略实现两者平衡。Rotenberg强调，这项行动并不是“反OpenAI”。

图灵奖得主、深度学习领域另一位先驱Yoshua Bengio也同意暂停 AI 大模型技术发展。Bengio表示，一年前他可能不支持暂停，但是ChaPT已经跨越了“图灵测试”的重要阈值，因此这可能会以非常危险的方式被利用，从而威胁到更多的人。

“然而，我不认为它应该只针对OpenAI，也不认为它应该只在美国进行。”Bengio警告称。

但截至发稿前，美国FTC官网并没有对外公布对于OpenAI的管控措施，以及未对上述控诉信发表评论，只承认正在调查此事。

“我们已经要求国会向联邦贸易委员会施压，了解我们的控诉进展情况。”Rotenberg强调，美国将会对 AI 行业公布规范措施与监管。

不过，尽管部分美国人认为OpenAI应受到更严格的审查和监督，但另一波人则对此反对，OpenAI及其支持者们认为这样做可能会扼杀 AI 行业快速发展和技术创新，而是应该努力开发可信赖、有益于整个人类的 AI 系统。

“我们应该迅速行动并构建事物，不要因为有很多好处和价值可以创造而暂停，”** AI 专家、斯坦福人工智能实验室主任、前百度首席科学家吴恩达 (Andrew Ng)，与AI先驱、Meta首席科学家Yann LeCun就此问题进行的讨论中这样表示。

LeCun称反对“暂停 AI 技术开发6个月”这种说法，而是应该继续进行并负责任地开展 AI 技术研究工作，包括考虑伦理影响。吴恩达则直言，AI 研究暂停6个月，才是真正巨大的伤害。应该受监管的是AI产品，而不是背后的研究。

华盛顿大学 AI 研究员、《**算法》作者Pedro Domingos则在邮件中表示：“我认为暂停函是一个可怕的想法，而这个控诉更糟糕。应该被嘲笑出庭。”

总的来看，无论是支持，还是反对ChaPT和 AI 大模型发展，毫无疑问的是，AI 技术的发展速度比任何人预期的都快，令很多机构措手不及，同时也让FTC等各国机构开始加速 AI 技术监管。

随着谷歌、微软、Meta、阿里等科技巨头陆续发布 AI 大模型，这就像在潮湿的地方出现的蘑菇一样，这类工具正逐步广泛分布在社会当中。正如阿里云CTO周靖人所言，未来每一家企业都将拥有自己的专属 GPT大模型。

而这种大模型、大数据背后的安全性有待质疑。据Vice Motherboard 5月12日报道，一名诈骗犯利用 AI 生成了仿冒美国R&B歌手Frank Ocean的歌曲，并在互联网音乐收藏社区和聊天社区Discord上以9722美元的价格售出，每首歌赚了约3000至4000美元。报道指，这些曲目全部由 AI 制作，并在一个地下音乐社区中作为泄露曲目出售。

无独有偶。据某地警方公众号5月8日消息，“AI换脸”新型诈骗频发，诈骗分子通常使用他人真实姓名及照片，冒充他人身份添加被害人微信，再利用“AI换脸”技术和被害人进行短暂视频通话，博取被害人信任后实施诈骗，日前，福州一市民也遇到了此事，被骗走48000元。

当 AI 变得更加聪明时，医生、律师、会计师、工程师等职位似乎会被取代，IBM已经宣布 AI 将替代7800名员工职位。但同时，如果发生了错误，谁会对这场错误负责。比如自动驾驶，一旦出现事故到底是乘客责任还是 AI 软件的责任。

AI 最终的守门人是医生、律师或其他人等等。这些问题似乎目前没办法得到回答，需要时间的不断推移、技术的不断进步、法律法规的不断健全、AI 技术会朝着安全可控的方向发展等。

如今，人类开始迷思，面对不可阻挡的技术发展趋势，我们是否要摧毁 AI 技术进步。