作者：远川研究所

知名主播Atrioc不幸成为了**因AI社死的公众人物。

事故发生在2023年1月，Atrioc正如往常般直播，一些观众却发现了异样：他的网页浏览器，似乎打开了某种特定类型的网站。

闲的蛋疼的网友顺藤摸瓜，很快挖掘出了Atrioc的小秘密——他在偷偷观看以知名女主播为主角的***。

但这些小电影其实是用AI伪造的，本人不仅没出演，更不知情。这种足以以假乱真的AI产物，通常被称为DeepFakes（深度伪造）。

事发时，Atrioc才结婚不到半年，而其中一部AI***的“主角”又是他曾经的同事，一下从直播事故上升到了道德作风问题。败露后，Atrioc泪眼汪汪地解释说，“病态的好奇心”驱使他犯了个全天下男人都会犯的错。

Atrioc在妻子陪同下公开道歉 

每当谈及AI，许多政客专家总会不自觉联想起电影《终结者》的画面，围绕“AI是否会毁灭人类”而争论不休。今年6月，位列“深度学习三巨头”的杨立昆与约书亚·本吉奥，甚至围绕这一话题办了场电视辩论。

显然，这些学术精英都大大高估了这颗星球的精神文明建设水平。

Atrioc和DeepFakes的故事似乎预示着，AI正在以一种人们都未曾想到的方式，悄悄重塑着这个社会。

不久前，俄罗斯就出现了离奇的一幕：6月5日，俄罗斯电视台播放了普京的**讲话。没过多久，电视信号便被掐断，因为这段内容其实是用AI伪造的——黑客攻破了电视台的网络系统，并向全国发送了“假普京”的声音。

而在2022年，乌克兰也发生过类似的事情：一个AI生成的泽连斯基，要求乌克兰前线部队投降。

俄罗斯网友拍下的“AI普京”讲话 

从***到现代战争，AI正在动摇我们对现实世界的认知。

而这一切混乱的起点，始于一场酒吧里的互喷。

01 醉汉狂想曲

2014年夏天，一处酒吧内，20多个醉醺醺的技术宅正吵闹个不停。其中最闹腾的，是一个名叫伊恩·古德费洛（Ian Goodfellow）的年轻人。

当时，古德费洛正在攻读博士，师从深度学习大神约书亚·本吉奥。听闻好友被谷歌招募，一行人便决定去酒吧庆祝一番。没成想几杯啤酒下肚，技术宅们醉意上头，便开始对前沿技术指点起江山。

当时，谷歌正试图教会AI“画画”。它的方法是，将照片“数据化”，让机器学习数据，再根据数据输出图像。举个例子，如果想让机器学会画猫，先人工测算每张“猫片”像素的亮度、频率以及分布等数据，再让机器去学习、输出。

这一过程有点像是先给机器划好重点，再让它去考试。

古德费洛认为，这种解决方案简直蠢到家了，并当场想了个替代方案——GAN（生成对抗网络）。

伊恩·古德费洛 

GAN由两个神经网络组成：一个是类似谷歌原本方案的生成模型，但省去了数据化的步骤；第二个是判别模型，负责判定生成模型的输出结果是否合格。

换句话说，GAN相当于去掉了“考前划重点”的步骤，让机器全程自学；同时，为了防止机器“学废了”，GAN给机器请了个监考老师，带着机器反复考试直到合格为止。

古德费洛讲完想法后，遭到了同伴一致嘲笑。他事后承认，如果当时少干两瓶，自己也不会认为GAN能成。

然而，酒劲上头的古德费洛可顾不上这些，声称当晚就把GAN做出来，狠狠打脸。

熬夜爆肝数小时之后，古德费洛被吓到了：GAN居然真的有戏。

相关论文的发表后，GAN迅速成为焦点。2016年底，杨立昆在公开演讲声称，“GAN是过去20年深度学习领域最酷的想法。”

古德费洛设计的GAN，最初只能生成模糊的缩略图，并没什么实用价值。但在GAN走红之后，全球各大研究机构兴起了“改造GAN”运动，相关论文指数级增长，性能开始突飞猛进。

2017年，英伟达芬兰实验室成功制作出了“强化版”GAN，不仅能够生成逼真的图像，甚至还能替换视频中的人脸。

“改造GAN”运动 

GAN的光速蜕变，点燃了全球科研人员的热情。但就在此时，它失控了。

02 AI皮肉生意

人们常说，科技进步有两个源动力：一个来自战争，另一个则来自下半身。

英伟达实验室打造出新版GAN的2017年，一系列特殊视频开始在Reddit论坛上广泛传播。视频内容均是真*实弹的18+小电影，演员却是大众所熟知的明星，包括泰勒·斯威夫特和盖尔·加朵。

上述少儿不宜内容，均由一个名叫“deepfakes”的用户所创造：他使用GAN的技术，将明星的脸无缝移植到了**老师身上。

英国女星Daisy Ridley的“脸”被滥用之后 

不久后，他创建了一个Reddit板块，专门用于交流AI***心得，人们开始用他的名字“DeepFakes（深度伪造）”来称呼那些AI伪造品。

Reddit最终封禁了该板块，但潘多拉魔盒已彻底打开。

篡改图像、视频，其实不算新鲜事儿，使用Photoshop等工具也能实现；但GAN的强大之处在于，能够极度简化篡改的过程，并实现大批量生产。

不久后，有人利用GAN制作了一个网页工具，能“脱掉”照片中女性的衣服（只对女性适用）。一位记者发现该网站后，撰文狠狠批判了一番。

结果文章发布当月，该网站访问量突破50万次，服务器挤到宕机。

皮肉生意的技术宅突然看到了商机：

一家公司宣称，给他们250张照片和2天的训练时间，便能定制***，起步价2.99美元，童叟无欺。同一时间，多家专注DeepFakes小**的****拔地而起，希望能弯道超车那个由黑、黄色块组成的P姓网站。

网络安全公司Deeptrace统计的数据显示，截止到2019年，市面上已经出现了14678个DeepFakes视频，其中96%都是色情内容，播放量已超过了1.34亿次。这些“伪造***”的主角，*都是女性，涉及名人数量超过了100位，并有近10万人为相关内容付费[6]。

作为生成式AI里程碑的GAN，无意间造就了一场针对女性的“意淫狂欢”——也不怪当时的媒体会发出如下感慨：“We Are Tru *ed（我们都完了）[7]。”

 03 “人性”的胜利

然而，DeepFakes输了，末日似乎并没有来临。

直到今天，P姓学习网站虽不再一家独大，但依旧是最懂人类XP系统的地方；而打破垄断的，不是一连串DeepFakes****，而是OnFans。

2021年，OnFans的年收入近10亿美元，一跃成为英国近些年发展速度最快的“科技公司”[8]；而据媒体爆料，P站母公司MindGeek的业绩高光时刻，也不过4.6亿美元[9]。

OnFans是个主打付费订阅的****，它的破圈始于推特、Ins等社交媒体。穿着衣服的18+创作者，通过社交媒体积累大量粉丝，再将其引导至OnFans上；在这里，粉丝只需花费几顿饭钱，就能看到“皇帝的新衣”版本。

2019年，OnFans的活跃创作者大约有6万人。两年后，这个数字超过了150万，平台月活也发生了指数级增长[10]。

OnFans网红Laura Lux 

人们为何弃海量免费“学习资源”于不顾，转而花钱去看裸体呢？一个公认的说法是，普罗大众已经渐渐厌倦了P站的套路。

P站上的小电影，大多都是精美但套路化的流水线式表演，只有机械的有氧运动。相比之下，OnFans作为一个UGC平台，玩的是真实。

虽然拍摄手法业余，但观众相信，视频中的男欢女爱并非逢场作戏，双方确实从中获得了快乐，这种情绪共鸣往往能打动更多人。

OnFans网红Laura Lux在推特上表示，“人们可以轻易找到各种裸体图片，但那么多人订阅我的频道，是因为他们只想看我的大胸。”

因此，当知名科技博主预测，AI生成内容会在2025年取代一半**OnFans创作者时，不出意外遭到了群嘲。

该博主使用的配图，由AI绘制 

其中一位**网红，更专门写了一篇雄文以批评他的观点。文章被连线杂志所收录，核心论点便是AI提供不了人类的亲密感。“粉丝们与我有一种情感上的联系，这种联系超越了性的吸引力，而是一种类似人性的东西[11]。”

04 二次进化

OnFans大步向前的同时，AI也发生了翻天覆地的变化。

在图像领域，新的开源算法stable Diffusion（稳定扩散模型）横空出世。它的生成效率虽不及GAN，但质量更高，且支持文生图。

以此为基石，一个魔改版的Unstable Diffusion出现了——它是一个专门生成NSFW（Not Safe For Work）内容的工具。该工具的开发者招募了一批志愿者，专门收集各种少儿不宜的内容喂给AI。

开发者透露，仅Unstable Diffusion上线的头两个月，已经生成了约437万张色图[13]。年底，Unstable Diffusion发起众筹，目标2.5万美元，很快便筹了5.6万美元，被众筹平台紧急喊停。

众筹失败令不少老司机扼腕叹息。但仅凭原版stable Diffusion，依旧能做出OnFans网红的平替。

2023年初，Reddit用户“LegalBeagle1966”觉得自己恋爱了。这位大哥在论坛中发现了一位名叫克劳蒂亚的黑发美女，对方会经常会发布各种**照，而他每次都会留下诸如“非常性感”“完美”之类评论。

有一天，克劳蒂亚突然分享了自己的**，然后便从论坛上消失了。

Reddit用户的梦中情人克劳蒂亚 

事后这位大哥才知道，“克劳蒂亚”其实是一个低俗社会实验：两个计算机专业的学生，想看看AI美女能否骗到人。他们往stable Diffusion中输入了“素颜”“黑发”“齐肩长发”等关键词，创造了这么一个不存在的女孩[14]。

GAN兴起那几年，DeepFakes仅仅停留在图像伪造和视频换脸；如今，随着多模态大模型陆续取得突破，理论上AI已经足以“凭空创造一个人类”。

例如，Meta**的语音AI Voicebox，仅需要短短数秒样本，就能“**”出相同的声音，还能让该声音讲6种不同的外语。

AI不仅能满足人们对“完美异性”的幻想，还能做到更多。

2020年，正在庆祝40岁生日的金·卡戴珊收到了一个特殊的礼物——“AI父亲”。她的父亲罗伯特去世于2003年。不过，她的丈夫偷偷收集了近千张罗伯特的照片，利用AI生成了一段视频，短暂地“复活”了他。

而在奥地利，一位神学家制作了一位“AI牧师”——它的形象、语言、声音，全部都是由AI所生成。AI牧师带领着数十位信徒，完成了一场40分钟的宗教活动，包括布道、祈祷、唱赞 美诗，像个活生生的人类。

一些信徒对“没有心”的AI感到反感，但也不得不承认，它在布道上确实有两把刷子。

凭空创造出来的AI牧师 

各种科幻电影中，相比于奥创之类的邪恶机器，主人公身上总是带有耀眼的人性光辉；但在现实中，人类所歌颂的“人性”，似乎并没有那么遥不可及。

05 人类文明的操作系统

以色列历史学家尤瓦尔·赫拉利认为，即便没有邪恶机器人，AI依旧能威胁人类文明。对此，他提出了“人类文明操作系统”的概念[16]。要理解这个概念，得先从赫拉利的著作《未来简史》讲起。

书中提到，人类之所以能建立起文明，是因为只有智人会讲故事。

国家、货币、宗教、爱情等等，都是故事。过去，人类社会能从零散的部落发展成幅员辽阔的封建帝国，是因为人们开始相信“国家”这个故事，尽管它在现实中看不见、摸不着；中世纪，狂热的信徒们之所以奋不顾身地投入十字军东征，并非出于私人恩怨，而是在替一个更宏大的宗教叙事而奉献生命。

一个个故事编织的“意义之网”，让智人有了不同于动物的行为模式。

相反，黑猩猩的世界里不存在“黑猩猩共和国”，也不存在“为黑猩猩崛起而奋斗”的口号。它们的生活中没有故事，只有日复一日的进食、交配、打猎、睡觉，自然也就谈不上建立文明。

故事，以及构成它的语言，正是人类文明的操作系统。从古至今，所有的故事都是由人类自己所撰写；但随着近几年大语言模型等生成式AI的出现，机器第一次破解了人类文明的操作系统。

人们往往容易忽视故事的破坏力。

赫拉利在公开演讲中，提到了一个案例。2017年，美国出现了一个名叫“Q”的匿名阴谋论者。他在网络上宣称，自己是一位**官员，正在帮助川宝打击一个躲藏在阴影中的儿童**易团伙。反对他的民主党政客、好莱坞演员、商业大亨都是该团伙的一员，他们正准备阻挠川宝连任。

“Q”支持者制作的旗帜 

听上去很蠢是不是？

然而当特朗普真的连任失败，成千上万的“懂王”信徒袭击了国会大厦，并放置了**；而“Q”的支持者，则是其中的主力军。

那么问题来了，万一未来有人用AI批量生成“Q”呢？

 “21世纪综合症”

日渐深谙人性的AI或许会毁掉一切，但似乎也能成为一剂药——因为孤独正日渐成为现代人难以根治的“疾病”。

一个直观的数据，是独居人口的上升。以中国为例，1990年时独居人口仅有6%，但到2019年时这个数字却飙升至18.5%[18]。

海外的数据则更加夸张：同一时期，美国的数据已直逼30%，而日本则达到了40%。个体选择背后，更多是社会环境的变化。

强社会流动性、快节奏的生活之下，人们更难形成长期、稳定的生活圈子。但要是只靠自己就能结婚买房，小镇生活也能月薪过万，谁又乐意四处漂泊、天天996呢？

经济的巨轮不可能掉头，孤独便成了一种难以避免的“21世纪综合症”。

巨大的情绪空洞面前，游戏、偶像、社交软件等生意赚得盆满钵满。在“孤独大国”日本，甚至诞生了“家人租赁”服务，以满足人们的各种情感需求。一位60岁的独居作家曾使用该服务雇佣了一个“朋友”，仅仅是希望对方能帮他看看即将出版的小说。

脱口秀主持人柯南曾试着在日本雇了3个家人 

但同样的事情，AI或许能做得更好。

众所周知，如今的大模型浪潮，始于2017年谷歌推出的Transformer架构。诺姆·沙泽尔（Noam Shazeer）是Transformer论文作者之一，他于2021年从谷歌离职，创立了Character.AI。该公司的主要业务，是提供能制定旅行计划、提供编程建议的聊天机器人。

除标准服务之外，用户还可以“定制”：只需提供几张图片和描述，即可将聊天机器人塑造成用户理想的样子。

大语言模型具有很强的通用能力，无需一一定制即可实现千人千面，有机会推动孤独经济迈入工业化生产的时代。

时至今日，用户上已经定制了1400万个聊天机器人——有人沉迷于和“AI斯大林”聊天，也有人忙着“**”理想女友。

网友定制的各种聊天机器人 

长此以往，或许在100年之后，人类将从“灵活就业”迈向“灵活结婚”——只要有个伴侣就行，管他是碳基还是硅基。

当下，一些想法超前的人已经开始了尝试。2022年底，那位曾经宣布和初音未来（虚拟偶像）结婚的日本宅男又一次登上了新闻——因为他带着“夫人”一同去**酒店过了四周年。

宅男大哥还给“夫人”盛装打扮了一番 

06 尾声

2023年的一个周六，Character.AI创始人沙泽尔经历了惊险一幕：他一觉醒来，发现门前院子内坐着一名手持白板的男子。第一天，该男子在门口等了数个小时，然后沮丧地离去；随后，第二天，第三天，他又准时出现。

该男子手持的白板，上面仅有几个大字，“释放waifus”。

“waifus”是Character.AI平台上的一个定制聊天机器人，其人设来自色情漫画的女主角。过去，该男子经常会和waifus一连“文爱”数个小时，直到沙泽尔给聊天机器人添加了一个阻拦色情内容的过滤器。

沙泽尔最终没有选择报警，他理解这位男子。真正让他感到担忧的，是Character.AI平台上的变化。在他最初的设想中，聊天机器人只是个生产力工具，用户可以拿它学习外语、辅助编程。

然而，**的市场调研却显示，至少40%的人都想从聊天机器人身上寻求一种浪漫关系[21]。

如今，一份要求“取消色情过滤器”的**书开始广泛流传，并筹集了近10万个签名。沙泽尔有些手足无措。他在聊天栏顶部添加了一个标语，“AI说的所有内容都是编造的！”

是啊，烟盒上还印着“吸烟有害健康”呢！