原文：科技狐

图片来源：由** AI 生成

ChaPT 诞生后，关于 AI 的讨论就从来没断过。

今年 5 月底，370 多名 AI 从业人员联合签署了一封***，瞬间引爆了全球科技圈。

这封《AI 风险声明》警告称：人工智能可能会像核战争那样，给人类带来灭顶之灾，全世界应该行动起来，降低人工智能灭绝的风险。

别看内容就一句话，却得到了包括 AI **企业 OpenAI 创始人、老牌科技巨头微软和谷歌高管等，多位行业大佬的支持。

还记得，今年 3 月份的时候，马斯克也联合过超千名专家，呼吁暂停 AI 研发至少 6 个月。

如今，好像连 OpenAI 的创始人都觉得 AI 这玩意再发展下去，真的要干翻人类了？

在全球 AI 风口之下，大厂小厂齐上阵大搞人工智能，这封重磅的***犹如当头一击。

难道，假以时日，毁灭人类的，或许不是突如其来的病毒，也不是*林弹雨，而是由人类一手缔造的人工智能？

AI正在污染知识库

远的不说，就说狐妹经常逛的知乎。

如果你虔诚地在知乎提问，可能会收获到一堆 AI 编造的虚假答案，不知不觉中 AI 正在疯狂地污染知识库。

就拿这位叫“百变人生”的知乎用户来说，语气像个没有感情的机器人，差不多一两分钟能搞定一个问题，掐着鼻子读下来，没有一点人味。

不用怀疑，他压根就不是真人。

这个 AI 账户把大量没有经过核实的信息，输入到中文互联网，并且误导了 Bing AI ，以至于 Bing 都给出了错误答案。

虽然目前已经被禁言了，但知乎这样的账户还有很多。而且百家号，头条号，小红书等内容平台无一幸免，全部沦陷。

AI 依靠强大的资料库，提高了写作效率，但与此同时，也成为中国互联网的垃圾制造者。

ChaPT 诞生仅仅半年多的时间，人们就要面对千篇一律的表达，大量低质内容充斥着互联网。用户搜索资料，即便翻几页广告之后，看到的也都是似曾相识的废话。

如果 AI 被喂进的只有虚假的垃圾数据，那创作出来的也将是比垃圾还垃圾的东西。

从根上就烂透了，还怎么指望它能输出有创造力、有价值的信息呢？只能陷入一种恶性循环。

AI 诈骗全面爆发

如今，小到恶搞名人，自娱自乐，大到引起社会恐慌。在 AI 的导演之下，全世界都变得真假难辨。

诸如特朗普被抓之类的魔幻事件，几乎每天都在上演。

这些梗图确实很有意思，不禁让人哈哈大笑。但笑过之后却是莫名的担忧：“有图有真相”的时代已经悄然结束了。

有专家预言，AI 技术滥用未来可能产出各种假新闻，甚至引起不必要的社会恐慌，而这一天早就到来了。

之前，“甘肃一火车撞上修铁路工人，致 9 人死亡”的消息在网络上疯传。

如此骇人听闻的标题，引起了不网友的讨论。没过多久，甘肃警方出警，结果发现这个新闻是伪造的，完全就是一个博流量的幌子。

犯罪嫌疑人搜集了近年来的大热新闻，然后 用ChaPT 打散重写，批量发布到了 21 个账号上。

很轻易就避开平台的查重审查，炮制出一条耸人听闻的社会新闻。而且，这条假新闻换个地名还能继续发，如果不是人被抓了，不知道危害还要扩散到什么程度。

如今，以假乱真的 AI 换脸已经成为不少诈骗分子的新花招。

在网上购买一套 AI 实时换脸的模型仅需 3.5 万元。不少电商直播间未经允许，就擅自使用明星 AI 换脸进行直播。

特别是随着人声合成技术的成熟，骗子们工作起来更加如鱼得水了。

现在的 AI 模型简直“成精”，AI 孙燕姿一出道，有不少人开玩笑说歌手孙燕姿要失业了。就连多年老粉听了都开始怀疑人生，这难道真的不是本人？

在犹如“真假美猴王”的技术面前，谁能保证拥有“火眼金睛”呢？骗子就是利用了这一点，为非作歹。

今年 4 月，福州某企业老板郭先生被骗走 430 万。

犯罪分子采用 AI 换脸和拟声技术，假扮成郭先生的好友，特意打了微信视频来获取信任。脸和声音都对的上，一般人真分辨不出来，郭先生也是转账后才发现上当了。

虽然，警方努力追回了大部分款项，但仍有 93 万元流入犯罪分子手中。

最怕就是家里的老人因此受骗，他们本来分辨意识就差，而且心理承受能力低，很容易酿成无法挽回的悲剧。

在电视剧《猎罪图鉴》就有这样一个真实的案例。

犯罪分子利用 AI 换脸技术，制作出老人儿子求救的视频，老人被骗的倾家荡产，最终承受不住自杀而亡。

换脸脱衣造黄谣

AI 换脸技术已经逐渐突破了法律和伦理界线，不仅在线诈骗，还动不动就给女性造黄谣。

很多黄色网站的“换脸AI”专区，主角都变成了当红女明星。

不仅公众人物深受其害，普通人也难以幸免。

广东一名女大学生在网上哭诉：我突然被 54 万人看了**。甚至被人侮辱是“中山大学母狗”。

一夜之间，她的微信和微博都爆炸了，各种陌生人来加好友，个不少人都说看过她的**，要和她“交朋友”。

而始作俑者，竟然是她高中的某位追求者，当初表白被拒绝了，得不到，干脆就毁掉。

即使她一遍又一遍地澄**相，甚至将造谣者送进了警局，但还是有人说，不知道是不是炒作？

电影《保你平安》里有句台词说得好：当你说一个女孩是**的时候，不管她是不是，她就已经是了。

别以为，这就突破下线了，AI 一键脱衣功能更加丧心病狂。

只需要短短 30 秒，就能把照片上的衣服全扒光。而且生成的对比图，效果能以假乱真。

之前，广州三号线女子**的图片在网络上疯传，而且聊天记录说的有鼻子有眼：“三号线有个美女，把衣服脱了。”

然而这个听上去好像真有那么回事的图片，竟然是某些猥琐之人使用 AI “一键脱衣”功能，把人家姑娘的衣服给恶意扒光了。

其实原照片上，女孩好端端地穿着衣服，根本没有招惹任何人，简直是无妄之灾。

这对于经常乘坐 3 号线的狐妹，产生了严重的心里阴影

。

现实生活中，很多女生遭遇这种事，不知道如何去证明，只能哑巴吃黄连，有苦说不出！

电影《让子弹飞》老六遭诬陷吃两碗凉粉，只给了一碗的钱。他百口莫辩，只能剖开肚子去证明自己，可真到那时候，谁还真正关心结果。

如果再这样继续放任下去，AI 势必会进化到无法无天的地步。图片不能相信，家人的声音不能相信，如今连电话视频都需要反复确认是不是真的，发个照片还要担心自己被黄谣。

以前，人人都害怕虚假的楚门世界，现在，人人都是主角。

AI 还有必要发展吗？

那既然 AI 的负面作用如此之大，就像专家们所说的那样，一不留神玩大了可能会灭绝人类，那还有必要继续发展吗？

先别急着担心，那封《AI风险声明》说不定也别有用心。资本家怎么就突然良心发现，开始关心全人类的安危了？这本身就很值得怀疑。

OpenAI 创始人嘴上说着，这是一件威胁全人类安危的事情，可实际上就他干的最起劲。

在 5 月接连给自己的 GPT 开放了插件和移动端 APP，不仅解放了 AI 的限制，还扩大了用户使用范围。

一番操作之下，GPT 的 iOS 版本下载量早就突破了百万，订阅的付费服务也超过了 30 万美元。

马斯克也是一样，呼吁别人快停下来吧，警惕人类小心 AI，自己却从来没有放弃在 AI 上的投入。今年 3 月 9 日成立了一家名为 X.AI 的公司。

特斯拉的机器人 Tesla Bot ，去年就已经发布。

如果像他们说的那样，AI 像流行病和核战争一样可怕，他们怎么非要冒死冲在第一线？

既然都觉得有风险，那干脆就都别干了吧。

很显然，不行。

这不禁让我想到了**的“潘嘎之交”，潘子苦口婆心劝嘎子说，互联网水太深，你把握不住。其实，内心潜台词是：这事儿交给我一个人就行了。

当然除了不想让竞争对手赶超自己，分走更多的蛋糕。这个话题也是一个很好的营销手段。阴谋论向来都是大家关注的焦点，一项可能毁灭世界的技术，想不引人注目都难。

而且，一个当初号称毁灭世界的东西，**却被他们发展成为造福人类的项目。到时候，用户会不由得觉得，这公司好伟大，良心大大的好。

所以，对于 AI，别人不停，咱们也坚决不能停，除非我们中国企业掌控了它。

再者说，毁灭人类的从来都不是 AI，而是人类自己。

不如反向思考一下，到底是谁在造 AI？又是谁在滥用这项技术？归根结底，还是人类惹的祸。

我们永远都在谈论技术无罪，但在人性和金钱面前，AI 就像是一把悬在头上的达摩克利斯之剑。

解铃还须系铃人，既然是人工智能，那人工与智能必定是相伴相生的。不过遗憾的是，很多时候，在人工和 AI 的博弈中，人工陷入了下风。

但如今，AI 生产的内容垃圾过多，带来的问题也会越来越多，是时候该增加人工的战斗力了，加大监管力度，完善相关法律法规，迫在眉睫。

AI 和人类的博弈或许才刚刚开始。

狐妹觉得，无论怎样，人工智能是大势所趋，我们已经昂首走进了这个新时代，没有退路可言。**的办法就是创造一个和 AI 良性共处的和谐世界。