还没等来 AI 替我打工，却先等到了 AI 诈骗

来源：科技狐

图片来源：由** AI 生成

ChaPT 发布以后，AI 技术的发展实现了量变到质变的突破，随之而来的犯罪事件也层出不穷。

技术发展的初衷原本是为了造福人类。

但还没等到打工人借助 AI 提前养老退休，咱们就先见识到了 AI 换脸、AI 诈骗……

最近，想必大家都听说了那个差点被骗走 430 万的大冤种老板。

根据官方媒体报道，4 月 20 日，福州市某科技公司的法人代表郭先生，突然接到了好友的微信视频。

好友对郭先生说，自己的朋友正在外地竞标，需要 430 万保证金，而且需要公对公账户过账，所以想要借用郭先生公司的账户走一下账。

对方还找郭先生索要了银行**，声称已经把钱打到郭先生的账户上。

按理来说，这么大一笔钱，肯定不会说转就转。

但郭先生在视频通话中“确认”了好友的身份，无论是面部还是声音，都跟好友一模一样。

再加上对方还提供了银行转账底单的截图。

因此，他便相信这是真的，10 分钟内就把钱转了过去。

直到他电话联系好友的时候，才猛然发现自己被骗了。

接受采访时，郭先生表示：“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”

谁能想到，骗子不仅盗用了好友的微信号，还利用智能 AI 换脸和拟声技术伪装成好友，主动发起微信视频。

这骗术，换做任何一个人都很难识破吧。

骗子实在是太狡猾了！

不幸中的万幸，接到报警以后，福州、包头两地警银迅速启动止付机制，成功追回了 336.84 万元。

但还是有 93.16 万元被转移，这一部分钱估计是追不回来了……

事件一出，立刻引爆了热搜。

图源微博

过去，骗子就常常伪装成亲戚朋友进行诈骗，一般情况下，只要给当事人打个电话或者视频，就能识破骗局。

但现在，视频和电话也不可信了。

利用 AI 生成语音、视频的门槛越来越低，懂这项技术的人只要稍微动点歪心思，就有可能实施诈骗。

此前，惠州电视台也报道了一起 AI 诈骗案件。

一位父亲接到了女儿被绑架的电话，对方要求他半小时内准备 30 万赎金，不然就撕票。

图源惠州电视台

电话另一头传来女儿的哭声，几乎跟当事人女儿的声音一模一样，这位父亲差点就信了。

幸亏他的妻子留了个心眼，拨打了 110，才发现刚刚的是诈骗电话。

而 AI 换脸技术除了可以用于诈骗以外，还可能被用于其他的违法犯罪。

例如最近的“女明星”带货事件。

很多网友发现，点进直播间里，带货的主播全是“杨幂”、“迪丽热巴”、“佟丽娅”这些当红女星。

原来是部分主播利用实时变脸软件，把自己的脸替换成女明星的脸，然后在直播间卖力地带货。

主播换脸成“迪丽热巴”在直播间带货

一些不明真相的网友看到明星“露脸”直播，以为真的是明星本人，其实这只不过是一场博流量的骗局。

有律师表示，这种行为涉嫌欺诈或是虚假宣传，让公众误以为就是明星在带货。

如果产品出现质量问题，或者主播带货时说出不恰当言论，有可能对明星本人带来负面影响。因此，明星有权提出诉讼。

AI 换脸技术展示

然而，尽管这么做是违法的，但它的**成本却非常高，以至于难以**。

技术的使用门槛太低，再加上使用人数太多，要找到侵权人非常困难。

就目前来看，这项技术仍然处于法律的灰色地带。

甚至，网络上已经出现了专门的 AI 换脸教程……俨然成为了新的流量密码。

图源抖音截图

部分普通人可能只想用它来娱乐，但总有一些人试图用它来谋利，甚至干坏事。

狐妹觉得，光靠法律规定可能还管不住他们，必须得用魔法打败魔法。

不知道有没有高人能出一种反制的技术？在审核那一关拦住他们，用 AI 制止 AI 犯罪？类似于黑客与白客的关系。

毕竟这些用 AI 技术打造的高端骗局，普通人几乎毫无招架之力。

幸好，相关的法律也在尽快出台，对 AI 技术进行监管。

去年 12 月，《互联网信息服务深度合成管理规定》发布，对人脸生成、替换、操控，合成人声、仿声等深度合成内容都有明确约束。

图源光明网

前不久，抖音也发布了《关于人工智能生成内容标识的水印与元数据规范》，禁止利用生成式 AI 发布侵权内容。

全世界都在呼吁对 AI 生成的内容进行强制性规定，OpenAI 也考虑在 ChaPT 中添加数字水印，防止模型被滥用。

狐妹希望，AI 技术的进步能够给更多的人带来好处，而不是成为一部分恶人犯罪的武器。

参考资料：

雷科技：AI换脸10分钟骗走430万！普通人如何预防AI诈骗？紧急转发朋友！

央视新闻：“AI换脸”诈骗防不胜防？要用“法”打败“魔法”！

腾讯网：AI 诈骗上热搜！长相声音都对，“换脸”的“朋友”骗了他430万…