还记得去年，ChatGPT大火之后，各类生成式AI就像打开的泄洪口，一发不可收拾！‍

一场不亚于信息革命的新技术革命，也正是拉开帷幕，然而，在AI造福人类的另一边，AI作恶的潘多拉魔盒也被同步打开「女子地铁照被AI一键脱衣后传遍全网，AI的潘多拉魔盒打开了……」。‍‍‍‍‍

这个导火索即是，去年3月，有一女子在地铁上一丝不挂的裸体照片被疯传……‍‍‍‍‍

随后，一场声势浩大的网络谣言与网络审判就悄然展开了，有人说，该女子在完成「主人」交代的任务，也有人说，该女子生活不检点，还有人说，该女子为了钱，在满足金主的特殊癖好……

人肉、网暴、黄谣……甚至是一场声势浩大的网络侮辱也来了。‍

然而事实上，这正是生成式AI做的恶。这张照片，也只是有人在地铁上随机找人一拍，放在AI一键脱衣的应用中，几秒钟生成的。

他随手这么一操作，再发上网，短短几天内，一个无辜者，就这么被毁了清白，该女子个人社交平台，很快也被各种污言秽语攻陷。该事件背后细思极恐的是，在这个AI时代，似乎我们只要一出门，或者社交平台晒个照，都能被造出各种黄谣。

除此之外，还有小柴爆料过的，「复活」逝者，他们为了赚钱把AI变成血淋淋的刀……在这些案例中，他们通过消费亲情，大肆牟利。

但类似这样的，当大家都习以为常，或许也不算什么大事，但随着生成式AI的快速发展，及如今AI在文生文、文生图、图生图、图生视频领域，多元化的落地了。

在这个过程中，AI「犯罪」也可以说不断的推陈出新，比如在造黄谣赚流量外，生成式AI已经近乎疯狂的渗透到了「电诈领域」。‍‍

比如最近一个很火的事情，就是全球公认的AI、新技术精神领袖马斯克，其被生成的AI形象开始疯狂的搞电诈了，短短几年时间，已经「捞」到了数十亿元美元……‍‍‍‍‍‍‍‍‍‍‍事情大概是这样的，有个八十对岁的老人，在网络上看到了一段BBC对马斯克的采访，在这段采访视频中，马斯克支持了一个投资理财的项目。

其并在采访中，大谈这个项目的潜力，称这个项目是一场还不为公众所知的心技术革命，未来一定会有极高的回报率。‍‍‍‍‍‍‍‍‍‍‍

马斯克站台，认定的新技术，让这位老人深信不疑。很快手里握着退休金的的这位老人，生怕错过机会，就快速找到了项目方，项目方也热情地帮助老人开通了账户。让后，他就按照工作人员的对接，在几周时间内，将自己积攒下来的所有退休金即毕生积蓄，大概接近五百万人民币，全部投进了这个项目。‍‍‍

但当他还没来得及期盼高回报收益，投资的这个项目就失联了，投进去的钱全部被卷走了。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

而事后调查发现，老人看的所谓的BBC采访马斯克的视频，只不过是AI用几分钟时间生成的一个0成本的视频。‍‍‍‍通过AI深度伪造应用，只要将马斯克的声音、视频素材投喂给AI，再输入响应的文案，任何你想要的逼真视频效果都能实现。‍‍‍‍‍‍‍‍‍随后，他们将这些AI造假视频，以广告的形式，投放到社交媒体，再通过AI算法精准的分发给目标用户，剩下的就是打开钱包，坐等收钱了。‍‍而这位被骗光退休金及毕生积蓄的老人，只是这场骗局中的一个缩影。

最近，监测深度伪造视频的机构Sensity对2000多段深度伪造视频进行了一个调查分析，发现，因为马斯克在新技术领域的成就被全球用户的广泛认知，成为这类视频最常见的「发言人」。

自去年年底以来，马斯克出现在近1/4的深度伪造诈骗视频中，而在加密货币相关的「深度伪造」视频中，他出现的频率甚至高达90%。‍‍‍‍‍‍‍‍‍‍‍‍据媒体报道，马斯克出现过的这类深度伪造视频，导致数十亿美元的诈骗案件。‍‍‍‍‍几分钟生成一个视频，几乎没成本，而也正是在这些几乎没有成本的视频，短时间内就能轻松捞钱数十亿美元？‍‍‍‍‍‍‍‍‍‍‍‍‍‍看到这里，你是不是和小柴一样觉得，缅北什么的简直弱爆了！果然，AI真解放人类啊！被骗至缅北的兄弟姐妹们这下有救了！‍‍‍‍

或许缅北想到过一万种自己被一窝端的可能性，但万万没想到，自己是被AI干掉的。‍‍‍‍‍‍‍

值得注意的是，除了马斯克，在这类视频中，还有大家耳熟能详的沃伦·巴菲特、杰夫·贝索斯灯科技界、投资界名人。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

那么接下来，在中文互联网电诈赛道，AI马云、AI李彦宏、AI雷军们还远吗？尤其在广袤的五环外下沉市场，或许AI马云们正在疯狂的渗透，底层群体与顶流们「午餐」的事情，或许马上要大面积发生了。‍

事实上，如果你是一个资深的柴油，你就会发现，类似这样的事情，已经在中文互联网发生了，比如前不久，小柴写过一个案例——「「我花3毛买课5天被骗510万」…新型诈骗出没，网友炸锅！」。‍在这个案例中，有位用户刷视频是，看到了一则投资广告，被骗了五百多万，之所以点开这个广告链接，是因为广告宣传，买了课，就能和顶级投资大神面对面交流。‍‍‍‍‍‍‍

果然，掏钱卖课后，这个投资界家喻户晓的大神，真就加了私人账号开视频一对一、手把手教他投资了。‍

所谓激动的心、颤抖的手，这位用户，很快就先后转账24次，把510万「交」给了大师。‍但显然，这510万肉包子打狗无疑了，而这位一对一视频的投资圈大神，也只不过是AI出来的大神罢了。

毕竟这个时代，让秦始皇出现在你手机对面，和你聊聊征服全球的梦想，也不是不可能！‍‍

在全球范围内，知名咨询机构德勤发布关于生成式AI增加深度伪造欺诈风险的报告，其中提到2023年，金融科技领域的深度伪造事件增加了700%，并预测到2027年，AI将使美国的欺诈损失从2023年的123亿美元增加到400亿美元，复合年均增长率为32%。‍‍

而在国内，也有数据显示，2023年基于AI的深度伪造欺诈暴增了3000%，而基于AI的钓鱼邮件数量增长了 1000%。

依据瑞莱智慧公布的数据，国内AI诈骗案件的涉案金额已经从2020年的0.2万元，增长至2023年的1670万元，年复合增长率达1928.8%。2024年刚刚过半，发生的AI诈骗案件已经超过1.85亿元。

有个几千年的俗语叫「耳听为虚，眼见为实」，而随着AI技术的飞跃式发展，这个影响了人类几千人的认知，正在成为伪命题。‍‍‍因为在AI时代，眼见也不一定为实，当眼见与耳听，都不一定为实的大背景下，电诈这件事，可以说到了人人自危的新阶段。‍‍‍‍这不由得让小柴想起了前两天，关于某扫地机器人品牌被远程操控、偷窥、偷听的事，简直不是一般的细思极恐。‍

如今，电诈分子利用名人，通过AI深度伪造搞电诈，是因为，只有这些名人，才有大量的全方位的视频、音频素材，把这些素材喂给AI，就能生成一段以假乱真的视频。‍‍‍‍

且同时，在技术的加持下，AI虚拟人，与所有人一对一私聊成了可能，并已经落地，那么当普通人的视频、声音被盗取后，会发生什么呢？‍或许，那时候，电诈真的就插上翅膀了！比如，某一天，你爸妈接到你的视频通话，说要生活费，是不是他们毫无闭坑的可能？‍‍‍‍‍‍‍‍‍‍‍再比如，来一个出车祸、被绑架的现场实时视频，亲朋好友如何招架？事实上，类似的事情，已经开始密集的发生了。‍‍

比如此前，有用户爆料，自己手机收到一条视频短信，这个视频里，一段AI合成的不雅视频，短信附言，要删视频，就来打钱，不打钱，全网曝光。‍‍‍‍‍

只有你，可能知道这个视频是假的，但是别人不知道啊！如果这个视频群发你的通讯录，你如何去解释？尤其是对女生来说？那么我们再换个角度，如果这个视频不是你，而是和你相关的人，你作何处理？

除了类似造黄谣勒索，之前也有警方披露过的关于AI深度伪造电诈的案例，有位妈妈接到一个电话，女儿急需3.5万培训费，要立马赚钱，妈妈听到的确是女儿的声音，不假思索的转账了。‍‍‍‍‍‍‍‍‍‍‍‍

然而，等真正的女儿打电话过来后，这位妈妈才发现被骗了。‍‍‍‍那么这个女儿的声音，到底是怎么被采集的呢？诈骗分子的操作十分简单粗暴，就是给这个「女儿」打了十几通骚扰电话，简单的闲聊，采集的声音素材，很快他们交给AI，就完全复刻出了这位「女儿」说话时的声音和语气。‍而在这个案例中，电诈分子，只是用了声音，要是声音+实时视频通话一起呢？普通人可以说，毫无办法对抗，毕竟就连严谨的专业化大公司，也被骗了。‍‍‍

比如今年就有一知名公司就遭遇了类似的诈骗，被骗过程可以说非常离谱。‍‍‍

事情大概是，诈骗分子在网上下载了这一公司管理层的视频、声音素材，然后通过AI深度伪造技术合成了虚拟高管，然后他们以高管的身份，召开了一个视频会议。

很快，这公司财务就按照视频会议内容，用公司账户前后转账15次，合计共2亿港元到5个银行户口。最后发现，这个视频会议中，竟然只有1个是真人，其他的全部是AI合成的。‍‍

该事件也被称为最离谱的「变脸」诈骗。‍‍‍‍‍‍‍‍‍类似的案例还有，中央广播电视总台中国之声报道，福建福州市某科技公司老板郭先生，突然接到朋友的微信视频电话，称自己需要430万用作公司外地投标的周转，借用郭先生对公账户走个账。仅仅10分钟，郭先生就陆续向对方转账430万，事后才发现，所谓的朋友，是不法分子用AI技术融合了真人面孔和声音，制造出的合成图像。而这些类似的诈骗手段，随着门槛逐渐降低，难以想象的后果，真在被一一验证。相比于年轻人，或者是商务诈骗，他们围猎的目标或许更多的是中老年人。

小柴同事们在聊起这个话题的时候，也打趣称，以后和爹妈视频，尤其是涉及到钱财的事，可能要对暗号了……

谁说不是呢？现在看来，对于类似的诈骗，我们好像还没有找到解法。但是亲戚好友之间涉及的财务往来，咱们可以对暗号，但是对于各种理财投资诈骗呢？‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

在这个信息人人皆可生产、分发的时代，类似被深度伪造的诈骗广告，平台似乎也是没有能力去根治，加上有钱能使鬼推磨，平台似乎也是这类诈骗以后发展壮大的温床和推手。

毕竟，AI深度伪造还没正式来，就连直播带货泛滥的诈骗，也没见得平台能够动真刀子治疗，深藏不漏的AI深度伪造诈骗，平台能治理到哪里去呢？‍‍‍‍‍‍所以，接下来，如何给这一群体上好「信息安全课」，成为必不可少的一项课题。自然，除了这类惯用的电诈，AI骗局的未来想象空间，是非常巨大的，小柴最后再简单的举几个例子，即最近很火热的卖课生意，以后，各种大佬会不会AI随便复制一个自己，去卖课割韭菜呢？‍‍‍

柴狗夫斯基©️

作者｜小柴贰号

编辑｜谭松