在十四届全国人大三次会议开幕之际，全国人大代表雷军提交了五份建议，其中就包括一个“关于加强‘AI换脸拟声’违法侵权重灾区治理的建议。”据他本人透露，去年十一期间，就曾有人用这个技术捏造所谓的“雷军语音包”。更让人气愤的是，制作者利用拟声技术，歪曲了雷军本人的意思，从吐槽假期到骂人，甚至一些让人意想不到的段子层出不穷。有网友说国庆期间，雷军被整整骂了七天，因而也给雷军带来了不小的困扰。在此基础上，他提出了这样的建议，希望大家能够正确运用现代技术，而不是利用这些技术来搞一些违法的事情，或者给别人带来不好的体验。

其实大家都知道，随着科学技术的飞速发展，现代的AI技术已经发展到了一个让人吃惊的地步。从智能机器人到导航的进步，从大数据模型，到chatgpt，随着deepseek的强势崛起，我国自主知识产权的AI也逐渐进入大家的视线，甚至一度受到全世界人们的追捧。这些技术的发展，不仅给我们的生活带来很多的便捷，也大大提高了工作效率，现在有不少人都把AI技术当成自己工作的辅助。我前不久写了一篇文章，也就是关于治理形式主义的内容，一些基层为了应付上级没完没了的形式主义材料，于是采用AI写作的方式，短短几十秒就能够生成一篇图文并茂的“精彩文章”，那水平要比一般刚毕业的大学生写得要好多了。

其实我相信大家都知道一个道理，凡事有利必有弊，就比如汽车的出现，虽然大大提高了交通出行的效率，但同时也带来了严重的交通安全隐患；电脑的快速发展，不仅让人们脱离了繁重的体力劳动，让很多资料能够得以保存，但也衍生了数据安全部量，比如当年的“艳照门事件”。随着AI智能技术的飞速发展，带来的好处是显而易见的，比如智能机器人代替了繁重的劳动；高精度的机器大大提升了传统工艺水平和精度；无人机的出现，不仅能够应用于娱乐，应用于抢险救灾和地质勘探，但是出现在战场上，就成为了杀敌的利器。在这种情况之下，AI换脸技术和拟声技术也应运而生。其实这个技术刚出现的时候，曾经被一度封杀，就是因为很多人利用这个技术制作了一些“小电影”，把其中的主人公换成了自己期待的人物。

而如今，电信诈骗异常猖獗，如果一些犯罪分子利用AI换脸和拟声技术来实施电信诈骗，我估计很少有人能够分辨得出来，这就给我们的社会带来了巨大的案例隐患。我们试想一下，明明给我们打电话的是我们亲人的声音，但是电话那头其实是一个诈骗分子；明明跟我们视频的是我们的好友，但是手机那边其实是一个诈骗分子，这样一来，老百姓还有什么安全感可言呢？所以说，凡事有利必有弊，AI的发展不仅促进了社会的进步，也同时给整个社会带来了巨大的安全隐患。它就像一把双刃剑，如果用到善良的人手中，就能够提升工作效率，制作一些优秀的作品；但是一旦落入到一些不法分子的手中，就极容易变成一个危害社会的工具。

正因为如此，雷军建议通过立法的方式来进行规范，其实在我看来，这种方法只是治标不治本。如果通过AI技术可以攻得巨大的利益，再好的法律也难以禁止。就像当前社会上很多的不法行为，我相信大家都知道，这些不法行为都有相应的法律约束，甚至有的处罚极其严厉。你以为这样就能够杜绝么？很显然不可能，毕竟这些违法行为的背后，有巨大的利益诱惑，这才是主要原因。就比如全世界都严厉打击的毒品相关的问题，多数国家对这种行为都会处于重刑，但是尽管如此，一些人在暴利的诱惑之下，仍然是前赴后继的做这样的坏事，从来都没有能够杜绝过。就比如器官买卖一样，立法就能够禁止么？我看未必吧，正所谓“没有买卖就没有伤害”，这句话从来都没有出错过。

在我看来，现在社会利用AI技术来换脸和拟声，虽然普通老百姓识别不了，但是我相信一些相关的企业还是有办法治理的。我们比如打电话，其实电信行业完全有实力判断出对方有没有使用拟声技术；再比如说视频换脸，视频软件也完全有能力识别。不过如果其中牵扯了巨大的利益，那就不好说了，到底是愿意识别，还是不能识别，我相信大家心都有数。比如一些电信诈骗分子，很多网友都十分惊奇，这些人的电话从哪里搞来的？明明我国实行的实名制电话，为什么当前社会上的诈骗电话和骚扰电话还层出不穷呢？他们的银行卡又是如何将资金快速转移的？如果一些人在受骗之后迅速报警，银行方面能够迅速冻结相关银行卡，将赃款留住，这些诈骗分子还能够如此猖狂么？

再比如现在的AI写作，网上有大量的谣言，很多都是通过AI工具进行制作的。对于这样的现象，难道平台方判断不了？我不太相信，利用大数据的技术，其实很容易能够判断一些网络水军和谣言，或者这会增加平台的成本，但是如果能够最大程度地避免一些负面的东西，增加的成本也是理所应当的，难道不是么？我们能够看到，就连雷军这个科技企业的先锋都会受到AI技术的困扰，那么普通的老百姓怎么办？因而在我看来，通过立法的方式当然有一定的效果，但是如果真正要杜绝这种现象，就需要全社会共同努力，包括个人，企业，相关的科研工作人员。只有大家都认识到AI技术被滥用的危害，才能够真正引起重视，并积极建立一些更加和谐友善的网络氛围，共同维护健康向上的网络环境。