新版《卖拐》暴露AI潜在风险,雷军自称曾受害,提出3条建议

杏坛事 2025-03-07 10:56:42

赵本山、范伟、高秀敏三人合演的小品《卖拐》,在中国可谓是家喻户晓,几乎人人看过,给人们带来了很多的欢乐。

如今,在人工智能的加持下,《卖拐》美乌版新鲜出炉,估计很多人还没看过。现在先来看一下这个新版《卖拐》。

由于视频太大,我给分成了两段。

第一段:

第二段:

怎么样?是不是很有意思?

看完视频,相信了解国际新闻的人,尤其是了解俄乌战争的人,都看懂了,这就是反映特朗普再任美国总统至今的俄乌战争局势。

特朗普领导下的美国政府,与俄罗斯直接谈判,撇开欧盟,出卖了乌克兰,还想敲诈乌克兰。

视频里,画面还是原来的画面,声音还是原来的声音,但是台词变了,情节变成了美国(赵本山)与欧盟(高秀敏)诈骗乌克兰(范伟)。

但是各位都看到了,几乎没有违和感,非常自然。尤其那声音,变动的台词的声音,根本听不出来异样,相信赵、范本人也听不出来。

所以,人工智能是不是太神奇了?但另一面,是不是也太可怕了呢?如果有人利用人工智能模拟你的声音,完全可以欺骗你的亲人、朋友,以达到其阴险的目的,导致你或你的亲人、朋友受害。

需要注意的是,犯罪分子可不仅仅是利用你的声音进行诬陷或者诈骗。

从新版《卖拐》小品里可以看出,如果犯罪分子掌握了你的肖像资料,甚至是含有你的视频资料,用完全可以通过人工智能,配上一段你没说过的话,达到诬陷或诈骗的目的。

所以,细想之后,是不是会感到很恐怖?

全国人大代表雷军,在本次全国人大三次会议前提交了五份建议,其中包括一份关于加强“AI换脸拟声”违法侵权重灾区治理的建议。之所以提出这个建议,是因为他受到过这种伤害。

雷军说,去年国庆假期,曾有人用AI捏造他的声音,其中就有骂人的。有网友说国庆被雷军骂了整整七天。雷年因此指出,虽然AI技术给人们带来便利和创新,但不应成为恶搞和侵犯他人权益的工具!

当然,恶搞还算是小侵权,对人对社会害处不大。严重的风险,就是上面说到过的犯罪。所以雷军特别强调,AI换脸拟声,容易引发侵犯肖像权、侵犯公民人信息以及诈骗等犯罪行为。

确实如此。这种风险不仅客观存在,而且我认为如果不及时采取措施,风险会越来越大。但是,现在随着AI深度合成技术所需素材获取便利、技术使用门槛低,以及侵权主体及其手段隐蔽性强等特点,治理难度较大。

鉴于此,雷军提出三点建议:

1.加快单行法立法进程,在安全与发展并重的基础上提升立法位阶;

2.强化行业自律共治,压实平台企业等各方的责任和义务;

3.加大普法宣传的广度力度,增强民众的警惕性和鉴别力。

A换脸拟声,国际上称为深度伪造,许多国家已经开始重视了,尤其是人工智能技术走在前面的国家。

比如美国,近日就召开了关于人工智能和深度伪造的圆桌会议,美国第一夫人梅拉尼娅•特朗普出席了这次会议,美媒专门对此进行了报道。

我们国家人工智能在世界上名列前茅,数一数二,在反深度伪造方面,也理所应当及时跟上人工智能发展的脚步。

0 阅读:0

杏坛事

简介:感谢大家的关注