赵本山、范伟、高秀敏三人合演的小品《卖拐》,在中国可谓是家喻户晓,几乎人人看过,给人们带来了很多的欢乐。
如今,在人工智能的加持下,《卖拐》美乌版新鲜出炉,估计很多人还没看过。现在先来看一下这个新版《卖拐》。
由于视频太大,我给分成了两段。
第一段:
第二段:
怎么样?是不是很有意思?
看完视频,相信了解国际新闻的人,尤其是了解俄乌战争的人,都看懂了,这就是反映特朗普再任美国总统至今的俄乌战争局势。
特朗普领导下的美国政府,与俄罗斯直接谈判,撇开欧盟,出卖了乌克兰,还想敲诈乌克兰。
视频里,画面还是原来的画面,声音还是原来的声音,但是台词变了,情节变成了美国(赵本山)与欧盟(高秀敏)诈骗乌克兰(范伟)。

但是各位都看到了,几乎没有违和感,非常自然。尤其那声音,变动的台词的声音,根本听不出来异样,相信赵、范本人也听不出来。
所以,人工智能是不是太神奇了?但另一面,是不是也太可怕了呢?如果有人利用人工智能模拟你的声音,完全可以欺骗你的亲人、朋友,以达到其阴险的目的,导致你或你的亲人、朋友受害。
需要注意的是,犯罪分子可不仅仅是利用你的声音进行诬陷或者诈骗。
从新版《卖拐》小品里可以看出,如果犯罪分子掌握了你的肖像资料,甚至是含有你的视频资料,用完全可以通过人工智能,配上一段你没说过的话,达到诬陷或诈骗的目的。

所以,细想之后,是不是会感到很恐怖?
全国人大代表雷军,在本次全国人大三次会议前提交了五份建议,其中包括一份关于加强“AI换脸拟声”违法侵权重灾区治理的建议。之所以提出这个建议,是因为他受到过这种伤害。
雷军说,去年国庆假期,曾有人用AI捏造他的声音,其中就有骂人的。有网友说国庆被雷军骂了整整七天。雷年因此指出,虽然AI技术给人们带来便利和创新,但不应成为恶搞和侵犯他人权益的工具!

当然,恶搞还算是小侵权,对人对社会害处不大。严重的风险,就是上面说到过的犯罪。所以雷军特别强调,AI换脸拟声,容易引发侵犯肖像权、侵犯公民人信息以及诈骗等犯罪行为。
确实如此。这种风险不仅客观存在,而且我认为如果不及时采取措施,风险会越来越大。但是,现在随着AI深度合成技术所需素材获取便利、技术使用门槛低,以及侵权主体及其手段隐蔽性强等特点,治理难度较大。
鉴于此,雷军提出三点建议:
1.加快单行法立法进程,在安全与发展并重的基础上提升立法位阶;
2.强化行业自律共治,压实平台企业等各方的责任和义务;
3.加大普法宣传的广度力度,增强民众的警惕性和鉴别力。
A换脸拟声,国际上称为深度伪造,许多国家已经开始重视了,尤其是人工智能技术走在前面的国家。
比如美国,近日就召开了关于人工智能和深度伪造的圆桌会议,美国第一夫人梅拉尼娅•特朗普出席了这次会议,美媒专门对此进行了报道。
我们国家人工智能在世界上名列前茅,数一数二,在反深度伪造方面,也理所应当及时跟上人工智能发展的脚步。