今年的国庆假期,雷军这个名字火得一塌糊涂。如果你有在刷视频,十有八九已经刷到了雷军怒骂国庆假期、怒斥游戏乱象的片段。仿佛在一夜之间,雷军从那个给我们推出小米产品的“科技大佬”,变成了嘴臭成性的“国民炮王”。
雷军的国庆“爆火”之谜事情的起因要追溯到国庆假期的一段视频,在视频里,雷军怒评国庆假期一眨眼就过去了,甚至直接说要开着小米 SU7 创翻世界。这段视频一出,网友们纷纷跟风,甚至有人搞出了“雷军投资50亿安徽农业大学”的段子。如果你仔细去听这些视频,会发现这些言辞粗鄙、语调凶狠的视频非常像是雷军本人。
但真的是雷军吗?其实并不是。这些视频都是AI技术伪造出来的。尽管如此,随着越来越多的“雷军语录”在网络上流传,许多人真的信了雷军变成了一个嘴臭的“网红”。
AI 雷军的三大套路这些视频被大致归为三类:一类是“用嘴臭攻击万物”,比如对文科生进行恶意嘲讽,甚至直接爆粗口;第二类是“雷军成了游戏核心玩家”,频频怒斥游戏内的种种现象,从《英雄联盟》到《无畏契约》,无一幸免;第三类则是各种形式的“恶搞”,场景从工作会议到日常生活,雷军俨然成为了一个口无遮拦、满嘴脏话的形象。
网友们乐此不疲地制作和传播这些视频,甚至有人调侃“国庆七天被雷军骂了六天”,连小米公关总经理王化的微博下也出现了类似的评论,问他是不是也被雷军骂了。
这种现象与过去的“Are you ok”梗有所不同。当时,雷军本人亲自说了那句经典的“Are you ok”,成了网友恶搞的素材,雷军自己也对此乐在其中。然而,这次的“AI 雷军”却完全不同。雷军从未在公共场合骂过人,但由于AI技术的进步,这种伪造的声音极其逼真,很多不明真相的人信以为真,认为雷军真的在网上到处喷人。
AI 配音的迅速发展AI配音技术并不是今年才出现的。早在2019年前后,AI配音技术就已经进入大众视野,最初它是为了帮助影视行业解决真人配音的成本和时间问题。然而,那个时候的AI语音技术还比较初级,生成的声音带有明显的电子感,语调也不够自然。随着技术的进步,AI配音技术才真正走入大众的日常生活。
如今,AI配音已经变成了一种“玩具”,人们用它来恶搞名人声音,甚至制作各种明星翻唱的“鬼畜”视频。比如,AI模仿孙燕姿的声音翻唱各种风格的歌曲,让许多人惊呼好听得要单曲循环。在这种“娱乐”风潮下,越来越多的声音开始被AI技术克隆,技术门槛也越来越低,只需要几分钟音频就能“偷走”别人的声音。
AI 声音窃取带来的潜在风险AI配音的“恶搞”虽然看似无害,但其背后的隐患却不容忽视。正如雷军的例子,一个公众人物的声音被如此逼真地伪造,已经影响了其公众形象。更可怕的是,这种技术可以被不法分子利用。阿联酋就曾发生过一起利用AI伪造银行客户声音的诈骗案件,金额高达3500万美元。
更近的例子是今年9月,一家直播带货公司的创始人卢文波被AI伪造的音频推上风口浪尖。警方调查后证实,这段引发轩然大波的音频是假的,仅仅通过一段30秒的录音克隆出了卢文波的声音。
AI技术的进步,尤其是AI配音的迅猛发展,已经使得声音这个曾经独一无二的身份标志变得不再可信。如果AI配音被恶意利用,那么每个人的形象都有可能在网络上被篡改甚至玷污。
我们应该如何应对?面对AI伪造声音带来的风险,平台和技术提供方需要做出更多努力,目前一些视频平台已经开始在AI生成的视频下打上标签,以警示用户。但光靠技术手段还远远不够,普通用户也需要提高警惕,了解AI伪造的可能性,尤其是要让不太熟悉技术的长辈们意识到,网络上的声音和视频并不一定都是真实的。
更重要的是,社会应当尽快建立应对AI伪造的法律法规,规范AI技术的使用,以防止其被恶意滥用。毕竟,在一个真假难辨的世界里,信任才是最为珍贵的资源。
结语AI配音技术从娱乐到恶搞再到潜在的诈骗手段,短短几年时间,已经从一个有趣的工具变成了一个威胁信任的“杀手”。我们已经进入了一个“眼见未必为实”的时代,如何在这个信息泛滥且真假难辨的时代保护个人形象和隐私,已成为我们不得不面对的现实问题。