李女士刚在直播间下单了A院士推荐的“特效护肤品”,却发现所谓的“院士”竟是AI合成的假人——这是2025年央视曝光的AI伪造名人带货乱象中的冰山一角。技术员仅凭一张证件照和10秒语音,就能让“A院士”在视频里卖力吆喝,而真实的A院士对此毫不知情:“这些内容全是假的,我从未推荐过任何产品!”更触目惊心的是,某黑产团伙用同样手段伪造了张文宏、雷军等20多位名人,单月销售额超千万,受害者多为中老年群体。

记者暗访发现,AI伪造产业链已高度成熟:淘宝花50元就能买到“名人形象克隆包”,包含换脸模型、声纹库和话术模板;某技术论坛上,用户晒出用AI生成“A院士”带货视频的全流程,从人脸替换到口型同步仅需3分钟]。这些假视频甚至能通过平台审核——某短视频客服坦言:“只要不涉黄暴,AI换脸内容默认放行。”]而法律人士指出,此类行为已涉嫌侵犯肖像权、欺诈消费者,受害者可主张“退一赔三”。

这场技术作恶的背后是暴利驱动。某造假团伙头目交代:“用AI冒充名人带货,转化率比普通主播高5倍,老人尤其容易上当。”他们专挑医疗、理财等高信任度领域下手,伪造的“A院士养生讲座”视频播放量超800万,2980元的“院士同款”磁疗床垫成本不到300元]。更讽刺的是,部分MCN机构与黑产勾结,通过伪造名人直播切片收割流量,平台算法却将这些假视频推上热门。

技术失控暴露三重监管漏洞:AI伪造工具零门槛流通、平台审核形同虚设、维权举证难如登天。当记者质问某AI公司为何不限制换脸功能时,技术总监反问:“菜刀能切菜也能伤人,难道要禁售菜刀?”]而法学专家强调,菜刀无需实名制,但AI克隆技术必须设置“安全锁”,例如强制添加数字水印、限制名人形象调用。
