在3月5日的政协小组讨论上，全国政协委员靳东回应了AI换脸导致的诈骗问题。

他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”

截图自采访视频。

随后，“靳东两会建议AI换脸立法”话题词一度冲上热搜第一。

就在3月4日，全国人大代表雷军在其建议中也提到，“AI换脸拟声”的不当滥用成了违法侵权行为的重灾区。

雷军提到，人工智能（AI）深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，成为社会喜闻乐见、传播力强、易成热点的技术应用。但同时，“AI换脸拟声”不当滥用造成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，带来社会治理等风险。基于此，他提出加快单行法立法进程、压实平台企业等各方的责任和义务等建议。

截图自雷军微信公众号。

最近，雷军、刘晓庆、刘德华、张文宏等名人，纷纷被人工智能技术换脸拟声合成视频。这类视频以假乱真，很容易“欺骗”受众。

北京市竞天公诚律师事务所合伙人周杨表示，这类用AI合成的名人音视频，会侵犯名人的肖像和声誉，还存在散布虚假、不良信息的风险。

她举例：“DeepSeek爆火之后，《黑神话：悟空》制作人冯骥发文盛赞。很快，一条DeepSeek创始人梁文峰的回应，引发朋友圈广泛转载。最后，多个知名大V声称梁文峰的回应为AI伪造。”

此前曾有网友利用AI制作的刘德华声音，为自己博取流量，刘德华电影公司还紧急发布声明提醒网民，不要落入伪造刘德华声音的AI语音合成技术骗局。

3月3日，刘晓庆回应遭AI换脸：“我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？我在各个平台都叫刘晓庆！”

截图自刘晓庆微博。

3月5日，演员古天乐、林峯所在的经纪公司发布声明，称有线上游戏平台利用AI技术，将古天乐、林峯的肖像、声音及过往视频片段，合成制作为带有赌博性质的代言宣传片。

经纪公司否认其与有关游戏平台合作，或代言、推广它们的业务，提醒各方人士不要轻信，以免受骗上当。对于盗用两人名义或肖像作虚假宣传或诈骗的行为，公司必然追究。

古天乐、林峯“被代言”的游戏平台虽然名称不同，但各自发布的“代言宣传片”风格相似：讲代言台词的声线和口音听得出均刻意模仿本人，尤其模仿了古天乐“港普”的特色，但整体画面制作颇为粗糙，艺人讲台词的嘴形僵硬不自然，AI合成痕迹十分明显。

自AI生成技术普及以来，一批AI在声音、视频领域的技术滥用、侵权问题引发大众关注。从恶搞企业家雷军到AI制作张文宏医生音视频为自己带货，甚至还有不法分子利用AI深度合成视频，进行诈骗。过去一年，AI深度合成音视频侵权现象愈演愈烈。

去年4月，北京互联网法院对全国首例“AI声音侵权案”做出了一审判决，判决提到，利用人工智能合成的声音，如果能使一般社会公众或者相关领域的公众根据其音色、语调和发音风格，关联到该自然人，可以认定为具有可识别性。可以看出，目前针对AI换脸拟声领域方面仍无单行法。

今年全国两会期间，人工智能生成内容方面的规范、预防和治理成为了多个代表委员关注的话题。

除雷军外，TCL创始人兼董事长李东生、科大讯飞董事长刘庆峰等多位代表也提出，要加快针对AI生成合成内容单行法的立法、厘清人工智能生成合成全链条上各方责任，同时要求对生成内容强制标识、对传播中“易感”人群加大普法，以及要研发AIGC幻觉治理技术、开展AIGC深度鉴伪。

近日，据央视新闻报道，实现AI深度合成音视频并不算难事，甚至在一些购物平台，AI深度合成技术已经成为众多网店牟利的工具，只需花费几十元，就可定制AI深度合成名人音视频。

那么，在网络购物平台使用AI深度合成技术，制作出售名人的音视频，是否触犯相关法律呢？专家表示，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。网店接单AI深度合成制作名人视频，已经属于侵权行为，并应该承担相应的法律责任。

中国计算机学会计算机安全专业委员会委员吕延辉表示，《中华人民共和国民法典》规定，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造都是侵权行为。2023年国家网信办、工信部、公安部联合发布出台的《互联网信息服务深度合成管理规定》要求，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。2024年网信办发布的《人工智能生成合成内容标识办法(征求意见稿)》也提出，对AI生成合成内容要进行标识，以便公众识别和区分，防止误导性信息传播。

■综合自人民日报、中国新闻网、南方都市报、央视新闻客户端、北京日报客户端等

■编辑：越玥、张阿嫱