两会力推AI监管升级:能否全网封杀AI伪造诈骗?

尔東陈谭 2025-03-05 00:34:33

2025,两会AI监管提案扎堆,备受瞩目,更释放出了强烈的监管升级信号,这背后或许正藏着全网封杀 AI 伪造诈骗的关键路径。意味着,2025 年,AI 监管注定成为国内科技治理领域的核心前沿任务之一。

近年来,全球 AI 技术飞速发展,各种生成式 AI 应用层出不穷。但与此同时,AI 伪造诈骗等问题也如影随形。从虚假新闻到金融诈骗,AI 技术的滥用给社会带来了极大的危害。

中国在全球 AI 竞赛的浪潮中,不仅要在技术研发上发力,更要在监管层面筑牢防线。

而 2025 年两会的 AI 监管提案,就给出了答案 —— 从 “生成式 AI 备案制” 到 “深度伪造溯源”,中国 AI 监管开启全面升级战!这场监管变革背后,藏着哪些可行路径?

首先,两会释放明确信号:AI 监管将从多维度全面升级!从 “清朗” 专项行动持续剑指虚假信息,到代表委员们提出建立 “生成式 AI 备案制”,明确要求对生成式 AI 的开发、运营等环节进行备案管理,这将从源头上加强对 AI 技术的管控。

比如,全国人大代表李东生提出,随着生成式人工智能技术发展,深度伪造技术也快速发展,有必要要求深度合成服务提供商对人工智能生成的内容进行强制标识,减少恶意滥用,并厘清责任、对违法犯罪行为追责。

这一举措不仅能规范 AI 应用市场,更能让 AI 生成内容可查、可管、可控。

同时,“深度伪造溯源” 成为关键一环。众多提案中都强调了建立完善的深度伪造溯源机制的重要性。通过先进的技术手段,对 AI 伪造内容进行追踪溯源,让技术滥用者无处遁形。

典型案例足以证明这一监管升级的紧迫性。此前的甘肃 AI 虚假新闻案、西藏地震谣言处置案等,都是 AI 技术被滥用的恶果。而如今,随着监管升级,技术反制手段也在不断加强。

虽然,目前还未实现全网部署 AI 生成内容检测系统,但不少平台已经加大了技术投入,短视频平台日均拦截大量违规信息就是一个积极的信号。然而,AI监管升级不是一蹴而就的,这只是第一步。中国更大的目标,是借全面且有效的监管,营造一个健康、安全的 AI 生态环境,从根本上封杀 AI 伪造诈骗等违法犯罪行为。

可以确定的是,2025 年,中国已经踏上了 AI 监管升级的征程!那么,你认为2025两会AI监管升级!全网可以封杀AI换脸诈骗么?欢迎在评论区说说你的看法。

0 阅读:4

尔東陈谭

简介:科技众神更名:尔東陈谭,80后老陈,与你一起聊新鲜科技