在繁忙的都市中,10月22日的清晨,北京的朝阳透过薄薄的云层,洒在《新华每日电讯》的编辑室里。这一天,一份标题为《警惕“AI污染”的暗潮涌动》的评论文章横空出世,如同一道闪电划破平静的舆论天空。文章揭露了一个不容忽视的现象:某些MCN机构如同庞大的信息工厂,利用人工智能程序日夜不停地生产着上千篇虚假新闻,它们如同病毒一般在网络世界中迅速扩散,造成了大量不实信息的泛滥。
某知名小说平台的账号,依赖AI的“创作”之力,日复一日地更新着十几本电子书。然而,这些AI编织的篇章,却常常逻辑混乱、辞藻贫瘠,让人不禁怀疑,这究竟是在传播知识,还是在误导大众。
甚至,医学界也未能幸免于难,一些论文因使用了AI生成的虚假配图而被迫撤稿,这让人们对AI的信任度大打折扣。
当前,AI生成、伪造或篡改文本、图片、音频和视频的现象日益严重,如同汹涌的洪水般横扫而来,形成了大量粗制滥造、真假难辨的“信息垃圾”。这些垃圾信息引发了人们对“AI污染”的广泛讨论。
回顾过去一年,生成式人工智能在全球范围内掀起了一波又一波的浪潮,其颠覆性的应用让众多行业和网民受益匪浅。然而,正如硬币的两面,伴随着AI的崛起,一些负面问题也接踵而至。由“信息垃圾”导致的“AI污染”问题日益凸显,成为了一个亟待解决的问题。
清华大学新闻与传播学院新媒体研究中心在今年4月发布的一份研究报告显示,近一年来,经济与企业类AI谣言的增速高达99.91%。
美国调查机构“新闻守卫”更是指出,自2023年5月以来,生成虚假文章的网站数量激增1000%以上,涉及15种语言。一些专家指出,AI制造的“信息垃圾”产量庞大,辨别难度大,筛选成本高。
“AI污染”带来的危害不言而喻。它会让网民陷入认知的迷雾。在某知识分享平台上,一个看似无所不知的AI,却生成了一些空洞生硬的内容。在缺乏批判性思考的情况下,AI编织的“知识体系”可能会让人们的思辨能力逐渐退化,甚至陷入认知幻觉,导致公众对现实和科学共识的集体理解扭曲,最终让人被AI“牵着走”。
对于伴随互联网成长起来的年轻一代来说,如果他们的认知被“信息垃圾”所塑造,其后果不堪设想。此外,“AI污染”还会对AI产业的发展产生反噬。众所周知,AI模型的准确性很大程度上取决于训练数据的质量。如果AI生成的虚假、垃圾内容“回流”到互联网,成为训练AI模型的新数据,这种“垃圾进、垃圾出”的循环模式,可能会导致AI的输出质量断崖式下降,不利于整个AI产业的发展。
除此之外,“AI污染”还涉及法律、伦理甚至社会稳定等多个方面的问题。AI制造的虚假内容可能会侵犯知识产权、动摇版权规则,涉嫌侵犯个人隐私、泄露身份信息,甚至有滥用风险,恐扰乱、操控社会舆论,加大社会治理的难度。
由此可见,整治互联网“AI污染”刻不容缓。据中国互联网信息中心发布的第54次《中国互联网络发展状况统计报告》显示,截至今年6月,我国网民规模近11亿人。互联网已成为人类生存的新家园,年轻一代已成为网络“原住民”。因此,整治“AI污染”是打造清朗的网络空间、保障每个网民美好生活的必要行动。
首先,应加大对AI学习和生成机制的源头治理。明确AI平台对源头素材的把控责任和对生成内容的监管责任,完善AI内容生成规则,强制对AI生成内容打上显著标识,提升AI技术的透明度和可解释性。
其次,加强对AI生成内容的筛查监管。有关部门及企业需将监管重点放在对AI生成内容的筛查及审核上,可开发相关的审查算法,规范生成内容向舆论场的流入及传播途径,及时发现并删除低质量或虚假内容。
再次,提高用户对AI生成内容的辨别能力。网民应理性对待互联网信息,增强防范意识和识别能力,可使用反向搜索工具,检查内容来源和作者信息,分析内容的语言和结构特征,从而鉴“伪”鉴“劣”。
网络空间不是乱扔乱堆的“垃圾场”。整治“AI污染”、打造清朗安全的网络家园,需要各部门同抓共管和全社会共同参与。让我们携手努力,共同营造一个清朗的网络空间,为网民创造一个美好的生活环境。