（图源：微信公众号@ PRC作文基地 截图）

以色列历史学家尤瓦尔·赫拉利在《智人之上：从石器时代到AI时代的信息网络简史》一书中指出，我们正身处人类历史发展的危急时刻。人工智能的发展速度远超预期，已经在深远地影响、引发人类社会重大历史事件，可能很快会脱离我们的控制，进而主宰人类社会。

2025年1月底，中国人工智能新兴企业DeepSeek就被卷入了一场因AI幻觉引发的风波，一个假冒创始人梁文锋的知乎账号发表评论，误导公众，虽DeepSeek官方迅速辟谣，但这一事件也让AI幻觉问题再次走进大众视野。

（图源：小红书 截图）

一、AI的「双面人生」：

从知识助手到造假大师

克里斯琴斯曾言：“在技术崇拜的时代，我们所面临的危机不是对规则的违背，而是无规范的真空”。

AI 技术的发展为信息传播带来了新的机遇，但AI幻觉问题也不容忽视。各类大模型在运行过程中，均难以避免出现幻觉现象，且幻觉率存在差异。以GPT-4O为例，其幻觉率维持在10%左右；而DeepSeek依据自身披露的数据，幻觉率处于15%至20%区间。AI 幻觉，简单来说，是指人工智能系统（尤其是自然语言处理模型）生成的内容与真实数据不符，或偏离用户指令的现象。它主要分为事实幻觉和忠诚度幻觉两类。

详情可以看我们之前的推送哦～

为何人工智能经常喜欢“已读乱回”？新传学术前沿名解——AI幻觉(AI Hallucinations)

事实幻觉中，又包含事实不一致和事实捏造。例如当被问及“世界上最高的山峰是哪座？”，如果AI回答“深圳塘朗山是世界上最高的山峰”，这就是事实不一致，与现实世界事实相矛盾；若AI描述“2024 年，考古学家在埃及金字塔内发现了一座隐藏的密室，里面藏有古代法老的宝藏和未知的高科技装置”，这便是完全虚构的事实捏造 。而忠诚度幻觉则体现在指令不一致、上下文不一致和逻辑不一致上。如用户要求 AI“讲解一下龙飞凤舞”，AI 却回答“老铁，我给你搜了几段舞蹈教学”，这就是指令不一致，偏离用户要求。

在 DeepSeek的这次事件中，假冒账号发表的内容就如同AI产生的事实幻觉，虚构了创始人的观点和言论，误导了公众对DeepSeek及AI行业发展的认知。这种AI生成的虚假信息，借助互联网的传播力，迅速扩散，就像假新闻一样，混淆公众视听，破坏了信息传播的真实性环境。

（图源：知乎截图）

二、假新闻的「AI进化论」：

从标题党到全链条造假

互联网的开放性和便捷性为AI幻觉生成的虚假信息提供了快速传播的温床。在社交媒体时代，信息传播呈现出裂变式、去中心化的特点，一条虚假信息可以在短时间内跨越地域、阶层的限制，迅速扩散。正如麦克卢汉所言“媒介即讯息”，DeepSeek的“造假能力”并非偶然，而是其技术逻辑的必然产物：它通过海量数据训练，学会了人类写作的“套路”，却也继承了人类“虚构”的本能。当AI开始“一本正经地胡说八道”，我们不禁要问：这是技术的进步，还是信息的灾难？

“深度伪造”（Deepfake）这一术语是由“深度学习”（Deep learning）和“伪造”（Fake）构成的合成词汇。是当下人工智能时代的一种合成媒体技术。它借助深度学习算法的力量，能自动化地修改、处理和生产数据，从而达到对图片、音频和视频等媒体内容进行高度智能化的模拟与伪造。AI 作为信息的“生产源”，其训练数据的局限性是导致幻觉产生的重要原因。AI 训练数据可能包含错误、偏见或过时信息，就像用一本有错误的教材教学生，学生自然难以学到正确知识。而且AI通常基于静态数据训练，无法及时获取最新信息，在快速变化的信息时代，这种滞后性使得AI生成的内容容易与现实脱节。

（图源：小红书 截图）

三、学术界的「AI信任危机」：

从文献综述到数据造假

“有一种，被逼婚女自以为找到了忠诚好男人，结果发现他出轨后他说了一句‘非常抱歉以后不会了’的无力感”

正如乌尔里希·贝克所认为的，“任何一项技术的产生与运用在带来机遇与便捷的同时亦将产生新的挑战。”AI技术的飞速发展给学术界带来了诸多便利，却也引发了一场严峻的“信任危机”。AI能生成看似严谨的参考文献，可这些竟包含虚构的作者、期刊和 DOI 编号，甚至连引用数据都能伪造。在学术研究中，参考文献是支撑观点和论证的关键依据，这般虚假参考文献的出现，无疑是在根基上动摇学术的严谨性，让后续基于此展开的研究可能都建立在错误的基础之上。

通过机器学习真实数据集，AI还能生成“符合统计规律的假数据，并且其逼真程度连专业软件都难以识别。数据是学术研究的核心，从实验数据到调研数据，它们是研究结论的有力支撑。假数据的混入，使得研究成果的可靠性大打折扣，可能导致错误的研究方向和结论，误导整个学术领域的发展。

更令人担忧的是，AI能模仿学术写作风格，生成“逻辑自洽” 但毫无实质内容的论文，让同行评审形同虚设。同行评审本是保障学术质量的重要关卡，可面对 AI生成的假论文，评审专家可能因难以察觉而让其蒙混过关。长此以往，学术的可信度将遭受重创，学术界的“AI 信任危机”也会愈发严重，亟需引起重视并加以解决。

（图源：小红书 截图）

四、AI「骗术」的治理困境：

技术、伦理与法律的博弈

英国著名科学家贝尔纳在其著作《科学的社会功能》中指出：“科学技术的发展本身既为我们揭开了改善人类生活的前景，也为我们开辟了毁灭人类的可能性。”

想要有效应对AI幻觉，需要政策制定者、平台、媒体和公众等多主体协同合作，从不同层面发力，共同突破治理困境。

法律层面，政策制定者应加快完善AI相关法律法规，明确研发、应用各环节责任界定，为AI划定伦理边界，严惩利用AI传播虚假信息的行为，让AI在法治与伦理双重约束下健康发展。

技术角度，平台要加强技术升级，引入事实核查算法，建立虚假信息过滤机制，提高对AI生成内容的审核精度和效率，同时强化社会责任，平衡流量与信息质量。

媒体需发挥专业核实优势，AI生成信息严格核查，深度调查、专业分析，及时发布真实信息，帮助公众正确认识AI，化解信任危机。公众要主动学习AI知识，了解AI幻觉特点，增强甄别虚假信息的能力，保持理性，不盲目传播未经核实的内容，从源头遏制虚假信息扩散。

（图源：小红书 截图）

五、结语

北大的胡泳老师认为，人工智能的最新进展有可能加剧虚假信息的数量、速度、多样性和病毒式传播，使内容创建过程和虚假信息活动的实施自动化。深度伪造、假新闻（fake news）和伪传信息（disinformation）或许将充斥整个互联网。操纵性内容的制作成本非常低，而且很容易大规模生产，以至于变得无时和无处不在：这就是我们所担心的人工智能时代的政治未来。

大模型在实际应用中，更多地扮演着辅助我们处理已知信息的角色。当我们需要对熟悉的知识进行回顾梳理，或是基于已有认知进行创作时，它能极大地节省时间与精力，帮助我们更高效地完成任务。比如在撰写工作总结时，大模型可以快速整合过往资料，提炼关键要点；在进行创意写作时，它能提供灵感启发，辅助搭建框架。

但务必明确，大模型只是一种工具，虽然强大，却不能成为我们获取知识的主要渠道。它生成的内容可能存在偏差、错误或缺乏深度，若过度依赖，很容易被误导。就像在学术研究中，不能仅凭大模型给出的结论就撰写论文，还需通过查阅权威文献、进行实证研究来夯实依据。

其实，偏见是每个时代都无法避开的话题。在过往，人们的认知偏见多源于人与人之间不同的观念、经验和立场。而如今，随着AI技术的广泛应用，我们又多了来自AI的偏见。不过，这并非无法应对。我们可以通过提升自身的辨别能力，对信息进行严格筛选，摒弃那些受AI影响而产生的不合理认知，保留并强化符合自身价值判断与理性思考的部分，从而在信息洪流中保持独立思考，不被偏见左右。

（图源：微信公众号截图）

参考文献：

【1】胡泳.人工智能驱动的虚假信息：现在与未来[J].南京社会科学

【2】AI幻觉：当“智能”蒙蔽了真相-警惕Deepseek生成的虚假信息的传播 @Q姐 Q谈职场 公众号

【3】DeepSeek新闻造假，主角竟是创始人梁文锋 @ Morgan 摩根聊AI 公众号

【4】《人类简史》作者赫拉利：当AI决定说谎，人类会落得什么下场？@ 三联生活周刊 公众号

【5】为何人工智能经常喜欢“已读乱回”？新传学术前沿名解——AI幻觉(AI Hallucinations) @晶晶 胡师姐新传考研清北专列 公众号