近期，西藏定日县发生6.8级地震，灾情牵动了无数人的心。

然而，在一些社交平台上，却出现了大量AI伪造的灾区图片。

这些图片逼真且引人同情，许多网友在不知情的情况下纷纷转发，表达了对图中“受害者”的关切与同情。

然而，当真相大白时，人们才发现自己内心的善意被一场彻头彻尾的欺骗所利用。

在AI技术的加持下，猜疑链正在逐渐形成，而信任链则逐步被破坏。人们开始对所看到的一切产生怀疑，不再轻易相信他人，社会的信任基础被一点点侵蚀。

类似的事件并非孤例，AI伪造的苦难图片，甚至是AI伪造的音频、视频新闻内容，在社交媒体上屡见不鲜，严重扰乱了社会秩序。

例如，在2024年1月23日，东兴市的骆某某为了获取网络流量并吸引粉丝关注，利用AI软件的自动编辑功能，篡改和嫁接了其他地区抗洪、救灾的视频内容，虚构出新疆乌什县发生地震的假视频信息。这一虚假视频在网络上迅速传播，导致大量网民不明真相地对其进行评论和转发，造成了恶劣的社会影响。

又如，在2024年6月期间，网络上流传出一条短视频，声称广东省五华县华阳镇一位70多岁的老人遭到暴力袭击陷入昏迷，其孙子因悲愤交加选择跳河自杀。该消息迅速在网络上发酵，引发了广泛关注。然而，经公安网安部门调查核实，这条短视频中的图文信息完全是虚构的，是造谣者任某利用AI技术合成的虚假内容。

无论是伪造的AI图片、AI音频还是AI视频其仿真程度让人真假难辨。最近HeyGen和Sora联名推出了一款数字人，如下所示。

大家看下，这够真实吧？够自然流畅吧？其实这是AI生成的！

AI技术的发展确实快速，也确实为我们带来了诸多便利，但个别网民为了吸引眼球、蹭热度，却利用AI技术编造“伪消息”和“假新闻”，以此来获取网民的关注和点赞量，进而实现流量变现。

这种行为不仅损害了新闻的公信力，还影响了救灾资源的合理分配。

利用AI生成图片本身不会因此受到处罚，但若肆意用AI技术生成与事实严重不符的地震受灾画面，甚至编造谣言，引发社会广泛关注甚至网友的恐慌，则属于扰乱公共秩序的行为。

在探讨AI伪造的危害时，我们不禁会想到普利策奖的照片。

这些照片之所以为世人所认可，是因为它们基于真实的原则，向世人展现了一个急需被拯救的世界的局部真相。这些照片记录了历史的瞬间，展现了人性的光辉与阴暗，让人们看到了世界的多样性和复杂性。

例如，1993年摄影师凯文·卡特在苏丹拍摄的《饥饿的苏丹》的照片，真实地反映了苏丹内战导致的饥荒和战争给无辜百姓带来的深重灾难。它让人们看到了一个弱小生命的无助与绝望，也引发了全球的关注和反思。

正是因为在新闻摄影中，真实性是至关重要的。普利策奖照片严格禁止修改照片上的任何一个像素。

纪实照片的价值就在于能够真实地记录和反映事实，让人们看到事件的真相。任何对照片的修改都会破坏其真实性，误导观众，损害新闻的公信力。

然而，这种可贵的信任正在被泛滥的AI技术一点点消解。

虽然，我们不能因噎废食地否定AI技术，但也绝不能对其被恶意利用的现象视而不见。

是时候从技术防范、法律监管、公众教育等多方面入手，杜绝AI伪造内容扰乱社会秩序的情况发生。

只有这样，我们才能在享受AI技术发展成果的同时，守护好社会的信任基石，让人们心中的善意不再被欺骗利用，让新闻媒体与社交平台的真实性得以保障。

而不是在一个新闻事件发生时，坐等“反转”！