Deepfake技术是一种基于深度学习的人工智能技术，能够在视频或音频中将人物的面部、声音甚至身体动作进行替换或合成，创造出看似真实的伪造内容。这项技术的核心通常涉及使用生成对抗网络（GANs）和其他机器学习模型来学习目标人物的特征，并将其映射到源材料上。
在这起事件中，犯罪者利用Deepfake技术，非法制作并传播了大量非自愿的色情内容，其中包括了合成的色情照片和视频，在Telegram上通过聊天室的方式进行疯狂传播。受害者包括了学生、教师、军人等多个群体，甚至有报道称一些未成年的加害者将自己的母亲和姐妹的照片用于制作虚假的色情视频。
这起事件引发了韩国社会的强烈反响，许多韩国女性开始在国际社交媒体上发声，呼吁加强对Deepfake技术的监管。
二、中科院女工程师开源 AI 模型对抗 deepfake
为了对抗Deepfake技术的滥用，科技界也在积极行动。中科院女工程师张欣怡及其团队开发了一款名为DeepfakeDefenders的AI模型，并在微博上宣布将其开源，供全球有需要的人免费使用。
DeepfakeDefenders通过模仿人类视觉系统的工作原理，结合ConvNeXt（纯卷积神经网络）与RepLKNet（新型的卷积神经网络架构）技术，从不同角度观察图片的细节。具体来说，先用ConvNeXt来观察整体和局部细节、色彩变化、纹理特征，甚至是像素级别的细微差异。接下来再结合RepLKNet技术更大范围的捕捉图像信息，尤其擅长发现那些可能藏在照片任何角落的伪造痕迹。
此外，DeepfakeDefenders还会通过结合类“滤镜”的方式，在检查照片时戴上不同的“镜片”，例如SRM滤镜，可以让图片中难以察觉的细微痕迹变得更明显。通过改变照片的亮度和对比度、旋转或翻转照片等方式，从多个角度反复检查照片，不放过任何可疑的地方。
三、其他Deepfake检测工具和技术除了DeepfakeDefenders，还有多种Deepfake检测工具和技术在不断涌现，以应对这一挑战。以下是目前主流的五种深度伪造检测工具和技术：
1. SentinelSentinel是一个基于AI的保护平台，专门设计来检测和阻止深度伪造（Deepfake）技术的威胁。这个平台主要服务于民主政府、国防机构和企业，帮助它们维护数字媒体的完整性和真实性。
链接：https://thesentinel.ai/
Attestiv是一个提供商业级深度伪造检测解决方案的平台，专为个人、网红、企业以及需要验证数字媒体真实性的组织设计。
链接：https://attestiv.com/deepfake-video-detection-software/
英特尔实时深度造假检测器（Intel RealSense Depth Camera），也称为FakeCatcher，是由英特尔公司开发的一款先进的深度伪造（Deepfake）检测工具。
链接：https://www.intel.com/content/www/us/en/newsroom/news/intel-introduces-real-time-deepfake-detector.html#gs.2i4bt3
WeVerify是一个专注于开发智能人机交互内容验证和虚假信息分析方法及工具的项目。该项目的核心目标是在更广泛的在线生态系统中分析和背景化社交媒体和网络内容，以揭露和打击捏造的内容。
链接：https://weverify.eu/about-us/overview/#1560343088338-24c0bae8-7ae8
Microsoft的视频验证器工具是一个功能强大的工具，可以分析静态照片或视频，以提供表明媒体是否被操纵的置信度分数。
链接：https://blogs.microsoft.com/on-the-issues/2020/09/01/disinformation-deepfakes-newsguard-video-authenticator/
随着Deepfake技术的不断演进，我们的检测技术也在持续更新和强化。然而，技术并非万能，提高个人的安全意识也非常重要。我们每个人都应该成为更加审慎的数字内容消费者，对信息来源持怀疑态度，并学会识别潜在的操纵痕迹。
正如张欣怡所说，“在脸被偷走的同时，我们的身份、名誉、隐私、尊重也都被偷走了。”是她，是我，更是所有人。“这个世界有黑暗，也有照亮黑暗的光。如果一个人的火把太小，我们就把火把传给世界的每一个人。”但是，好在，我们还有我们。在这场大战中，我们既是战士，也是战场本身。举起一束黑暗中的火把。筑起另一座自由的罗马。
谢谢你。张欣怡。
