6月12日，小红书在北京举办“打击虚假”治理开放日，公布了2025年上半年社区虚假内容治理成果：通过建设虚假内容全链路治理体系，共处置虚假笔记320万篇，处置虚假人设账号1万个，处置虚假低质AIGC笔记60万篇；通过持续建设“同质化识别”能力，全面提升处置手段，升级机器对抗，共封禁批量造假黑灰产账号超1000万个。

半年共处置虚假笔记320万篇。图/小红书

[1]半年共处置虚假笔记320万篇

小红书虚假内容治理负责人蒂法介绍，虚假不实内容、虚假人设和AIGC造假是当前社区打击“虚假”的三个重点。

小红书虚假内容治理负责人蒂法介绍治理策略。图/小红书

在虚假不实内容治理方面，平台构建了“前置拦截、事中追踪、分析回扫”的“前中后”全链路治理体系；上线了内容信息量模型、笔记摘要提取模型、AIGC谣言诊断模型等15个识别大模型，并建立了真实信源库和谣言库，实现了对虚假内容的实时拦截和批量回扫，半年共处置虚假笔记320万篇。

在虚假人设治理方面，平台设置了内容前置审核制度，采用了账号关系挖掘分析策略，并上线多个图像及视频识别模型，通过综合笔记内容和账号信息进行分析判断，对虚假人设进行精准打击，半年共处置虚假人设账号1万个。

在AIGC技术爆发式发展的当下，虚假低质的AIGC内容也成为治理的重中之重。小红书不断加大对AIGC识别模型的研发投入，进一步提高识别精准度，减少虚假低质AI内容的曝光。同时，平台对AIGC生成内容做主动标识工作，提升信息透明度。半年共处置治理虚假低质AI笔记60万篇。

[2]封号1000万，“批量造假”黑灰产账号迎来最严治理

开放日上，小红书黑灰产账号治理负责人必行用一组治理成果数据展示了社区对黑灰产账号坚定打击的态度：2024年11月中，小红书黑灰产账号治理专项开启；专项开展1个月，封禁126万黑灰产账号；开展3个月，封禁320万黑灰产账号；开展7个月，封禁超1000万黑灰产账号。

必行介绍，黑灰产组织批量制造黑灰产账号，通过虚假、重复、低质内容骗取用户流量；养号涨粉后，又会发布虚假、恶意营销内容，或者销售灰色商品，提供灰色服务，甚至从事违法活动，从而实现不当牟利。从建号到养号再到牟利，黑灰产账号进行全链路批量造假，对社区生态和秩序的危害十分巨大。

小红书黑灰产账号治理负责人必行分享黑灰产账号的特征。图/小红书

为了应对黑灰产账号的数量巨大、隐蔽深、变体快和对抗强等挑战，治理团队从识别能力和处置能力两方面重点做功。

在识别能力方面：上线50多个模型，建立了以“同质化识别”为核心的风控体系，将对黑灰产的识别召回率提升了72%。在处置能力方面，不断优化处置策略，极大提升黑灰产作恶成本；全面升级机器对抗，用机器判罚大规模代替人工判罚，大幅提高对黑灰产账号的处置量级及时效性。

在线上治理的同时，小红书案件调查团队还向多地警方和市场监督部门积极提供线索，对黑灰产团伙进行线下打击。目前有7起案件在侦办中，后续警方和市场监督部门将根据调查结果采取各种处罚措施，涉及犯罪行为的还将进一步追求刑事责任。

[3]平台鼓励用户参与共治

开放日上，小红书审核培训师给现场观众上了一节“打假”志愿者培训课，展示了近10个不同类型的造假案例，引发了观众的鉴假热潮。大家踊跃发言，一起“来找茬”。在场多位观众表示，会将学到的鉴假方法应用到对虚假内容的鉴别和举报中。

治理开放日上，现场观众热情参与鉴假互动。图/小红书

平台在持续主动治理之外，也鼓励网友参与共治。目前，小红书已建立起较为完善的虚假信息举报制度，包括开通监管网站、APP客户端举报、举报热线和举报邮箱四种途径。在常态化转发重要辟谣稿件的基础上，搭建起辟谣专区，为用户提供一站式辟谣信息服务；官方账号“薯管家”每周定期发布辟谣笔记。

此外，小红书还设立了“真诚分”账号体系，从分享动机、内容质量多方面判断账号是否真诚，从而对真诚的创作者给予流量倾斜，对虚假低质的杂音噪声进行压制。

中国人民大学传播学教授董晨宇分享应对虚假信息的传播规律和应对策略。图/小红书

中国人民大学传播学教授董晨宇从传播学角度分享了虚假信息的传播规律与应对策略。董晨宇说：“应对当前互联网虚假内容快速增长与传播，需要各平台积极打击，全社会共同参与。虚假内容无法完全被消灭，但可以通过科普、举报、公众传播学素养的提升，将虚假控制在较低的水平。”

九派新闻记者龚凌蔚