(网经社讯)9月3日，平台披露近三月清理虚假笔记近12万条，日均下架医美类超4000篇。从医美到民宿等，违规内容屡禁不止、屡治屡犯。当“种草”沦为AI批量生成的消费陷阱，用户还能相信什么？（详见#网经社 专题：https://www.100ec.cn/zt/xhstblx/）

出品｜网经社

作者｜唐三

初审｜无痕

终审｜云马

配图｜网经社图库

【本文摘要】

AI造假的冰山一角：医美 民宿只是最显眼的样本

9月3日，小红书官方账号“薯管家”发布《关于AI制作医美、民宿等虚假内容治理公告》，宣布将AI制作发布虚假内容纳入常态化管控体系，重点整治医美、民宿、探店、就医等高频造假赛道。公告披露，仅今年6至8月，平台累计清理AI生成虚假体验内容近12万条。其中，医美类日均下架违规笔记超4000篇，累计封停违规账号4200余个。

据网经社数字生活台（DL.100EC.CN）获悉，大量违规账号借助AI生成、拼接合成实景图片，凭空杜撰民宿入住、医美体验、线下探店等真实场景，炮制同质化虚假种草笔记。公告直指三类核心违规行为：AI生成图片伪造实景场景、AI批量炮制同质化虚假体验笔记、账号虚构个人亲历消费经历。

医美领域是AI造假的重灾区。 2025年8月，小红书平台因医美虚假宣传等问题被央视财经点名曝光。2026年5月，深圳市整形美容行业协会向小红书发送投诉函，直指平台内“医美薅羊毛”“恶意维权”类内容泛滥成灾。医美机构利用AI生成虚假效果对比图，虚构医美体验笔记，以此引流揽客。典型案例中，用户“泥*吧”发布AI虚假医美体验内容，平台已下架相关内容并对违规账号予以封禁处置。

民宿领域同样触目惊心。 今年“五一”长假前夕，小红书涌现大量“避世小院”“溯溪秘境”的帖子，图片大多雷同，以精致画风吸引眼球，实际是用AI批量生成的民宿宣传假图。商家利用AI零成本批量制造“仙境”图片，虚构住宿体验。有用户评论表示小红书发布的所谓宣传图和实际明显不符。这些AI“照骗”不仅误导消费者，更毁掉了整个行业的信誉。

造假版图仍在持续扩张。 从医美到民宿到教育，AI造假已蔓延至探店、房产、理财等多个品类——探店博主用AI生成“人气爆棚”的餐厅照片，房产账号用AI伪造“火爆售楼处”的排队场景，理财博主用AI虚构“暴富收益”截图。任何以“亲身体验”为名、以“引流变现”为目的的内容品类，都可能成为AI造假的下一个目标。

不仅是AI造假乱象，近年来，小红书平台还涉及涉黄低俗、团播乱象、虚假营销与黑灰产等乱象，从数据看，多个乱象的规模已相当惊人：AI托管账号超110万个、虚假营销账号逾1200万个、单月违规处置近180万起、黑医美半年封禁30万账号……这些数字远非“个别用户钻空子”可以解释，而是指向了平台生态被系统性侵蚀的现实。

增长放缓 审核滞后与AI迭代 小红书治理为何步步被动？

小红书AI虚假内容的泛滥，表面上是技术作恶的结果，深层原因则与平台自身的扩张逻辑和治理能力的结构性失衡密切相关。

从平台发展层面看，小红书正面临用户增长放缓与商业变现压力交织的困局。从2024年4月到2026年3月，两年时间小红书月活从2.08亿增长到2.45亿，净增不到4000万。与此同时，平台日活从2023年的1.12亿攀升至1.7亿。用户规模逼近天花板，但商业化的诉求却在加速——医美、民宿、探店等正是流量变现效率最高的品类，也是AI造假最集中的领域。

从审核能力层面看，小红书的审核机制长期滞后于内容生产方式的变化。平台此前的审核体系主要围绕关键词过滤和人工抽查搭建，对AI合成内容的识别能力严重不足，审核机制的滞后，让大量AI造假内容在上传后长期未被发现，甚至被算法推荐至首页，进一步放大了虚假内容的传播范围。

从技术识别层面看，AI生成内容与传统内容在形态上的界限正变得日益模糊。AI生成的图片可能在光照、阴影等细节上存在破绽，但肉眼已越来越难以辨别；部分AI内容缺少清晰的创作痕迹和元数据，来源识别和责任追溯更加困难。平台对AIGC内容的识别还不够准确，部分AI生成的图片并未被标注。

更棘手的是，AI造假手段在不断升级——同一组AI图片可以被多个账号跨地域、跨平台重复使用，造假者还会在图文角落用小字标注“AI生成”以规避规则。当造假成本趋近于零、造假速度跑赢审核能力时，平台陷入“发现一批、清理一批”的被动循环几乎成为必然。

与此同时，平台的内容审核与流量分发之间存在天然的结构性矛盾。审核追求的是“内容真实、合规”，而算法推荐追求的是“用户停留时长、互动率”，AI造假内容往往具备更强的视觉冲击力和情绪煽动性，更容易获得算法推荐。这并不是平台“故意纵容”，而是内容审核与流量分发两套系统目标不一致所带来的结构性后果。

治理升级 纳入常态化管控

针对愈演愈烈的AI内容乱象，小红书此次官宣加码专项治理，明确将AI制作发布虚假内容纳入常态化管控体系。治理聚焦三大违规行为：AI生成图片伪造实景场景、AI批量炮制同质化虚假体验笔记、账号虚构个人亲历消费经历，重点整治医美、民宿、探店、就医等高频造假赛道。

平台从三方面加大治理力度：一是细化管控重点，以AI生成图片伪造实景、AI批量生成同质化体验笔记、虚构亲历经历为高风险场景重点识别，文旅住宿、医疗医美、教育、房产等品类优先覆盖；二是聚焦存量清理，从笔记、评论、账号等多环节清理历史虚假内容；三是增补策略严控新增，同步强化未标识AI内容的识别能力，对同一图片或视频跨地域、跨账号重复使用的情形加强检测。

2026年以来，小红书已在AI治理上持续加码。1月发布社区公约2.0版本，要求用户在使用AI辅助创作时需主动标识，禁止编造虚假人设。4月首次系统公布AI治理主张，明确禁止利用AI工具自动运营账号、冒充真人互动。截至2026年5月，小红书AI治理团队累计处置各类AI不良行为超百万例，其中AI托管账号超110万个、AI造假笔记近18万篇。

浙江省数智技术与服务联合会数字经济专委会副秘书长、网经社电子商务研究中心分析师陈礼腾指出，小红书AI虚假内容泛滥暴露了内容平台在AI时代面临的共性困境——当技术让造假成本趋近于零时，平台治理必须从“事后清理”进化为“事前拦截”。近12万条虚假笔记只是冰山一角，真正的挑战在于如何建立长效机制。对于小红书而言，守护“真实分享”的社区底色，需要的不仅是一次专项治理，而是技术、规则与商业逻辑的系统性重构。

【小贴士】

网经社深耕电商与互联网19年，依托旗下网络消费纠纷调解平台“电诉宝”（315.100EC.CN）及开放型电商智库平台网经社电子商务研究中心（RESC.100EC.CN），通过立法参谋、监管课题、监管培训、监管会议、监管调研、专项报告六大方式，在推动消费维权、参与行业立法、促进平台合规等方面成果显著，持续获得有关部委的认可（详见：https://www.100ec.cn/zt/scjghbhb/）。