(网经社讯)3月10日消息,小红书“薯管家”发布治理公告,明确提出将严格打击AI托管类账号及相关违规行为,聚焦AI托管背后的虚假内容生产、账号买卖、违规引流等乱象,通过技术升级与专项整治,强化平台内容审核,维护“真实分享”的社区根基,切实保障用户权益与平台公信力。
据网经社数字零售台(DR.100EC.CN)了解,此次小红书严打的AI托管类账号,核心指由第三方机构或个人通过AI工具批量运营、托管的账号,此类账号普遍存在“AI起号-养号-转卖”的完整灰色产业链,严重扰乱社区生态。公告明确,打击范围涵盖四大类违规行为:一是利用AI工具批量生成低质、同质化“数字泔水”内容,用于快速涨粉起号;二是通过AI托管模式运营账号,规避平台规则,批量发布虚假种草、仿冒公众人物、误导性科普等内容;三是借AI托管名义开展账号租赁、转让、售卖等变相交易,甚至出现“账号期货”等违规交易形式;四是发布教唆去除AI标识、规避平台检测的教程或工具,破坏AI内容标识管理规则。
小红书在公告中披露,此前已针对AI技术滥用开展多轮整治,累计清理违规内容265条,对13个违规AI托管相关账号予以禁言处置,同时加强AI生成内容的监测甄别能力,推动AI生成内容主动标识机制落地。此次进一步严打AI托管类账号,是对前期治理工作的深化,重点破解AI托管带来的三大痛点:一是低质同质化内容泛滥,挤占优质内容曝光空间,影响用户浏览体验;二是虚假内容误导公众,部分AI托管账号伪造“外国专家”“真实用户”人设,传播不实信息或违规引流,侵害用户知情权;三是账号交易黑灰产滋生,AI托管降低起号门槛,大量“三无账号”被明码标价转卖,成为网络诈骗、违规带货的温床。
从治理举措来看,小红书将构建“技术监测+人工审核”的双重屏障,持续升级AI识别模型,精准识别AI托管账号的特征的行为,对确认违规的账号采取分级处置措施,包括限制分发、禁言、永久封禁等,情节严重的将联动相关部门追究法律责任。同时,平台将强化AI生成内容的标识管理,依据《人工智能生成合成内容标识办法》要求,对未主动标识的AI生成内容限制分发,对教唆去除AI标识的行为予以严厉打击。此外,平台还呼吁用户积极参与共治,主动举报AI托管类违规账号及内容,共同维护清朗社区环境。
此次严打背后,是AI技术滥用对社区生态的持续冲击。随着AI生成技术的普及,部分机构和个人利用AI工具快速批量生产内容、运营账号,无需投入过多人力成本即可实现涨粉变现,催生了“AI起号秘籍”售卖、账号转卖等灰色产业,此类账号生成的内容多存在逻辑混乱、虚假误导等问题,与小红书“真实分享”的社区定位严重相悖。此前数据显示,小红书上关于AI限流的笔记数量超3万篇,大量优质真实内容被AI生成的低质内容挤压,用户投诉量持续上升,治理AI托管类账号已成为平台维护生态的必然选择。


































.png)


