(网经社讯)只需9.9元购买一段提示词，输入AI平台，几分钟即可生成半裸女性的跳舞视频——全程无任何限制触发。这是央视《财经调查》近日揭露的一幕。被点名的，是头顶“国内AI文生图赛道融资第一”光环的明星公司——哩布哩布AI（LiblibAI）。

2025年10月，该公司完成超9亿元B轮融资，由红杉中国、蚂蚁集团等联合领投。半年之后，这家资本宠儿却因内容安全审核形同虚设、沦为“造黄”工具，被推上风口浪尖（详见 #网经社 专题：http://www.100ec.cn/zt/ajk/   ）。

出品｜网经社

作者｜唐三

审稿｜云马

配图｜网经社图库

AI平台乱象扫描：9.9元提示词绕过审核 黑产链条成形

央视记者在多个平台发现，有人公开兜售“AI制作色情擦边视频”的教程和“提示词”。标题写着“AI擦边赛道日入5位数”，配以露骨画面。记者以9.9元购买提示词，商家将敏感词译为英文以规避监管。

随后记者对10款AI应用实测：输入直白提示词多数会触发审核拒绝；但修改为隐晦表述后，便可轻松绕过。在“哩布哩布AI”中，输入购买来的提示词，仅几分钟就生成了一个半裸女性跳舞视频——全程未触发任何限制。

调查显示，一条黑色产业链已然成形：“售卖提示词→AI生成内容→非法牟利”，环环相扣。更有专门靠AI生成色情视频牟利的软件，号称“一张图生成全裸照”。

值得注意的是，哩布哩布AI早在2024年就通过了国家网信办深度合成服务算法备案，是国内首家通过生成式AI备案的社区。这意味着平台对内容安全负有法定责任。然而央视实测证明，其审核机制存在明显漏洞。此外，企查查显示2025年该公司曾两次因税务问题被税务机关通知整改。从内容安全到税务合规，这家明星公司在多个维度存在短板。

哩布哩布并非孤例。浙江金华警方近日破获一起利用AI制作传播淫秽内容案，抓获8人；全国首例AI涉黄案（AC平台案）中，司法机关不仅追究了平台创始人的刑责，还将一名用户立案。当技术门槛降至9.9元，中立性正被系统性滥用侵蚀。

乱象根源：流量优先于安全 法规落地难

平台“流量优先”模式与安全责任的错位

哩布哩布等AI平台的商业模式本质是“流量变现”——通过免费或低门槛服务吸引海量用户，再通过会员订阅、算力售卖变现。平台追求用户增长和内容生成量，安全审核则被视为“成本项”。截至2024年5月，哩布哩布宣称拥有近1000万创作者，用户量国内第一。资本驱动下，平台面临巨大商业化压力，严格审核意味着更高算力成本、更低用户留存。这种内在冲突导致部分平台在审核上“睁一只眼闭一只眼”。

面对曝光，哩布哩布于4月14日承认“在个别复杂提示词组合及规避表达的边界场景下，平台存在生成不符合规范内容的情况”，表示已技术修复。但这种“事后补救”恰恰暴露了安全投入的被动与滞后。更值得警惕的是，部分平台试图以“技术中立”或“用户行为免责”推卸责任，而央视实测显示其审核机制对规避表达毫无识别能力。

法律法规已出台 执行落地仍存挑战

2023年《生成式人工智能服务管理暂行办法》施行，明确禁止生成淫秽色情内容。2025年国家网信办开展“清朗·整治AI技术滥用”专项行动。2026年4月10日，《人工智能拟人化互动服务管理暂行办法》公布，禁止利用AI传播淫秽色情内容，7月15日起施行。

然而哩布哩布案例表明，即便有法规、有备案、有专项行动，实际审核效果仍堪忧。原因在于：提示词的规避表达（英文、谐音、隐喻）难以被简单关键词过滤识别；监管部门对平台内容的实时监测能力有限，主要依赖事后举报。

法律专家指出，AI服务提供者不能以“技术中立”逃避内容管理义务。若平台明知用户生成淫秽视频仍放任，可能构成制作、传播淫秽物品牟利罪。全国首例AI涉黄案明确：平台通过产品设计为违法内容创设条件的行为，可被认定为“制作”，需承担主要刑事责任。

破局之道：多方协同 守住AI安全底线

强化平台主体责任 筑牢技术防线

整治AI“造黄”乱象，必须压实平台主体责任。具体措施包括：建立多层提示词过滤机制，识别英文、谐音等规避表达；对生成内容进行实时二次审核；建立用户举报快速响应通道，24小时内下架违规内容并封禁账号；对训练数据进行清洗，从源头减少色情生成可能。监管部门应细化平台责任清单，建立“黑名单”共享机制，对屡次违规的平台实施算法备案吊销、应用商店下架等处罚。

完善法规执行 强化日常监管与执法联动

网信部门应加强对已备案AI平台的定期抽查，采用隐蔽测试模拟黑产输入方式，检验审核实际效果。公安、网信、市场监管等部门应建立联合执法机制，对“售卖提示词→AI生成→传播牟利”全链条打击。社交平台和电商平台也应清理兜售AI“造黄”教程的帖子，封堵境外涉黄AI流入渠道。

加强用户教育 构建全民监督防线

普通用户应知晓：利用AI制作、传播淫秽色情内容属违法行为，可能面临刑事处罚。发现此类内容应及时举报。AI平台应在用户协议中明确合规边界，设置醒目举报入口，对举报属实者给予奖励，形成全民共治。

一家融资9亿的AI明星公司被央视点名内容涉黄，9.9元的提示词就能轻松绕过审核——这不仅是某家公司的失职，更是整个行业高速狂奔中对安全底线的集体忽视。技术可以造福人类，也能沦为作恶工具。AI平台是技术的“守门人”，而非免责的“甩锅者”。正如哩布哩布在致歉声明中所承认的，“内容安全是平台的底线”——这条底线，不应在曝光后才想起来加固。

4月14日，哩布哩布AI发布《关于加强内容安全管理的说明》并道歉

监管的“笼子”正在收紧：从“清朗”行动到《人工智能拟人化互动服务管理暂行办法》，从公安部打击AI“造黄”犯罪到全国首例AI涉黄案的司法实践，一套覆盖内容审核、平台责任、算法治理的监管体系正在加速成型。破解治理困局，需要政府、平台、用户三方协同：政府强化监管执法与常态化监测，平台回归安全主体责任，用户增强法律意识和举报意识。只有当安全投入不再是成本而是核心竞争力，当底线思维取代流量思维，AI行业才能真正走向健康有序的发展轨道。

【小贴士】

若您在租房平台上遭遇类似问题，可在国内知名网络消费纠纷调解平台“电诉宝”（315.100EC.CN）上进行投诉。“电诉宝”运行14余年来，与全国近千家网络消费平台建立对接，影响1亿+网络消费用户，新系统实现一键投诉、24h在线、自助维权、同步直达、实时处理、进度查询、评价体系、法律求助、大数据分析等诸多功能。

深耕数字经济近 20 年的网经社，围绕“媒体+智库+媒介”三大战略，整合AI 全媒体、AI 智库、AI 资源链接三大核心能力，并应势上线一站式人工智能门户—— AI 台（AI.100EC.CN），打造 AI 赛道一站式专业服务平台，为人工智能企业提供全媒体宣传、智库（报告/榜单）、投融资、资源链接等服务。