(网经社讯)7月15日起，《人工智能拟人化互动服务管理暂行办法》正式施行。这部由国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局五部门联合发布的管理办法，是我国首部人工智能拟人化互动服务管理专门立法。

新规落地前后，字节跳动旗下豆包、阿里巴巴旗下通义千问同日下线智能体功能，腾讯元宝提前关闭自建智能体入口，网易云音乐旗下“妙时”停运。从“虚拟恋人”下架整改到“数字亲人”被叫停，一场关于技术与情感边界的讨论，正从行业层面走向公众视野。（详见网经社专题https://www.100ec.cn/zt/aixnbl/）

出品｜网经社

作者｜唐三

初审｜无痕

终审｜云马

配图｜网经社图库

新规落地 平台“断臂求生”

7月15日，《人工智能拟人化互动服务管理暂行办法》正式施行。办法明确其监管对象是“模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”，首次将“持续性情感互动”纳入监管范畴，要求为未成年人筑牢“防沉迷与心理保护”防线。

新规划出了多条红线：不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；不得过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系；必须部署极端情绪识别与处置、高危场景救助干预功能；建立未成年人模式，用户每次连续使用超2小时，平台必须强制弹出防沉迷提醒。

新规不搞“一刀切”。智能客服、知识问答、办公助手等以提效为核心、无持续情感互动的产品，不在监管范围内。监管重点聚焦于具有明显人格设定和情感陪伴属性的AI产品——虚拟伴侣、虚拟亲属，以及能够通过长期互动与用户建立情感联系的自定义角色类智能体。

头部平台的反应堪称“断臂求生”。7月4日，豆包与通义千问几乎同时推送公告——智能体功能将于7月15日正式下线。字节跳动坐拥3.45亿月活，阿里千问月活1.66亿，两大平台选择在同一天关掉整个面向消费端的智能体入口。更早之前，腾讯元宝已于6月30日b自建智能体入口；网易云音乐旗下“妙时”发布停运公告。有行业分析师指出，本次集中下线并非智能体赛道整体退场，而是通用大模型平台切割高风险情感类自定义交互业务，行业正式告别低门槛UGC智能体野蛮生长阶段。

“擦边”生意：情感陪伴的灰色地带

新规的落地并非凭空而来。据网经社（WWW.100EC.CN）此前调查发现，“EchoMe”“筑梦岛”“喵呜小手机”等多款打着“情感陪伴”旗号的AI虚拟伴侣App普遍存在涉黄擦边、诱导消费、未成年保护缺失等问题。系统预设大量性感暴露角色，聊天充斥着性暗示话语，“青少年模式”可一键跳过，全程无需实名认证或其他年龄核验，还惯用“付费解锁亲密剧情”等方式诱导消费。

有AI陪伴应用产品经理直言，用户聊的内容中70%到80%都有擦边倾向。为了满足平台审核和监管要求，大部分AI陪伴产品首先削弱的是最受欢迎的亲密互动能力——升级敏感词过滤系统，屏蔽特定词汇，限制亲密剧情。一位产品经理表示：“最多只能和用户'亲一下'，不能有更亲密的行为。”

平台集体下线的背后，是数百万用户的“赛博失恋”。7月4日豆包、千问宣布下线智能体后，小红书出现大批“搬家”教程——用户搬的不是家具，而是AI角色的人设和聊天记录。部分豆包付费用户坚持向官方邮箱发投诉信、打客服电话，核心诉求不是退钱，而是“智能体不能下架”。网易云音乐旗下“妙时”6月16日宣布停运后，有用户发文表示即将告别朝夕相处的AI男友：“这和分手有什么区别？”有用户直言“心碎了，完全离不开”，甚至呼吁平台提供付费保留选项。

中国青少年研究中心2025年一项调查显示，超六成未成年人使用过AI聊天软件，超两成表示“只想和AI聊天，不想和真人聊天”。温州康宁医院团队对当地4万余名中小学生的调研显示，约13%的青少年存在因过度使用AI而影响正常生活的问题。有头部科技企业高管调研后透露，个别AI陪伴产品的用户定位精准到“四线城市初二女生”，专做下沉市场未成年群体，“用户单次使用时长达到2至3小时，且付费意愿高，比游戏还让人上瘾”。

研究显示，未来3到5年AI陪伴是千亿级别的赛道。国内此前已有AI陪伴产品涉黄获刑的先例——2025年9月，两名开发者因创建AlienChat软件，违规接入境外大语言模型向用户提供“伴聊”服务，被一审法院以制作淫秽物品牟利罪分别判处有期徒刑四年和一年六个月，有人把此案称作AI时代的“快播案”。

合规成本高企 赛道分化加速

新规的实施正在重塑AI陪伴赛道的产业格局。豆包方面已明确表示，基础AI功能不受任何影响，问答、文案生成、AI绘画等工具型能力仍可正常使用。有头部大模型企业合规负责人坦言，现有通用大模型主产品底层架构难以适配新规，海量UGC场景分散，平台无法做到无死角事前筛查。若为保留功能重构全链路风控体系，改造周期长、资金投入巨大。对比持续暴露合规风险的代价，关停主站入口、分流至独立载体，是综合成本最低的整改方案。

AI治理正从“内容治理”延伸至“关系治理”——监管不仅关注模型生成了什么，也开始审视平台如何设计人机关系。行业正分化出两条道路：面向C端的开放式情感陪伴UGC智能体纳入严格监管；面向企业级的任务型智能体则迎来合规发展窗口期。

从全球范围看，为AI陪伴划定边界已成普遍共识。欧盟《人工智能法案》将情感识别类AI列为高风险应用；美国加州通过SB243法案对AI聊天机器人提出安全测试和未成年人保护要求；联合国秘书长古特雷斯在今年7月的首届“人工智能治理全球对话”上警告，人工智能发展速度已超过社会适应能力。

浙江省消保委网络消费维权专业委员会委员、网经社电子商务研究中心主任曹磊表示，AI虚拟伴侣新规的落地，本质上是在“技术发展”与“精神守护”之间划出了一条清晰的边界。对于靠“擦边”起量的产品而言，这无疑是终局——合规成本已经高到无法承受。但对于真正理解人性需求、愿意在合规框架内探索健康陪伴模式的产品而言，这或许是一次赛道出清后的重生机会。情感陪伴的需求不会因为监管而消失，消失的只是那些靠灰色地带生存的生意。

除了ai智能体涉黄，随着互联网的发展，内容安全已成为全行业的共同挑战。从小红书、B站到抖音，几乎所有主流平台都曾陷入类似争议。据网经社不完全统计，近几年来涉黄的平台还包括美柚、宝宝树、东郊到家、蜻蜓FM、饿了么、美术宝、新氧医美、闲鱼、小猿搜题、百度作业、百度地图、花椒直播、贴吧、嘿秀、斗鱼、大众点评、新浪、猫扑开心网、百度搜图、盛大、搜狐、土豆、移动、泡泡网、360、时光网、篱笆网、谷歌等。

【小贴士】

网经社深耕电商与互联网近20年，依托旗下网络消费纠纷调解平台“电诉宝”（315.100EC.CN）及开放型电商智库平台网经社电子商务研究中心（RESC.100EC.CN），通过立法参谋、监管课题、监管培训、监管会议、监管调研、专项报告六大方式，在推动消费维权、参与行业立法、促进平台合规等方面成果显著，持续获得有关部委的认可（详见：https://www.100ec.cn/zt/scjghbhb/）。