(网经社讯)7 月 6 日，中央网信办对外发布 “清朗・整治 AI 应用乱象” 专项行动第一阶段工作进展。该专项行动自 2026 年 4 月启动以来，聚焦 AI 领域多类突出违法违规问题推进集中治理，截至目前已累计处置违规网站、应用程序、智能体等 AI 产品 1.4 万余款，专项整治取得阶段性成效。

据通报，第一阶段整治重点覆盖未按规定履行大模型备案登记义务、AI 平台安全和审核过滤能力不足、AI 数据投毒、生成合成内容标识落实不到位四类核心乱象。行动期间，各地网信部门按部署推进重点整治任务，官方同步开设 “涉 AI 应用乱象举报专区” 专项受理公众举报。除处置违规 AI 产品外，行动累计清理违法违规信息 600 余万条，处置违规账号 2.6 万余个，下架违规 AI 商品 1300 余个、违规开源数据集 9 个。

据网经社AI台（AI.100EC.CN）获悉，属地监管层面，多地结合区域实际出台针对性管控措施。北京建立 “平台自查 + 常态巡查 + 技术筛查 + 线索核查” 联动工作机制，及时下架一批违规 AI 应用与运营账号；上海针对不同平台类型细化治理要求，指导平台升级举报机制、主动发布治理公告；浙江围绕模型审核能力、训练语料安全、AI 数据投毒等维度，组织开展语义判断优化、高频回归测试等专项整改；江苏开设 AI 应用乱象专项举报窗口，归集 5 类违法违规情形举报线索并核实处置；广东建立属地多部门协调监管机制，通过技术巡查、人工复核、现场督导、约谈惩戒等方式开展全链条治理。

重点互联网平台也同步落实主体管理责任。华为在应用商店增设生成式人工智能服务备案与标识专项审核环节；阿里巴巴完善数字指纹比对与关键词拦截机制，提升违法违规内容识别精度；智谱搭建多模态审核模型，针对多轮对话意图反转等复杂场景开展交叉复核；稀宇强化恶意行为识别，阻断利用 AI 编写病毒、钓鱼软件的违规操作；DeepSeek 在数据采集与预处理环节嵌入异常检测算法，防范恶意样本隐蔽操控。

中央网信办表示，下一步将启动专项行动第二阶段工作，重点聚焦利用 AI 技术制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等突出问题，加大违规账号与机构查处力度，强化 AI 应用重点环节管理，督促平台提升 AI 风险防治能力，持续维护清朗网络生态，推动人工智能向善向好发展。