(网经社讯)9月2日消息，近日，巨量引擎发布公告，通报针对利用AI技术生成违规营销内容的专项治理阶段性成果。截至目前，平台已累计关停违规广告账户5万余个，对借助AI炮制虚假营销内容、传播不良导向的商业推广行为保持高压打击态势。

巨量引擎还表示，平台在治理中发现，部分商家滥用AI技术制作违规广告内容，通过虚假效果画面、猎奇剧情夸大产品效果，误导消费者。

公告梳理出三类高发的AI营销违规情形：

第一类为反科学虚假夸大产品功效。部分商家依靠AI生成脱离现实的产品演示画面，例如渲染厨具切肉薄如蝉翼、膏药贴敷后渗出毒素、床垫可以抵御炮火轰击等违背物理常识的场景，完全背离产品真实性能，欺骗消费者；

第二类是输出畸形消费理念，传播不良价值观。部分AI生成广告刻意制造婆媳矛盾，植入“便宜货就是给穷人用的”这类带有贫富歧视的台词；还编造因外貌区别对待消费者的剧情，刻意贩卖容貌焦虑，传递错误价值导向；

第三类依靠暴力、低俗画面与文案博取流量，违背公序良俗，靠猎奇感官内容吸引用户点击，实现引流目的。

据网经社AI台（AI.100EC.CN）获悉，公告提到，这类违规内容依托AI低成本、量产快的优势批量产出，不断变换套路，给内容审核带来不小挑战。对此，平台从规则、技术、处置力度三个维度发力，提升治理效果。

规则方面明确，无论营销内容是否使用AI制作，都要遵守广告相关法律法规与平台规范，保证内容真实合法。针对AI合成虚假功效画面，平台细化判定标准：AI制作违背常识、夸大效果的演示画面属于违规；仅用作画面美化、场景搭建，如实展现产品效果的内容可以放行；明确标注AI生成、提示效果仅供参考，不会误导用户的广告，允许投放。

技术层面，平台持续迭代AI内容识别能力，采用机器识别叠加人工复核模式，加快违规内容排查处置。对于多次违规、情节恶劣的主体，将会加重处罚。据了解，下一步，巨量引擎将继续升级识别技术，完善广告全链条合规治理，维护消费者权益。