(网经社讯)导读：你刷到的明星直播带货，可能从肖像到声音全是AI伪造的。11月5日，抖音电商安全与信任中心交出了一份打击AI仿冒名人带货的阶段性成绩单——短短一个月，处置违规带货账号1.1万个，违规商品超过6700个。这些数字背后，是一条基于AI技术的黑灰产链条，正在悄然侵蚀直播电商的信任根基。（详见#网经社 专题：https://www.100ec.cn/zt/dcawzs/）
出品｜网经社
作者｜可乐
审稿｜云马
配图｜网经社图库
一、AI盗播泛滥
“我该怎么证明我是我？”演员温峥嵘在抖音直播间无奈地发问。今年4月，她深夜拍戏回家后，居然在手机上看到“自己”正在热情洋溢地直播带货。当她进入直播间质问对方时，换来的却是被拉黑的结局。这样的荒唐事，正每天在各大直播平台上演。
11月6日，针对近期“演员温峥嵘被AI盗播带货”事件，抖音集团副总裁李亮发文回应称，经核查，“三个直播间同时开播”案例并非发生在抖音平台。但他同时指出，平台确实存在利用AI技术仿冒名人进行带货的违规内容。
李亮表示，这类AI侵权仿冒行为严重损害各方信誉，平台已开展专项治理，严禁使用AI技术仿冒他人身份进行营销。据悉，抖音电商安全中心9月2日已发布公告，强调将严厉打击AI内容滥用行为，对违规视频和账号采取下架、清退等措施。
目前平台发现的主要违规形式包括：利用AI生成虚假商品展示、冒充专家名人进行带货、编造虚构测评误导消费者等。抖音方面承诺将持续加大技术投入，维护创作者、商家和消费者的合法权益。
抖音电商近期公布的典型案例显示，温峥嵘、董宇辉、李玫瑾、罗永浩等名人都成了被仿冒的重灾区。中国商业联合会直播电商工作委员会副会长、网经社电子商务研究中心主任曹磊指出，10月31日，“硅基智能”提交上市申请，越来越多的“硅基劳动力”将面世，除直播带货外，也将应用到各行各业。AI数字人播已是直播市场新型主播发展的重要方向之一，但数字人对替代真人主播非黄金时段起到了辅助作用，但还不能完全替代真人主播。至于这种仿冒的AI盗播，是严重影响直播带货营商环境的。
网经社电子商务研究中心特约研究员、上海汉盛律师事务所高级合伙人李旻从法律角度分析到，AI盗播的商家未经过温峥嵘的同意，使用温峥嵘的形象直播、带货，违反了《中华人民共和国民法典》（以下简称《民法典》）第一千零一十九条，侵犯了温峥嵘的肖像权。如果盗播带货时，还明确以温峥嵘的名义进行，则违反《民法典》第一千零一十四条和《中华人民共和国反不正当竞争法》第七条，侵犯了温峥嵘的姓名权，且存在不正当竞争行为。此外，如果带货商品出现质量问题或虚假宣传等引发消费者投诉，由于直接使用了温峥嵘的形象、姓名等，消费者可能误将责任归咎于温峥嵘，这将违反《民法典》第一千零二十四条，侵犯了温峥嵘的名誉权。
AI盗播的这种误导消费者的行为还涉嫌违反《中华人民共和国广告法》第四条。如商家存在欺诈行为，且违反了《中华人民共和国消费者权益保护法》第五十五条，消费者可以要求三倍赔偿。上述行为情节严重的，可能还会触犯《中华人民共和国刑法》的虚假广告罪、诈骗罪等，最高可能判处无期徒刑。李旻补充到。
二、电商平台该出手
面对肆虐的AI盗播，平台终于出手整顿。11月5日，抖音电商发布名人仿冒治理专项阶段性进展。自10月启动以来，平台已处置1.1万个违规带货账号、6700多个违规商品，重点整治未经授权的商家和达人利用AI或特效仿冒名人进行带货营销。
曹磊表示，关于电商平台是否应该在AI盗播中承担责任，要依据两大原则。一是“避风港原则”，这是平台的“安全盾牌”，指平台在接到侵权通知后，只要及时删除侵权内容，即可不承担责任。这源于网络信息海量，平台难以事前全面审查。
二是“红旗原则”，这是悬在平台头上的“达摩克利斯之剑”。它指当侵权行为非常明显，像一面红旗一样公然飘扬时，法律就推定平台应该知道这些侵权行为。此时，平台不能假装看不见，必须主动采取行动。
李旻称，依照《民法典》第一千一百九十五条，电商平台存在“通知——删除”义务，在收到有关直播间的侵权通知后，电商平台应当及时采取措施，阻止侵权行为。如果未能够及时关停直播间防止损害扩大，对于损害的扩大部分，电商平台也要承担连带责任。同时平台对出现了名人等的直播，应当进行巡查以尽到合理注意义务，否则可能因违反《民法典》第一千一百九十七条而承担连带责任。而盗播直播间作为直接侵权人，应当根据《民法典》等法律规定，停止侵权行为，消除对温峥嵘的不利影响，赔礼道歉并主动澄清以有效地恢复其名誉。
三、AI治理需多方合力
整个AI治理行业内，监管侧与平台侧的治理举措，与黑灰产案例长期博弈。
网经社电子商务研究中心特约研究员、上海正策律师事务所律师董毅智指出，多方协同治理是应对AI盗播带货的关键。首先，监管部门需完善规则与加强执法。进一步细化直播带货规则，明确AI盗播行为的法律定性和处罚标准，为监管和执法提供清晰依据。建立网信、市场监管、版权等多部门的协同治理机制，针对盗播产业链开展专项打击行动。鼓励或要求平台采用数字水印、区块链等技术进行内容存证与溯源，提高侵权行为的追踪和定责效率。
其次，电商平台需强化技术防控与流程优化。投入研发AI实时监测系统，提升对换脸、镜像翻转等规避技术的识别能力。建立“正版内容库”，通过数字水印等技术进行版权保护。严格执行账号实名制，建立盗播黑名单和“一号盗播，全平台禁播”等联动惩戒机制。优化侵权投诉渠道，简化举证流程，加快处理速度。加强内容标识：严格落实《人工智能生成合成内容标识办法》，确保所有AI生成内容均有显著标识。
最后是公众人物与消费者需要提升意识与积极维权。公众人物应提高个人信息保护意识，谨慎在公开平台分享过多高清面部影像和原始声音样本。发现侵权后，及时通过录屏、区块链存证等方式固定证据，并依据平台投诉、行政举报、民事诉讼等途径维权。消费者在观看直播时，注意甄别。主播是否与观众实时互动是判断真伪的重要依据，AI盗播通常无法有效互动。对画质模糊、口型对不上、商品价格异常低廉的直播间保持警惕。一旦因AI盗播带货购买到劣质商品，可依据《消费者权益保护法》向商家主张“退一赔三”。
（网经社电子商务研究中心特约研究员、上海正策律师事务所律师董毅智）
无独有偶，李旻表示，从监管部门的角度来说，针对如今发展愈发迅速的AI技术，应当推动相关立法，明确各方主体的权利和义务。虽然现在《人工智能生成合成内容标识办法》已经对AI生成内容作出了要求，所有AI生成的文字、图片、视频等内容都要“亮明身份”，但是在现实执行上还存在着技术手段等方面的诸多不完善。在执法上，监管部门应当加大执法力度，以重点打击这种违法现象。
电商平台作为提供者，也应当尽到相应的监管义务，作为最直接、第一线的监管者，应当做到事前全面审查、事中有效监督以及事后及时弥补。平台应当事前通过对名人信息进行核验，事中使用技术手段监管，事后有效地配合当事人解决问题、化解纠纷。AI技术的发展，也为现有法律带来了不小的冲击，需要平台作为行业领头人配合政府监管部门一同守护好人民的合法权益不受损害。李旻补充到。
（网经社电子商务研究中心特约研究员、上海汉盛律师事务所高级合伙人李旻）
曹磊阐述，除抖音平台外，快手、视频号、京东直播、小红书直播等也有涉及AI直播，需加强监测盗播现象。除了电商平台之外，MCN机构也应该加强监管，目前，谦寻已推出AI数字人直播业务，可以实现24小时不间断直播；愿景未来则自主研发了"达人画像系统"用于智能选品，并提供"AI短视频创作"工具一键生成带货视频。
当AI盗播能够以30元的成本在二手平台购买，当仿冒账号如野草般烧不尽吹又生，我们不得不承认：单靠平台封号或名人自救，远远无法遏制这场技术滥用的洪流。
【小贴士】
网经社深耕数字经济行业18年，长期关注直播电商，旗下直播电商台（DR.100EC.CN）重点报道、研究与服务的有：1.平台类：淘宝直播、多多直播、京东直播、抖音电商、快手电商、苏宁直播、蘑菇街直播、唯品会直播、小红书直播、哔哩哔哩、视频号；2.MCN类：谦寻文化、美腕、辛有志严选、遥望、交个朋友、无忧传媒、东方甄选、与辉同行、如涵、泰洋川禾、蜂群文化、大禹网络、青藤文化、宸帆、嘻柚互娱、构美、快美、古麦嘉禾、二咖传媒、热度电商、集淘、洋葱视频、侵尘文化、乾派文化、仙梓文化、缇苏、彦祖文化、君盟、白兔控股、愿景未来、优蜜、全尚文化、锐趣文化、三只羊网络、奇东传媒、麦芽传媒、奇光传媒；3.服务商类：有赞、微盟、魔筷科技、蚊子会、小鹅通、商派、大商创、红呗、米络星传媒、众灿互动、银河众星、巨鲸帮帮、云犀直播、影行天下、索象、微赞直播、微吼直播、有播、优大人、蝉妈妈、飞瓜数据；4.电商主播类：李佳琦、蛋蛋、辛巴、罗永浩、董宇辉、时大漂亮、广东夫妇、疯狂小杨哥、太原老葛、蜜蜂惊喜社、香菇来了、瑜大公子、贾乃亮、董先生、陈洁kiki、烈儿宝贝、刘媛媛、高芋芋、多余和毛毛姐、小小101、麦小登、老吴很帅、陈三废姐弟、国岳、彩虹夫妇、黄宥明、骆王宇、郝劭文、李宣卓、董洁；5.生活服务电商类：美团 携程。
网经社直播电商台（LIVE.100EC.CN）是一站式直播电商门户，旗下运营：行业资讯、行业研究、行业数据等系列频道，提供包括：媒体、报告榜单、融资、会议、营销、培训、供应链融资等服务，是数字零售从业者、媒体、投资者的首选平台。
