(网经社讯)4月10日，上海警方近日公布了多起利用人工智能技术编造和传播网络谣言的案件，揭示了不法分子如何将AI工具用于虚假宣传、制造社会争议并非法牟利。

据网经社法律消保台（LAW.100EC.CN）获悉，其中一起案例涉及一个名为“医学科学院细胞中心”的微信公众号。 该号发布文章，谎称与上海某三甲医院合作，可通过干细胞治疗肾病，并杜撰了研究数据和患者案例。

经警方调查，运营者陈某毫无医学背景，仅通过关键词和AI工具生成文章，其目的是为背后服务的线下医疗机构引流。目前，陈某及其团队主管蔡某已被依法行政处罚。

在另一起案件中，一段显示外卖员将撒落的面条重新装盒配送的视频引发了广泛关注。 经查，该视频实为AI生成，而转发者刘某某为博取眼球，故意裁切掉了原视频上“AI技术生成”的标签。

此外，还有网民在评论区发布煽动性不实言论。该行为对相关外卖平台造成了负面影响，刘某某已被行政拘留，其余两人被处以罚款。

更为严重的是一起利用AI“洗稿”批量造谣牟利的案件。 犯罪嫌疑人梁某、郭某二人，为获取平台“原创内容”奖励，专门搜集车企争议话题，利用AI工具对信息进行抄袭、改写和编造，生成大量关于新能源汽车起火、企业经营困境等耸人听闻的虚假文章。他们通过非法获取的约4000个网络账号，在凌晨平台监管较弱时段批量发布，累计发布不实文章70余万篇次，非法获利8万余元。因涉嫌非法经营罪，两人已被警方采取刑事强制措施。

这些案件暴露了利用AI技术造谣的成本之低与危害之大。 警方指出，一些网络平台已成为谣言传播与变现的主要渠道，其奖励机制在缺乏有效审核的情况下，反而可能助长此类行为。目前，上海警方已要求相关平台关停账号、下架不实信息，并会同网信部门督促平台切实履行审核义务。