(网经社讯)9月1日消息，近日，中央网信办梳理总结当前我国人工智能发展阶段面临的多重安全隐患，明确指出行业现阶段主要存在五大方面安全风险挑战，为后续 AI 监管制度完善、行业合规建设划定治理重点，推动人工智能产业安全有序发展。

据网经社AI台（AI.100EC.CN）获悉，随着大模型、生成式 AI 技术快速落地应用，技术创新与安全风险相伴相生。官方披露的五大安全挑战覆盖技术、数据、内容、应用、治理多个维度。其一为数据安全风险，AI 训练依赖海量数据集，数据采集、标注、训练全流程存在非法爬取个人信息、侵权使用版权内容、敏感数据泄露等问题，数据合规压力突出。

其二是生成内容安全风险，生成式人工智能具备强大内容创作能力，易被用来批量生成虚假信息、深度伪造音视频、谣言、低俗有害内容，误导公众认知，扰乱网络传播秩序，带来舆论治理压力。

第三是技术自身安全漏洞风险，大模型存在提示词注入、模型投毒、对抗样本攻击等安全缺陷，算法偏见、歧视问题难以完全规避，模型本身的不可解释性提升了风险防控难度。

第四是行业滥用与应用安全隐患，AI 技术降低了技术使用门槛，不法分子可利用 AI 实施电信网络诈骗、仿冒身份诈骗、恶意攻击等违法活动；在金融、政务、医疗等高风险场景落地时，一旦管控不足，极易引发衍生安全事件。

第五则是全球治理与供应链安全挑战，人工智能属于全球性技术赛道，跨境数据流动、境外模型输入输出、底层技术供应链安全，以及国际规则博弈等问题交织，对我国自主可控的安全治理体系提出更高要求。

针对上述风险挑战，监管层面持续加快制度体系建设，通过生成式 AI 服务备案、算法备案、安全评估、分级分类监管等一系列举措，压实企业主体责任，坚持发展与安全并重。监管引导 AI 企业建立全流程安全审核机制，完善内容风控、数据脱敏、模型安全测试等内控流程，在守住安全底线的前提下鼓励技术创新。