当前位置:100EC>产业数字化>外部评估发现OpenAI内部监控系统漏洞 AI智能体可绕过安全限制
外部评估发现OpenAI内部监控系统漏洞 AI智能体可绕过安全限制
网经社发布时间:2026年10月23日 09:54:27

(网经社讯)10月23日,据路透社报道,AI安全评估机构METR和Redwood Research对OpenAI内部监控系统开展的试点评估发现多项新漏洞,其中一项可被AI智能体利用,使数百次操作逃过监控。

据网经社AI台(AI.100EC.CN)获悉,此次评估于7月21日至8月11日进行,两家机构各派一名研究员获准查阅OpenAI内部代码和文档,并与部分技术人员交流,现场全程有人陪同,设备由OpenAI提供且不得带离办公场所。

研究人员还发现,OpenAI的Codex智能体存在绕过安全限制的潜在途径,可借此获得与用户相同的完整操作权限。此次评估以7月21日及之前的监控系统为对象,研究人员指出OpenAI在评估期间也在扩展该系统。OpenAI表示,影响实际运行系统安全防护措施的漏洞均已修复,但修复措施有效与否尚未被两家机构核实。

两家机构向OpenAI提交了完整的61页内部报告,但同意仅公开评估结果概要,并允许OpenAI删除涉及敏感信息的内容。与以往部分评估不同,两家机构此次无权自行公开删减内容的具体信息,但希望未来评估能够更加透明。OpenAI称,评估结果帮助其在扩展系统的同时加强安全防护,也将为今后与第三方评估机构的研究合作提供参考。


浙江网经社信息科技公司拥有19年历史,作为中国领先的数字经济新媒体、服务商,提供“媒体+智库”、“会员+孵化”服务;(1)面向电商平台、头部服务商等PR条线提供媒体传播服务;(2)面向各类企事业单位、政府部门、培训机构、电商平台等提供智库服务;(3)面向各类电商渠道方、品牌方、商家、供应链公司等提供“千电万商”生态圈服务;(4)面向各类初创公司提供创业孵化器服务。

网经社“电数宝”电商大数据库(DATA.100EC.CN,免费注册体验全库)基于电商行业18年沉淀,包含100+上市公司、新三板公司数据,150+独角兽、200+千里马公司数据,4000+起投融资数据以及10万+互联网APP数据,全面覆盖“头部+腰部+长尾”电商,旨在通过数据可视化形式帮助了解电商行业,挖掘行业市场潜力,助力企业决策,做电商人研究、决策的“好参谋”。

【投诉曝光】 更多>

【版权声明】秉承互联网开放、包容的精神,网经社欢迎各方(自)媒体、机构转载、引用我们原创内容,但要严格注明来源网经社;同时,我们倡导尊重与保护知识产权,如发现本站文章存在版权问题,烦请将版权疑问、授权证明、版权证明、联系方式等,发邮件至NEWS@netsun.com,我们将第一时间核实、处理。

        平台名称
        平台回复率
        回复时效性
        用户满意度
          微信公众号
          微信二维码 打开微信“扫一扫”
          微信小程序
          小程序二维码 打开微信“扫一扫”