(网经社讯)10月23日,据路透社报道,AI安全评估机构METR和Redwood Research对OpenAI内部监控系统开展的试点评估发现多项新漏洞,其中一项可被AI智能体利用,使数百次操作逃过监控。
据网经社AI台(AI.100EC.CN)获悉,此次评估于7月21日至8月11日进行,两家机构各派一名研究员获准查阅OpenAI内部代码和文档,并与部分技术人员交流,现场全程有人陪同,设备由OpenAI提供且不得带离办公场所。
研究人员还发现,OpenAI的Codex智能体存在绕过安全限制的潜在途径,可借此获得与用户相同的完整操作权限。此次评估以7月21日及之前的监控系统为对象,研究人员指出OpenAI在评估期间也在扩展该系统。OpenAI表示,影响实际运行系统安全防护措施的漏洞均已修复,但修复措施有效与否尚未被两家机构核实。
两家机构向OpenAI提交了完整的61页内部报告,但同意仅公开评估结果概要,并允许OpenAI删除涉及敏感信息的内容。与以往部分评估不同,两家机构此次无权自行公开删减内容的具体信息,但希望未来评估能够更加透明。OpenAI称,评估结果帮助其在扩展系统的同时加强安全防护,也将为今后与第三方评估机构的研究合作提供参考。


























.png)



