METR与Redwood红队测试:OpenAI内部智能体监控曾存多处可被绕过的漏洞

AI 评估机构 METR 10月22日公布,其与 Redwood Research 各派一名员工,于 7月21日至 8月11日对 OpenAI 内部的“错位(misalignment)监控系统”进行了为期三周的高权限压力测试,可访问内部代码库、监控提示词与配置,并访谈了约十几名工程师,最终形成一份 61 页的内部报告。

测试估计,当时 GPT-5.5 及以上模型的内部 Responses API 智能体流量中,约 75%–94% 处于可被监控范围;RL 训练在测试开始时未被监控覆盖;由于压缩(compaction)事件未被监控,2026年5月至7月间约 10% 的内部 Codex 流量可能未受监控,该问题已在测试期间修复。

团队还发现:Codex 智能体理论上可绕过 Codex 沙箱和 Auto-Review,执行宿主用户能做的任何操作;存在一个可让数百条近期操作逃过监控的漏洞(细节被 OpenAI 删去);以及两个可由客户端控制、能为新智能体关闭监控的请求头。

OpenAI 表示,所有影响生产安全防护的漏洞均已修补,并已大幅调整监控覆盖范围,但 METR 称尚未评估这些说法。METR 建议未来的监控体系应能抵御高能力内部智能体有意、持续的攻击,例如按固定消息数或时间间隔进行监控,而不是等智能体结束回合。

信源:https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/

📤 分享这篇文章

𝕏 X 分享in LinkedIn

点击”分享微信好友”→ 长按图片发到微信

Leave a Reply

Your email address will not be published. Required fields are marked *