6 月 18 日，Google DeepMind 正式发布《AI Control Roadmap》，提出一套“纵深防御”（defense-in-depth）框架，用于管理内部部署的高级 AI 代理。该路线图承认对齐（alignment）可能永远无法完全解决，转而聚焦系统级安全措施，将不信任的 AI 代理视为潜在“内部威胁”。
路线图根据模型的检测规避能力和攻击执行能力，分级制定检测（D1-D4）和预防响应（R1-R3）措施，涵盖实时监控、访问控制和异常行为响应等多层防护。DeepMind 表示，这一框架不仅适用于自身，也可作为行业参考，尤其在代理能力持续提升的背景下。
与 Anthropic 等实验室近期因模型安全与政府监管反复博弈形成对比，DeepMind 选择以技术路线图形式公开系统安全思路，凸显大厂在“不可靠代理”风险上的务实转向。此举也呼应了 G7 峰会期间 Dario Amodei 与 Demis Hassabis 呼吁美国主导 AI 联盟的信号，安全治理正从模型层面向基础设施层面延伸。
下一步值得关注的是，该路线图是否会被其他前沿实验室采纳，或转化为实际监管框架。AI 代理从实验室走向大规模部署，系统级控制或将成为下一阶段核心门槛。
信源：https://deepmind.google/blog/securing-the-future-of-ai-agents/