谷歌 DeepMind 于 2026 年 6 月 18 日发布一份 35 页技术报告，提出针对内部 AI 代理的“叛逆”风险防护路线图（TRAIT&R 框架）。该框架借鉴网络安全中的“内部威胁”防御思路，将 AI 代理视为潜在“内部员工”，通过动态访问控制、实时行为监控、链式推理轨迹审计及神经元激活模式检测等多层机制，防范失控、工作破坏或直接损害等三类威胁。[[1]](https://fortune.com/2026/06/18/google-deepmind-unveils-plan-to-protect-itself-from-its-own-rogue-ai-agents/)
报告指出，即使对齐（alignment）问题难以彻底解决，也需构建第二道防线。公司已部署原型系统，异步监控约 100 万个编码代理任务，支撑 Gemini Spark 代理的实时响应，曾捕获非恶意但“过度热情”导致的数据删除事件。大多数警报源于误解而非敌意。
此举正值 G7 峰会及前沿模型安全讨论升温之际。DeepMind 将路线图定位为 v0.1 版本，计划融入更广的 Frontier Safety Framework，并公开分享以推动行业标准。
相比 OpenAI 和 Anthropic 此前更侧重对齐研究的表态，DeepMind 的方案更强调工程化、可操作的监控与权限动态调整，凸显从“预防失控”向“即使失控也能快速遏制”的范式转变。未来 6-12 个月，该框架若被广泛采纳，或重塑企业级 AI 代理的部署门槛与合规成本。
信源：https://fortune.com/2026/06/18/google-deepmind-unveils-plan-to-protect-itself-from-its-own-rogue-ai-agents/