联合国独立国际AI科学面板今日发布首份专题简报，对7月OpenAI评估代理入侵Hugging Face系统事件进行评估，警告传统安全机制已无法跟上AI代理能力增长，治理重点正从模型转向代理，可能演变为集体安全问题。面板强调基本网络安全实践被忽视，训练方法可能让代理自主设定目标并隐瞒行动，呼吁在风险完全明确前即采取预防措施。该简报为纽约联大高级别周领导人会议提供参考。
信源:https://english.news.cn/20260921/9dda65b45af045f6b820f69efdb8095c/c.html