联合国数字技术机构推AI代理信任新计划

7月9日,联合国数字技术机构(ITU相关)宣布启动一项新倡议,旨在提升对自主AI代理的信任度。随着AI系统日益自主运行,责任归属和人类监督问题引发广泛关注。该计划将制定标准框架,重点解决代理决策透明度、审计机制及潜在风险管控。

这一动作发生在全球AI治理加速的背景下。近期多国已推出州级或区域AI法规,美国多州通过安全法案,而欧盟AI Act执法也在推进。新计划试图填补监管空白,通过行业自愿标准推动可信代理部署,尤其针对医疗、金融等高风险领域。

与此前联合国AI治理对话不同,此次聚焦“信任构建”而非泛泛治理。分析人士指出,这可能成为国际协调的起点,但实际效力取决于企业参与度。对比中美两国模式,中国强调模型访问限制,美国则侧重自愿标准与创新平衡。

下一步值得关注的是倡议的具体落地时间表及头部实验室响应。若多家前沿公司加入,AI代理商业化速度或将提速;反之,碎片化监管风险将上升。

信源:https://www.reuters.com/legal/litigation/un-digital-tech-agency-launches-initiative-improve-trust-ai-agents-2026-07-09/

📤 分享这篇文章

𝕏 X 分享in LinkedIn

点击”分享微信好友”→ 长按图片发到微信