1367 名来自 OpenAI、Anthropic 和 Google DeepMind 等前沿实验室的研究人员与工程师近日签署公开信,警告 AI 能力发展可能迅速超出人类理解与控制范围。他们要求美国政府牵头,推动国际合作,建立技术与治理工具,以“刻意放缓”自动化 AI 开发的前沿。信中直言:“存在真实风险,即能力开发快速加速,超出我们理解或控制所产生系统的能力。”
信件发布于 8 月 11 日,由 Stuart Russell 在《卫报》专栏披露。签署者包括多名 CEO、联合创始人及首席科学家,近百人附上个人陈述。核心关切有三:一是避免“悬崖边缘的军备竞赛”,达里奥·阿莫代伊与德米斯·哈萨比斯此前在达沃斯已表态,若他方同意可暂停开发;二是缺乏可信的超级智能控制方案,“AI 行业明确目标是构建比人类更聪明的系统……我们尚不知道如何确保其受控”;三是真实恐惧,“若无近期协商放缓,我看到的所有路径都让我害怕”。
此举与近期实验室加速部署形成鲜明对比。多家公司正通过自研芯片、代理产品和算力合同推进,而员工层面却集体发出刹车信号。信件特别提及递归自我改进(RSI)风险,呼应 Anthropic 6 月警告及 5 月 Recursive 会议讨论。
这一集体表态将安全议题从边缘推向主流,凸显内部共识与外部竞赛的张力。下一步值得跟踪的是美国政府是否回应协调呼吁,以及中国实验室是否加入类似对话。信源链接已公开,https://www.pacingthefrontier.com/。
信源:https://www.theguardian.com/commentisfree/2026/aug/11/openai-anthropic-google-deepmind-letter










