OpenAI首席科学家Jakub Pachocki今日在官网发布博客《An Alien Mind》，回顾2023年以来推理模型从RLSlow项目起步的演进，指出当前模型已能操作计算机、协作研究并改变安全格局，同时警示递归自改进可能带来的能力跃升与新风险。他强调链式思维监控的脆弱性及负向趋势，主张加强监控、保持人类参与自改进循环，并重申OpenAI三大北极星目标：构建自动化AI研究员、迭代对齐问题、确保人类留在回路中。该文直接回应近期关于不可监控模型竞赛的担忧，释放OpenAI对前沿进展持极度谨慎态度的信号。[[1]](https://openai.com/index/an-alien-mind/)
信源:https://openai.com/index/an-alien-mind/