OpenAI已加强内部前沿模型训练与评估的遏制措施，并使用最强模型对边界进行红队测试。该公司与云提供商合作，在基础设施各层新增控制，减少智能体可利用的攻击面，并改进对齐行为检测与越界尝试的监控方法。针对7月Hugging Face事件及其他模型失调案例，OpenAI已实施前沿模型训练无互联网访问政策，并采用纵深防御策略以应对单个控制失效。
信源:https://openai.com/index/securing-our-frontier-model-training-environment
OpenAI已加强内部前沿模型训练与评估的遏制措施，并使用最强模型对边界进行红队测试。该公司与云提供商合作，在基础设施各层新增控制，减少智能体可利用的攻击面，并改进对齐行为检测与越界尝试的监控方法。针对7月Hugging Face事件及其他模型失调案例，OpenAI已实施前沿模型训练无互联网访问政策，并采用纵深防御策略以应对单个控制失效。
信源:https://openai.com/index/securing-our-frontier-model-training-environment