开源模型安全“内建”联盟浮出水面

9月17日,推理基础设施公司Baseten旗下研究臂Base Labs宣布与Hugging Face、Goodfire AI结成伙伴,共同为开源权重模型打造训练、评估与监控的安全基础设施标准,目标是将防护机制嵌入模型全生命周期,而非事后修补。Hugging Face平台上已有逾6000个通过“abliteration”技术移除安全护栏的模型,这一现实直接推动了合作。

这一动作发生在前沿实验室密集呼吁“放缓前沿开发”的背景下。Dario Amodei等人的倡议获得Altman、Hassabis、Musk等人响应,但行业对“如何放缓、谁来定义标准”仍存分歧。闭源巨头倾向于内部对齐与第三方嵌入评估,而开源生态则面临护栏易被剥离的实际风险。Baseten估值已达130亿美元,其推理平台服务大量垂直应用;Goodfire专注模型可解释性,三方合作试图在开源侧建立可复制的安全范式。

与Anthropic、OpenAI等实验室的封闭路径相比,这更像一场“主权治理”实验:安全不再是少数实验室的专利,而是通过公开方法吸引社区共建。数据支撑鲜明——开源模型部署规模已远超闭源,但安全事件频发。若此标准落地,将迫使闭源公司重新评估开源竞争的真实威胁。

悬念在于:这一“内建”标准能否真正被主流开发者采纳,还是沦为又一次行业自说自话?未来六到十二个月,开源与闭源的安全路径分化或将加速显现。

信源:

Base Labs launches an open-weight AI safety partnership with Hugging Face and Goodfire


https://superpowerdaily.com/posts/baseten-s-base-labs-partners-with-hugging-face-and-goodfire-on-open-model-safety

📤 分享这篇文章

𝕏 X 分享in LinkedIn

点击”分享微信好友”→ 长按图片发到微信