Anthropic宣布保留思考等新措施减少蒸馏攻击数据采集90%至99%

Anthropic在Fable 5.1和Opus 5.5中引入保留思考等新措施,已将通过蒸馏攻击进行的数据采集减少约90%至99%。这些方法针对利用欺诈账户网络的隐蔽工业规模蒸馏攻击。早期证据显示,蒸馏者采集的数据量下降90%至99%。此类攻击使海外实验室能以较低成本复制前沿能力,但可能导致保障措施不足和国家安全风险。Anthropic在文中点名智谱:其开发GLM-5.3期间蒸馏了美国领先模型的网络安全能力,曾尝试蒸馏Claude Fable 5,受阻后转向更早的Claude模型和另一家实验室的模型。

信源:https://www.anthropic.com/research/distillation-defenses

📤 分享这篇文章

𝕏 X 分享in LinkedIn

点击”分享微信好友”→ 长按图片发到微信