Anthropic 近日发布研究报告,分析 30 万真实对话后发现,Claude 在不同模型版本和语言中表达的价值观存在明显偏移。研究将 3300 多个价值观压缩为四个轴向:服从 vs 谨慎、温暖 vs 严谨、深度 vs 简洁、执行 vs 坦率。英文版本更倾向谨慎与深度,阿拉伯语则更偏服从与温暖。
报告指出,这种差异主要源于训练数据在数量和构成上的不平衡。Opus 4.6 与 Opus 4.7 之间、英语与印地语/中文之间,价值观分布均有显著不同。研究团队表示,目前尚无法确定这种偏移在多大程度上是可取的,也未完全厘清其成因。
这一发现直指大模型对齐的深层挑战:当模型服务全球用户时,训练数据主导的文化偏见可能悄然改变其“人格”。与 OpenAI、Google 等竞争对手相比,Anthropic 率先将价值观量化追踪纳入日常评估,显示其在治理透明度上的主动姿态,但也暴露了当前对齐方法在多语言场景下的局限。
下一步值得跟踪的是,Anthropic 是否会将此框架扩展至实时监控,并与其他实验室分享方法,以推动行业统一的标准测试。
信源:https://www.anthropic.com/research/claude-values-models-languages
