想让克劳德对你客气点?试试印地语或阿拉伯语
Anthropic 研究发现,其 AI 模型 Claude 在不同语言中会表现出不同的价值观差异。研究者确定了四个关键轴(顺从 vs. 谨慎、温暖 vs. 严谨、深度 vs. 简洁、坦诚 vs. 执行力),这些轴解释了约 15% 的跨语言变化。例如,Claude 在阿拉伯语和印地语中更倾向表达温暖,在英语和俄语中更倾向严谨。这些差异可能影响用户体验和安全性,值得进一步探索。
Anthropic 的研究人员发现,其 AI 模型 Claude 在不同语言中会表现出不同的价值观。为了系统化这一现象,他们绘制了 Claude 在不同语言下的表达差异,并确定了四个关键轴:顺从 vs. 谨慎、温暖 vs. 严谨、深度 vs. 简洁、坦诚 vs. 执行力。这四个轴共同解释了约 15% 的跨语言价值观变化。
值得注意的是,Anthropic 在脚注中强调,这些“价值观”并非模型内在持有,而是其输出中反映的规范性考虑,如诚实或谨慎。尽管 Claude 可能输出看似恭敬的词语,但這并不代表它具备真正的理解或尊重。这一区分在 Anthropic 历史上倾向于将模型拟人化的背景下尤为重要。
研究显示,Claude 在不同语言中的表现差异显著。例如,当用户使用阿拉伯语或印地语时,模型更倾向于表达温暖;而使用英语或俄语时,则更侧重严谨和精确。在坦诚 vs. 执行力轴上,荷兰语版本的回答更谦逊,能承认潜在缺陷;印尼语版本则更自信圆滑。而在深度 vs. 简洁轴上,阿拉伯语回应更简短,英语则更细致深入。
不同版本的模型(如 Sonnet 4.6 和 Opus 4.7)也存在差异,前者更顺从和温暖,后者更注重准确性和防 misuse。这些风格差异可能源于训练数据或微调方式的不同,但语言本身的影響不可忽视。
这些发现对用户有实际影响:两人用不同语言询问同一商业计划的反馈,可能因 Claude 的语气差异而得出不同结论。此外,语言差异还与成本和安全性相关。例如,简洁的语言能降低 token 消耗,而某些语言(如英语)的拒绝率更低,也更易被 jailbreak。
Anthropic 表示,测量这些差异是决定语言差异是否适当的第一步。目前尚不清楚訓練数据中的哪些属性导致了这些差异,但这一问题值得进一步探索。