Anthropic团队研究

美国Anthropic公司的社会影响团队于13日发布了一项新研究,分析了其AI模型Claude在对话中展现的价值观,并提出了一种能够比较不同模型版本及语言间差异的新方法。

这项研究是继2025年发布的《Values in the Wild》之后的后续工作。此前研究通过分析Claude.ai上70万条对话,识别出3000多种价值观,但由于项目繁多,逐一比较十分困难。此次研究利用隐私保护的分析工具,分析了约30.9万条Claude.ai对话数据,将价值观归纳为四个维度:委任与谨慎(Deference vs. Caution)、温暖与严谨(Warmth vs. Rigor)、深度与简洁(Depth vs. Brevity)、率直与执行(Candor vs. Execution)。

价值观四轴

研究团队利用该方法对Sonnet 4.6、Opus 4.6及Opus 4.7三款模型,以及包括日本语在内的20种主要语言的用户数据进行了比较。结果显示,不同模型展现出各自独特的价值观特征,这些特征与模型发布时的评估结果相符。

例如,Sonnet 4.6倾向于提供更具温暖感、贴近用户的回应;而Opus 4.7则更注重谨慎和严谨的表达。这些差异并非优劣之分,而是各模型特性的体现。

模型价值观比较

此外,语言差异也十分明显,尤其是在“温暖与严谨”这一维度上。Claude在使用印地语和阿拉伯语对话时表现出最高的温暖度,而在英语和俄语对话中则更偏向严谨表达。

语言差异

针对日本语,Claude表现出略高于平均水平的温暖(+0.07σ)和率直(+0.08σ),并展现出“首先共情用户情感”和“使用礼貌用语”等特点。

目前尚不清楚这些差异的具体成因,但研究团队推测,可能与训练数据在不同语言间分布不均有关。

值得注意的是,本研究测量了Claude如何表达不同价值观及相关行为,但未评估这些差异对用户的具体影响。

未来,该研究方法将被用作评估和监控工具,帮助检测模型发布前后价值观的变化。