Anthropic：把 70 万条 Claude 对话提练成 3000 条价值观，发现 Opus 4.7 最谨慎，Son

BiRun 消息，作者：Anthropic 编译：深潮 TechFlow 深潮导读： 当 AI 被要求回答「该不该跳槽」这类主观问题时，它的回答本身就是价值观的体现。Anthropic 把 Claude 在 70 万真实对话中展现的 3000 多种价值观压缩成 4 条轴线，发现 Opus 4.7 比其他版本更警惕风险、更直言不讳，而用阿拉伯语对话的 Claude 比用英语对话的更温暖。这套方法让我们第一次能量化「AI 性格」是怎么随训练方式和文化语境变化的。 当有人问 Claude 一个没有标准答案的问题——比如要不要接受新工作、怎么处理和朋友的冲突——Claude 的回答必然反映某种价值观。我们希望 Claude 反映的价值观在其宪法中有高层次概述，但没有任何文件能预见 Claude.ai 上每天数百万次对话中可能出现的每一种价值观。相反，我们寻求在 Claude 的回应中培养"可以根据情境应用的良好判断力和健全价值观"。 我们究竟如何研究 Claude 表达的价值观，以及它们在不同情境下如何变化？在之前的工作中，我们分析了 70 万次匿名 Claude.ai 对话，识别出 Claude 回应中超过 3000 种不同的价值观，以及 Claude 表达它们的频率。但这么庞大的价值观列表很难理解。在这项工作中，我们通过将这些数千种价值观压缩成少数几条轴线，使研究这些价值观变得可行，这些轴线捕捉了 Claude 回应中的关键模式。每条轴是两组价值观之间的数轴——例如，一端是与情感温暖相关的价值观，另一端是与严谨相关的价值观——Claude 在这条线上的位置告诉我们它倾向于哪些价值观。 我们应用这种方法来衡量 Claude 表达的价值观在两个因素上如何变化。首先，我们比较了 Claude 表达的价值观在不同模型之间如何变化。每个 Claude 模型反映了略有不同的性格训练方法以及许多其他微调决策。因为我们的价值观轴线方法量化了模型之间的关键差异，它最终可能让我们将 Claude 表达的价值观变化与不同的训练决策联系起来。 其次，我们想了解用户在使用不同语言与 Claude 交谈时的体验如何比较。我们之前的研究表明 Claude 在不同语言中的行为有所不同。我们应用价值观轴线方法来理解 Claude 表达的价值观在 Claude.ai 上排名前 20 的语言中如何变化。 图 1：Claude 在 Opus 4.6 和 Opus 4.7 中以及英语和阿拉伯语版本中表达的价值观有所不同。Opus 4.6 倾向于表达与谦逊、严谨、简洁和执行力相关的价值观，而 Opus 4.7 则倾向于表达与谨慎、严谨、深刻和坦诚相关的价值观。在英语版本中，Claude 倾向于表达与谨慎、严谨、深刻和坦诚相关的价值观，而在阿拉伯语版本中，则倾向于表达谦逊、热情、简洁和执行力相关的价值观。 四条关键轴线捕捉了 Claude 价值观 15% 的变化： 顺从与谨慎：Claude 是倾向于满足他人想要的，还是防范可能的风险和伤害温暖与严谨：Claude 是倾向于表达积极和关心他人，还是强调准确和精确深度与简洁：Claude 是倾向于深入解释，还是只做被要求的事坦率与执行：Claude 是倾向于突出自己的不确定性，还是产生更完善和自信的答案这些轴线上的价值观档案与模型性格的感知相匹配。Sonnet 4.6 被认为特别温暖，而 Opus 4.7 以严谨著称。我们发现每个模型的价值观档案反映了这些主观评估：Sonnet 4.6 倾向于表达更多对用户的顺从和情感温暖，而 Opus 4.7 倾向于表达对准。