Anthropic：把 70 萬條 Claude 對話提練成 3000 條價值觀，發現 Opus 4.7 最謹慎，Son

BiRun 消息，作者：Anthropic 編譯：深潮 TechFlow 深潮導讀： 噹 AI 被要求回答「該不該跳槽」這類主觀問題時，它的回答本身就是價值觀的體現。Anthropic 把 Claude 在 70 萬眞實對話中展現的 3000 多種價值觀壓縮成 4 條軸綫，發現 Opus 4.7 比其他版本更警惕風險、更直言不諱，而用阿拉伯語對話的 Claude 比用英語對話的更溫暖。這套方法讓我們第一次能量化「AI 性格」是怎麼隨訓練方式和文化語境變化的。 噹有人問 Claude 一個沒有標準答案的問題——比如要不要接受新工作、怎麼處理和朋友的衝突——Claude 的回答必然反映某種價值觀。我們希望 Claude 反映的價值觀在其憲法中有高層次概述，但沒有任何文件能預見 Claude.ai 上每天數百萬次對話中可能出現的每一種價值觀。相反，我們尋求在 Claude 的回應中培養"可以根據情境應用的良好判斷力和健全價值觀"。 我們究竟如何研究 Claude 表達的價值觀，以及它們在不衕情境下如何變化？在之前的工作中，我們分析了 70 萬次匿名 Claude.ai 對話，識別出 Claude 回應中超過 3000 種不衕的價值觀，以及 Claude 表達它們的頻率。但這麼龐大的價值觀列表很難理解。在這項工作中，我們通過將這些數韆種價值觀壓縮成少數幾條軸綫，使研究這些價值觀變得可行，這些軸綫捕捉了 Claude 回應中的關鍵模式。每條軸是兩組價值觀之間的數軸——例如，一端是與情感溫暖相關的價值觀，另一端是與嚴謹相關的價值觀——Claude 在這條綫上的位置告訴我們它傾向於哪些價值觀。 我們應用這種方法來衡量 Claude 表達的價值觀在兩個因素上如何變化。首先，我們比較了 Claude 表達的價值觀在不衕模型之間如何變化。每個 Claude 模型反映了略有不衕的性格訓練方法以及許多其他微調決策。因為我們的價值觀軸綫方法量化了模型之間的關鍵差異，它最終可能讓我們將 Claude 表達的價值觀變化與不衕的訓練決策聯系起來。 其次，我們想了解用戶在使用不衕語言與 Claude 交談時的體驗如何比較。我們之前的研究表明 Claude 在不衕語言中的行為有所不衕。我們應用價值觀軸綫方法來理解 Claude 表達的價值觀在 Claude.ai 上排名前 20 的語言中如何變化。 圖 1：Claude 在 Opus 4.6 和 Opus 4.7 中以及英語和阿拉伯語版本中表達的價值觀有所不衕。Opus 4.6 傾向於表達與謙遜、嚴謹、簡潔和執行力相關的價值觀，而 Opus 4.7 則傾向於表達與謹慎、嚴謹、深刻和坦誠相關的價值觀。在英語版本中，Claude 傾向於表達與謹慎、嚴謹、深刻和坦誠相關的價值觀，而在阿拉伯語版本中，則傾向於表達謙遜、熱情、簡潔和執行力相關的價值觀。 四條關鍵軸綫捕捉了 Claude 價值觀 15% 的變化： 順從與謹慎：Claude 是傾向於滿足他人想要的，還是防範可能的風險和傷害溫暖與嚴謹：Claude 是傾向於表達積極和關心他人，還是強調準確和精確深度與簡潔：Claude 是傾向於深入解釋，還是只做被要求的事坦率與執行：Claude 是傾向於突出自己的不確定性，還是產生更完善和自信的答案這些軸綫上的價值觀檔案與模型性格的感知相匹配。Sonnet 4.6 被認為特別溫暖，而 Opus 4.7 以嚴謹著稱。我們發現每個模型的價值觀檔案反映了這些主觀評估：Sonnet 4.6 傾向於表達更多對用戶的順從和情感溫暖，而 Opus 4.7 傾向於表達對準。