模型自稱Claude不等於蒸餾,1000條回答就能讓Qwen認錯自己
BiRun 訊,研究者 Ziqian Zhong 讓 Claude、GPT-4o 等模型回答 1000 個普通問題,再刪掉其中所有模型名和公司名。他隨後用這些問答材料微調 Qwen、DeepSeek 等開源模型。
訓練後,部分模型開始認錯自己的身份。Qwen3.5-397B-A17B 原本只有 0.6% 的回答自稱 Claude。用 Claude 的回答訓練一輪後,這一比例昇至 40.3%。
Ziqian Zhong 的解釋是,這些模型在預訓練時看過大量 Claude 的對話和介紹,已經把某些表達習慣與「Claude」聯系起來。微調讓 Qwen 學會了這種說話方式,被問到身份時,也更容易回答自己是 Claude。
為驗証這一點,他用 GPT-4.1-mini 把 Claude 的回答改成粗糙的簡單句,回答內容基本不變,但語氣和排版不再像 Claude。再用這批材料微調後,3 個模型中有 2 個幾乎不再自稱 Claude,說明語言風格是身份轉移的主要原因。
類似現象此前已經有論文研究過。2025 年的《Subliminal Learning》發現,模型會從訓練數據中繼承另一個模型的偏好和行為。
因此,模型自稱 Claude,並不能直接証明它接受過 Claude 蒸餾。它也可能只是學會了 Claude 的表達方式,再把這種風格和「自己是誰」聯系到了一起。
Ziqian Zhong
訓練後,部分模型開始認錯自己的身份。Qwen3.5-397B-A17B 原本只有 0.6% 的回答自稱 Claude。用 Claude 的回答訓練一輪後,這一比例昇至 40.3%。
Ziqian Zhong 的解釋是,這些模型在預訓練時看過大量 Claude 的對話和介紹,已經把某些表達習慣與「Claude」聯系起來。微調讓 Qwen 學會了這種說話方式,被問到身份時,也更容易回答自己是 Claude。
為驗証這一點,他用 GPT-4.1-mini 把 Claude 的回答改成粗糙的簡單句,回答內容基本不變,但語氣和排版不再像 Claude。再用這批材料微調後,3 個模型中有 2 個幾乎不再自稱 Claude,說明語言風格是身份轉移的主要原因。
類似現象此前已經有論文研究過。2025 年的《Subliminal Learning》發現,模型會從訓練數據中繼承另一個模型的偏好和行為。
因此,模型自稱 Claude,並不能直接証明它接受過 Claude 蒸餾。它也可能只是學會了 Claude 的表達方式,再把這種風格和「自己是誰」聯系到了一起。
Ziqian Zhong
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊