張一鳴:寧願大模型暫時落後,也不走蒸餾捷徑
BiRun 訊,字節跳動創始人張一鳴上月在 Seed 團隊全員會上明確表示,公司不會把蒸餾噹作追趕大模型的捷徑,卽使因此暫時落後於國內對手。他要求團隊願意犧牲短期收益,換取長期目標。
蒸餾是讓新模型學習更強模型的輸出,可以節省訓練時間和算力。字節內部認為,不走這條路,會讓 Seed 的語言模型短期內更難追上 DeepSeek、Kimi 和韆問等國內衕行。
但字節更擔心的是政治風險。公司此前長期因 TikTok 遭到美國政府審査。雖然 TikTok 美國數據安全業務已經引入美國資本,字節仍保留股份,並繼續經營 TikTok 的全球商業業務。一旦被指控大規模提取美國前沿模型的能力,華盛頓可能重新向 TikTok 施壓。
Anthropic 此前曾指控 DeepSeek、月之闇面、MiniMax、智譜和阿裡巴巴大規模提取 Claude 的能力,但沒有點名字節。
(據 The Information 報道)
蒸餾是讓新模型學習更強模型的輸出,可以節省訓練時間和算力。字節內部認為,不走這條路,會讓 Seed 的語言模型短期內更難追上 DeepSeek、Kimi 和韆問等國內衕行。
但字節更擔心的是政治風險。公司此前長期因 TikTok 遭到美國政府審査。雖然 TikTok 美國數據安全業務已經引入美國資本,字節仍保留股份,並繼續經營 TikTok 的全球商業業務。一旦被指控大規模提取美國前沿模型的能力,華盛頓可能重新向 TikTok 施壓。
Anthropic 此前曾指控 DeepSeek、月之闇面、MiniMax、智譜和阿裡巴巴大規模提取 Claude 的能力,但沒有點名字節。
(據 The Information 報道)
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊