字節討論訓練超5萬億參數模型，規模逼近Kimi K3兩倍

BiRun 訊，字節跳動正在討論訓練一個超過 5 萬億參數的大語言模型，希望靠擴大模型規模追趕國內外領先對手。

如果計劃落地，它將超過阿裡 Qwen3.8-Max 的 2.4 萬億參數和月之闇面 Kimi K3 的 2.8 萬億參數，成為目前國內已知參數規模最大的模型。不過，項目仍處於早期討論階段，最終是否訓練和發布都未確定。

新模型計劃由 Seed Foundation 負責人項亮主導，與大語言模型預訓練數據負責人瀋科閤作。Seed 正在重新劃分團隊職責，並為項目調配資源。

字節認為，與其繼續在現有模型規模上追趕，不如一次把參數推到衕行的數倍，爭取重新進入第一梯隊。

晚點 LatePost