頭部大模型算力分配:訓練大於推理,資源轉向後訓練

SemiAnalysis 指出,前沿大模型實驗室的算力分配呈現出和行業整體趨勢明顯分化的特徵:其總算力中訓練端佔比仍維持 60% 以上,推理僅佔 30% 出頭,並未隨模型上綫而把資源大規模傾斜到對外服務的推理業務;與此衕時,訓練內部的算力結構也發生明顯遷移,資源投入重心正從傳統基座預訓練,逐步轉向後訓練與強化學習環節。
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊