華為30B端側MoE正式落地Mate XT 2
BiRun 訊,動察 Beating AI 快訊,華為正式把一款總參數 30B、激活參數 2B 的端側 MoE 大模型落地新一代三折疊手機 Mate XT 2。華為稱,這是「行業首個端側 MoE 全模態大模型」。模型運行在新發布的麒麟 9050 Pro 上,由達芬奇架構 NPU 提供端側算力。
這套 30B/2B 端側模型其實早在 6 月就已經預告。華為噹時稱,它針對麒麟芯片專門優化,並通過專家預測等技術降低內存佔用、提高推理吞吐,計劃鞦季進入麒麟芯片和手機。
這套 30B/2B 端側模型其實早在 6 月就已經預告。華為噹時稱,它針對麒麟芯片專門優化,並通過專家預測等技術降低內存佔用、提高推理吞吐,計劃鞦季進入麒麟芯片和手機。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊