微信公佈WeLM雙模型:80B已驅動小微,617B版本還在開發
BiRun 訊,微信團隊公佈自研 WeLM 大模型的兩檔配置。WeLM-80B 總參數 800 億,每次只激活 30 億參數,目前已經部署到微信原生 AI Agent「小微」,負責聊天蒐索、調用微信原生功能和小程序服務。
更大的 WeLM-617B 還在開發,總參數達到 6170 億,每次激活 230 億,採用 MoE 架構。微信稱,它將強化通用理解和推理能力,主要面向更復雜的微信生態任務,包括智能開發小程序和為小微生成工具。
騰訊今天也在 Q2 財報裡提到,小微正在微信內小範圍灰度測試,由針對用戶隱俬、微信場景和推理效率定製的 WeLM 驅動。
WeLM-80B 和 617B 此前已經出現在微信團隊 7 月的 Hidden Decoding 論文中。這次進一步明確了兩款模型的產品定位:80B 已經實際服務小微,617B 則瞄準更復雜的 Agent 和工具調用任務。
WeChat
更大的 WeLM-617B 還在開發,總參數達到 6170 億,每次激活 230 億,採用 MoE 架構。微信稱,它將強化通用理解和推理能力,主要面向更復雜的微信生態任務,包括智能開發小程序和為小微生成工具。
騰訊今天也在 Q2 財報裡提到,小微正在微信內小範圍灰度測試,由針對用戶隱俬、微信場景和推理效率定製的 WeLM 驅動。
WeLM-80B 和 617B 此前已經出現在微信團隊 7 月的 Hidden Decoding 論文中。這次進一步明確了兩款模型的產品定位:80B 已經實際服務小微,617B 則瞄準更復雜的 Agent 和工具調用任務。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊