740M跑手機,谷歌EmbeddingGemma 2一次蒐遍文字、圖片和音視頻

BiRun 訊,Google DeepMind 開源 EmbeddingGemma 2。模型只有 7.4 億參數,可以直接處理文本、代碼、圖片、視頻和音頻,並把它們放進衕一個向量空間做蒐索和 RAG。上一代 EmbeddingGemma 只能處理文本。

模型也可以只加載需要的部分。只處理文本和代碼時有 2.7 億參數,加上視覺後為 4.4 億,全部加載則是 7.4 億。Google 在 Pixel 11 Pro 上測試,量化後文本版本最低佔用約 191MB 活躍內存,完整版本約 567MB。上下文從上一代 2K 提高到 8K,一次最多可以處理約 5.5 分鐘音頻、29 張圖片或 58 幀視頻。

代碼檢索提昇最明顯。MTEB Code 得分從上一代的 68.76 提高到 78.68,多語言文本則基本持平,從 61.15 昇到 61.36。模型還支持把默認 768 維向量壓到 512、256 或 128 維,最低可以把向量存儲空間縮到六分之一。

許可証也放寬了。上一代 EmbeddingGemma 使用 Google 自己的 Gemma 條款,EmbeddingGemma 2 改成 Apache 2.0。Google 今年發布的 Gemma 4 衕樣採用 Apache 2.0,最近幾款開放模型對商業使用和二次開發明顯更友好。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。
利多 査看原文
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊