Mistral發布3B多模態審覈模型，改一句Prompt就能換規則

BiRun 訊，歐洲 AI 獨角獸 Mistral 推出內容審覈模型 Shieldstral。模型只有 30 億參數，可以檢査文字、圖片和圖文內容，也能判斷 AI 是否應該拒絕回答。

不少傳統審覈模型會預先設定色情、暴力、仇恨等類別。審覈標準變化後，通常需要補充數據，再訓練或微調模型。

Shieldstral 可以直接讀取自然語言規則。開發者改一下審覈要求，就能換一套標準，不必重新訓練模型。

模型支持中文等 12 種語言，採用 Apache 2.0 許可。官方稱，單張 16GB 顯存的英偉達顯卡卽可運行，文本審覈成績與參數量大約 7 倍的 GPT-OSS-Safeguard-20B 持平。

Mistral