SingGuard:ポリシー適応型マルチモーダルガードレールモデルファミリーをオープンソース化
原題:inclusionAI/Sing-Guard-4b
AI 要約
SingGuardはポリシー適応型のマルチモーダルガードレールモデルファミリーで、Sing-Guard-4bとSing-Guard-8bの2つのバージョンを含む。安全ポリシーを固定分類ではなく実行時入力として扱い、デプロイチームはモデルを再トレーニングせずに自然言語ルールをカスタマイズできる。テキスト、画像、画像とテキスト、多言語、およびクエリ側と応答側の安全評価をサポートし、高速モードとfast-slow結合モードの2つの推論モードを提供する。マルチモーダル安全、純粋な画像安全、テキストクエリ/応答安全、多言語クエリ/応答安全の6大カテゴリのベンチマークで平均SOTA性能を達成した。モデルはHuggingFaceとModelScopeでオープンソース化されている。
要点
- SingGuardはポリシー適応型のマルチモーダルガードレールモデルファミリーで、Sing-Guard-4bとSing-Guard-8bの2つのバージョンを含む。
- 安全ポリシーを固定分類ではなく実行時入力として扱い、デプロイチームはモデルを再トレーニングせずに自然言語ルールをカスタマイズできる。
- テキスト、画像、画像とテキスト、多言語、およびクエリ側と応答側の安全評価をサポートし、高速モードとfast-slow結合モードの2つの推論モードを提供する。
- マルチモーダル安全、純粋な画像安全、テキストクエリ/応答安全、多言語クエリ/応答安全の6大カテゴリのベンチマークで平均SOTA性能を達成した。
- モデルはHuggingFaceとModelScopeでオープンソース化されている
概要
- 公開日時
- 更新日時
- カテゴリ
- モデル公開
- AI スコア
- 71
おすすめの理由
蚂蚁的 SingGuard 把安全策略变成了运行时输入,意味着审核规则可以随时改而不必重训模型,这对做内容安全的产品人是真省事,值得跟进。
関連エンティティ
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:SingGuard:ポリシー適応型マルチモーダルガードレールモデルファミリーをオープンソース化。2026年5月25日。https://new.nat6.net/ja/news/cmqojr29l01q2slx6fqo5f638/