モデル公開

SingGuard:ポリシー適応型マルチモーダルガードレールモデルファミリーをオープンソース化

原題:inclusionAI/Sing-Guard-4b

AI 要約

SingGuardはポリシー適応型のマルチモーダルガードレールモデルファミリーで、Sing-Guard-4bとSing-Guard-8bの2つのバージョンを含む。安全ポリシーを固定分類ではなく実行時入力として扱い、デプロイチームはモデルを再トレーニングせずに自然言語ルールをカスタマイズできる。テキスト、画像、画像とテキスト、多言語、およびクエリ側と応答側の安全評価をサポートし、高速モードとfast-slow結合モードの2つの推論モードを提供する。マルチモーダル安全、純粋な画像安全、テキストクエリ/応答安全、多言語クエリ/応答安全の6大カテゴリのベンチマークで平均SOTA性能を達成した。モデルはHuggingFaceとModelScopeでオープンソース化されている。

要点

  • SingGuardはポリシー適応型のマルチモーダルガードレールモデルファミリーで、Sing-Guard-4bとSing-Guard-8bの2つのバージョンを含む。
  • 安全ポリシーを固定分類ではなく実行時入力として扱い、デプロイチームはモデルを再トレーニングせずに自然言語ルールをカスタマイズできる。
  • テキスト、画像、画像とテキスト、多言語、およびクエリ側と応答側の安全評価をサポートし、高速モードとfast-slow結合モードの2つの推論モードを提供する。
  • マルチモーダル安全、純粋な画像安全、テキストクエリ/応答安全、多言語クエリ/応答安全の6大カテゴリのベンチマークで平均SOTA性能を達成した。
  • モデルはHuggingFaceとModelScopeでオープンソース化されている

概要

公開日時
更新日時
出典
蚂蚁 inclusionAI:HuggingFace 新模型
カテゴリ
モデル公開
AI スコア
71
原文を読む 情報源で全文を読む
おすすめの理由

蚂蚁的 SingGuard 把安全策略变成了运行时输入,意味着审核规则可以随时改而不必重训模型,这对做内容安全的产品人是真省事,值得跟进。

関連エンティティ

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:SingGuard:ポリシー適応型マルチモーダルガードレールモデルファミリーをオープンソース化。2026年5月25日。https://new.nat6.net/ja/news/cmqojr29l01q2slx6fqo5f638/

すべて見る →