inclusionAI、ポリシー適応型マルチモーダル安全ガードレールモデルファミリーSingGuard-8bを発表
原題:inclusionAI/SingGuard-8b
AI 要約
inclusionAIは、ポリシー適応型(policy-adaptive)のマルチモーダルLLM安全ガードレールモデルファミリーであるSingGuard-8bを発表した。テキスト、画像、画像付きテキスト、多言語、クエリ側、応答側の安全評価をサポートする。SingGuardは有効な安全ポリシーを実行時入力として扱い、デプロイチームはモデルを再トレーニングすることなく、デフォルトまたはカスタムの自然言語ルールに基づいて審査できる。モデルは動的推論フローを採用し、まず高速にルーティングして初期の安全シグナルを出力し、必要に応じてより精密な判断の生成を継続する。6大ベンチマークカテゴリで、SingGuardは平均SOTA性能を達成し、実行時ポリシーへの高い適応性を示した。モデルは標準的なTransformersとvLLMのチャット形式入力に対応する。
要点
- inclusionAIは、ポリシー適応型(policy-adaptive)のマルチモーダルLLM安全ガードレールモデルファミリーであるSingGuard-8bを発表した。
- テキスト、画像、画像付きテキスト、多言語、クエリ側、応答側の安全評価をサポートする。
- SingGuardは有効な安全ポリシーを実行時入力として扱い、デプロイチームはモデルを再トレーニングすることなく、デフォルトまたはカスタムの自然言語ルールに基づいて審査できる。
- モデルは動的推論フローを採用し、まず高速にルーティングして初期の安全シグナルを出力し、必要に応じてより精密な判断の生成を継続する。
- 6大ベンチマークカテゴリで、SingGuardは平均SOTA性能を達成し、実行時ポリシーへの高い適応性を示した。
概要
- 公開日時
- 更新日時
- カテゴリ
- モデル公開
- AI スコア
- 74
蚂蚁集团开源的这个多模态安全防护模型把安全策略变成运行时参数,不用重训就能适配新规则,做内容审核的团队可以直接套用,降低定制成本。
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:inclusionAI、ポリシー適応型マルチモーダル安全ガードレールモデルファミリーSingGuard-8bを発表。2026年5月25日。https://new.nat6.net/ja/news/cmref8c5000eiihgvwu37luc9/