Ant inclusionAI、SingGuardマルチモーダル安全ガードレールモデルファミリーをオープンソース化
原題:inclusionAI/SingGuard
AI 要約
Ant GroupのinclusionAIはSingGuardマルチモーダル安全ガードレールモデルファミリーをオープンソース化した。2B、4B、8Bの3バージョンを含む。SingGuardは安全ポリシーをトレーニング時に固定された分類ではなく実行時入力として扱い、デプロイチームは再トレーニングなしでデフォルト分類またはカスタム自然言語ルールに従ってコンテンツを評価できる。モデルはテキスト、画像、画像付きテキスト、多言語、クエリ側、応答側の安全審査をサポートし、「ファスト-スロー」動的推論メカニズムを採用する。SingGuardはマルチモーダル安全、画像安全、テキストクエリ安全、テキスト応答安全、多言語クエリ安全、多言語応答安全のベンチマークで平均SOTA性能を達成した。モデルはQwen3-VLアーキテクチャに基づき、TransformersとvLLMによるデプロイをサポートする。
要点
- Ant GroupのinclusionAIはSingGuardマルチモーダル安全ガードレールモデルファミリーをオープンソース化した。
- 2B、4B、8Bの3バージョンを含む。
- SingGuardは安全ポリシーをトレーニング時に固定された分類ではなく実行時入力として扱い、デプロイチームは再トレーニングなしでデフォルト分類またはカスタム自然言語ルールに従ってコンテンツを評価で…
- モデルはテキスト、画像、画像付きテキスト、多言語、クエリ側、応答側の安全審査をサポートし、「ファスト-スロー」動的推論メカニズムを採用する。
- SingGuardはマルチモーダル安全、画像安全、テキストクエリ安全、テキスト応答安全、多言語クエリ安全、多言語応答安全のベンチマークで平均SOTA性能を達成した。
概要
- 公開日時
- 更新日時
- カテゴリ
- モデル公開
- AI スコア
- 63
安全护栏模型大多是死规则,SingGuard 允许运行时动态注入策略,这对需要频繁调整审核规则的内容团队是个实用突破。蚂蚁开源了全系列模型与基准,部署门槛低,可以直接上手。
出典と著作権
本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。
引用方法
本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。
Orange News:Ant inclusionAI、SingGuardマルチモーダル安全ガードレールモデルファミリーをオープンソース化。2026年5月25日。https://new.nat6.net/ja/news/cmreeomky004iihgv0f98pihf/