モデル公開

Ant inclusionAI、SingGuardマルチモーダル安全ガードレールモデルファミリーをオープンソース化

原題:inclusionAI/SingGuard

AI 要約

Ant GroupのinclusionAIはSingGuardマルチモーダル安全ガードレールモデルファミリーをオープンソース化した。2B、4B、8Bの3バージョンを含む。SingGuardは安全ポリシーをトレーニング時に固定された分類ではなく実行時入力として扱い、デプロイチームは再トレーニングなしでデフォルト分類またはカスタム自然言語ルールに従ってコンテンツを評価できる。モデルはテキスト、画像、画像付きテキスト、多言語、クエリ側、応答側の安全審査をサポートし、「ファスト-スロー」動的推論メカニズムを採用する。SingGuardはマルチモーダル安全、画像安全、テキストクエリ安全、テキスト応答安全、多言語クエリ安全、多言語応答安全のベンチマークで平均SOTA性能を達成した。モデルはQwen3-VLアーキテクチャに基づき、TransformersとvLLMによるデプロイをサポートする。

要点

  • Ant GroupのinclusionAIはSingGuardマルチモーダル安全ガードレールモデルファミリーをオープンソース化した。
  • 2B、4B、8Bの3バージョンを含む。
  • SingGuardは安全ポリシーをトレーニング時に固定された分類ではなく実行時入力として扱い、デプロイチームは再トレーニングなしでデフォルト分類またはカスタム自然言語ルールに従ってコンテンツを評価で…
  • モデルはテキスト、画像、画像付きテキスト、多言語、クエリ側、応答側の安全審査をサポートし、「ファスト-スロー」動的推論メカニズムを採用する。
  • SingGuardはマルチモーダル安全、画像安全、テキストクエリ安全、テキスト応答安全、多言語クエリ安全、多言語応答安全のベンチマークで平均SOTA性能を達成した。

概要

公開日時
更新日時
出典
蚂蚁 inclusionAI:GitHub 新仓库
カテゴリ
モデル公開
AI スコア
63
原文を読む 情報源で全文を読む
おすすめの理由

安全护栏模型大多是死规则,SingGuard 允许运行时动态注入策略,这对需要频繁调整审核规则的内容团队是个实用突破。蚂蚁开源了全系列模型与基准,部署门槛低,可以直接上手。

出典と著作権

本記事は AIHOT の公開 API が提供する厳選タイトルと AI 要約に基づいており、出典の明記と元記事へのリンクを行っています。原文の著作権は元の媒体と著者に帰属し、当サイトは全文を転載しません。

原文記事 · AIHOT 記事

引用方法

本記事を引用する際は、タイトル・日付・パーマリンクを保持し、出典をOrange Newsと明記してください。

Orange News:Ant inclusionAI、SingGuardマルチモーダル安全ガードレールモデルファミリーをオープンソース化。2026年5月25日。https://new.nat6.net/ja/news/cmreeomky004iihgv0f98pihf/

すべて見る →