SingGuard: 策略自适应多模态护栏模型族开源
原文标题:inclusionAI/Sing-Guard-4b
AI 摘要
SingGuard 是一个策略自适应的多模态护栏模型族,包含 Sing-Guard-4b 和 Sing-Guard-8b 两个版本。它将安全策略作为运行时输入而非固定分类,部署团队可自定义自然语言规则而无需重训练模型。支持文本、图像、图文、多语言以及查询端与响应端的安全评估,提供快速和快慢结合两种推理模式。在涵盖多模态安全、纯图像安全、文本查询/响应安全、多语言查询/响应安全六大类基准上取得平均 SOTA 表现。模型已开源至 HuggingFace 和 ModelScope。
关键信息
- SingGuard 是一个策略自适应的多模态护栏模型族,包含 Sing-Guard-4b 和 Sing-Guard-8b 两个版本。
- 它将安全策略作为运行时输入而非固定分类,部署团队可自定义自然语言规则而无需重训练模型。
- 支持文本、图像、图文、多语言以及查询端与响应端的安全评估,提供快速和快慢结合两种推理模式。
- 在涵盖多模态安全、纯图像安全、文本查询/响应安全、多语言查询/响应安全六大类基准上取得平均 SOTA 表现。
- 模型已开源至 HuggingFace 和 ModelScope
速览
- 发布时间
- 更新时间
- 分类
- 模型发布
- AI 评分
- 71
推荐理由
蚂蚁的 SingGuard 把安全策略变成了运行时输入,意味着审核规则可以随时改而不必重训模型,这对做内容安全的产品人是真省事,值得跟进。
相关实体
来源与版权
本文基于 AIHOT 公开 API 的精选标题与 AI 摘要整理,已注明来源并回链;原文版权归原媒体与作者所有,本站不镜像全文。
如何引用
引用本文时请保留标题、日期与永久链接,并注明来源为橙子新闻。
橙子新闻:SingGuard: 策略自适应多模态护栏模型族开源。2026年5月25日。https://new.nat6.net/news/cmqojr29l01q2slx6fqo5f638/