SingGuard: Open-Source-Familie richtlinienadaptiver multimodaler Guardrail-Modelle
Originaltitel:inclusionAI/Sing-Guard-4b
KI-Zusammenfassung
SingGuard ist eine Familie richtlinienadaptiver multimodaler Guardrail-Modelle mit den Versionen Sing-Guard-4b und Sing-Guard-8b. Es nimmt Sicherheitsrichtlinien als Laufzeitinput statt als feste Klassifikation entgegen, sodass Deployment-Teams eigene natürlichsprachliche Regeln definieren können, ohne das Modell neu zu trainieren. Es unterstützt Sicherheitsbewertungen für Text, Bilder, Bild-Text-Kombinationen, mehrere Sprachen sowie Anfrage- und Antwortseite und bietet zwei Inferenzmodi: schnell sowie kombiniert schnell-langsam. In sechs Benchmark-Kategorien – multimodale Sicherheit, reine Bildsicherheit, Textanfrage-/Antwortsicherheit und mehrsprachige Anfrage-/Antwortsicherheit – erzielt es durchschnittlich SOTA-Leistung. Die Modelle sind auf HuggingFace und ModelScope als Open Source verfügbar.
Kernpunkte
- SingGuard ist eine Familie richtlinienadaptiver multimodaler Guardrail-Modelle mit den Versionen…
- Es nimmt Sicherheitsrichtlinien als Laufzeitinput statt als feste Klassifikation entgegen,sodass…
- Es unterstützt Sicherheitsbewertungen für Text,Bilder,Bild-Text-Kombinationen,mehrere Sprachen…
- In sechs Benchmark-Kategorien – multimodale Sicherheit,reine…
- Die Modelle sind auf HuggingFace und ModelScope als Open Source verfügbar.
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Kategorie
- Modellveröffentlichungen
- KI-Bewertung
- 71
蚂蚁的 SingGuard 把安全策略变成了运行时输入,意味着审核规则可以随时改而不必重训模型,这对做内容安全的产品人是真省事,值得跟进。
Verwandte Entitäten
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: SingGuard: Open-Source-Familie richtlinienadaptiver multimodaler Guardrail-Modelle. 25. Mai 2026. https://new.nat6.net/de/news/cmqojr29l01q2slx6fqo5f638/