Annotator-Sicherheitsrichtlinien mit Interpretierbarkeit verstehen
Originaltitel:Understanding Annotator Safety Policy with Interpretability
KI-Zusammenfassung
Annotator-Divergenzen können auf Ausführungsfehler, unklare Richtlinien oder Wertepluralismus zurückgehen. Annotator Policy Models (APMs) sind interpretierbare Modelle, die allein aus dem Annotationsverhalten die intrinsischen Sicherheitsrichtlinien von Annotatoren lernen, ohne zusätzlichen Aufwand. Die Validierung zeigt eine Genauigkeit von über 80 %; die Modelle sagen kontrafaktische Bearbeitungen treu voraus und können bekannte Unterschiede wiederherstellen. Die Anwendung von APMs auf LLMs und menschliche Annotatoren offenbart Unterschiede in der Auslegung von Sicherheitsanweisungen (Richtlinienunklarheit) sowie systematische Unterschiede in der Sicherheitspriorisierung zwischen verschiedenen Bevölkerungsgruppen (Wertepluralismus) und unterstützt eine gezieltere, transparentere und inklusivere Gestaltung von Sicherheitsrichtlinien.
Kernpunkte
- Annotator-Divergenzen können auf Ausführungsfehler,unklare Richtlinien oder Wertepluralismus…
- Annotator Policy Models (APMs) sind interpretierbare Modelle,die allein aus dem…
- Die Validierung zeigt eine Genauigkeit von über 80 %
- die Modelle sagen kontrafaktische Bearbeitungen treu voraus und können bekannte Unterschiede…
- Die Anwendung von APMs auf LLMs und menschliche Annotatoren offenbart Unterschiede in der…
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Kategorie
- Papers & Forschung
- KI-Bewertung
- 56
我觉得 APMs 把标注分歧的根源从「猜」变成了「看」,对安全团队澄清政策模糊和价值观差异挺有实操价值,代码也给了,做对齐的可以上手试。
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: Annotator-Sicherheitsrichtlinien mit Interpretierbarkeit verstehen. 6. Juli 2026. https://new.nat6.net/de/news/cmr9jb1wn007eihe8jhd6zhrj/