Papers & Forschung

Annotator-Sicherheitsrichtlinien mit Interpretierbarkeit verstehen

Originaltitel:Understanding Annotator Safety Policy with Interpretability

KI-Zusammenfassung

Annotator-Divergenzen können auf Ausführungsfehler, unklare Richtlinien oder Wertepluralismus zurückgehen. Annotator Policy Models (APMs) sind interpretierbare Modelle, die allein aus dem Annotationsverhalten die intrinsischen Sicherheitsrichtlinien von Annotatoren lernen, ohne zusätzlichen Aufwand. Die Validierung zeigt eine Genauigkeit von über 80 %; die Modelle sagen kontrafaktische Bearbeitungen treu voraus und können bekannte Unterschiede wiederherstellen. Die Anwendung von APMs auf LLMs und menschliche Annotatoren offenbart Unterschiede in der Auslegung von Sicherheitsanweisungen (Richtlinienunklarheit) sowie systematische Unterschiede in der Sicherheitspriorisierung zwischen verschiedenen Bevölkerungsgruppen (Wertepluralismus) und unterstützt eine gezieltere, transparentere und inklusivere Gestaltung von Sicherheitsrichtlinien.

Kernpunkte

  • Annotator-Divergenzen können auf Ausführungsfehler,unklare Richtlinien oder Wertepluralismus…
  • Annotator Policy Models (APMs) sind interpretierbare Modelle,die allein aus dem…
  • Die Validierung zeigt eine Genauigkeit von über 80 %
  • die Modelle sagen kontrafaktische Bearbeitungen treu voraus und können bekannte Unterschiede…
  • Die Anwendung von APMs auf LLMs und menschliche Annotatoren offenbart Unterschiede in der…

Auf einen Blick

Veröffentlicht
Aktualisiert
Quelle
Apple Machine Learning Research(RSS)
Kategorie
Papers & Forschung
KI-Bewertung
56
Original lesen Den vollständigen Artikel bei der Originalquelle lesen
Warum es wichtig ist

我觉得 APMs 把标注分歧的根源从「猜」变成了「看」,对安全团队澄清政策模糊和价值观差异挺有实操价值,代码也给了,做对齐的可以上手试。

Quelle & Urheberrecht

Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.

Originalartikel · AIHOT-Eintrag

Zitierhinweis

Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.

Orange News: Annotator-Sicherheitsrichtlinien mit Interpretierbarkeit verstehen. 6. Juli 2026. https://new.nat6.net/de/news/cmr9jb1wn007eihe8jhd6zhrj/

Alle ansehen →