Articles et recherche

Comprendre les politiques de sécurité des annotateurs par l'interprétabilité

Titre original:Understanding Annotator Safety Policy with Interpretability

Résumé IA

Les désaccords d'annotation peuvent provenir d'échecs opérationnels, d'une ambiguïté des politiques ou d'un pluralisme de valeurs. Les Annotator Policy Models (APM) sont des modèles interprétables qui apprennent uniquement à partir du comportement d'annotation les politiques de sécurité internes des annotateurs, sans charge supplémentaire. La validation montre une précision supérieure à 80 %, une prédiction fidèle des éditions contrefactuelles et la récupération de différences connues. Appliqués aux annotateurs LLM et humains, les APM révèlent les différences d'interprétation des consignes de sécurité entre annotateurs (ambiguïté des politiques) ainsi que les différences systématiques de priorité accordée à la sécurité entre groupes démographiques (pluralisme de valeurs), favorisant une conception de politiques de sécurité plus ciblée, transparente et inclusive.

Points clés

  • Les désaccords d'annotation peuvent provenir d'échecs opérationnels,d'une ambiguïté des politiques…
  • Les Annotator Policy Models (APM) sont des modèles interprétables qui apprennent uniquement à…
  • La validation montre une précision supérieure à 80 %,une prédiction fidèle des éditions…
  • Appliqués aux annotateurs LLM et humains,les APM révèlent les différences d'interprétation des…

En bref

Publié
Mis à jour
Source
Apple Machine Learning Research(RSS)
Catégorie
Articles et recherche
Score IA
56
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

我觉得 APMs 把标注分歧的根源从「猜」变成了「看」,对安全团队澄清政策模糊和价值观差异挺有实操价值,代码也给了,做对齐的可以上手试。

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Comprendre les politiques de sécurité des annotateurs par l'interprétabilité. 6. juillet 2026. https://new.nat6.net/fr/news/cmr9jb1wn007eihe8jhd6zhrj/

Tout voir →