Entender las políticas de seguridad de los anotadores mediante interpretabilidad
Título original:Understanding Annotator Safety Policy with Interpretability
Resumen de IA
Las discrepancias entre anotadores pueden deberse a fallos operativos, ambigüedad de las políticas o pluralismo de valores. Los Annotator Policy Models (APM) son modelos interpretables que aprenden la política de seguridad interna de los anotadores solo a partir de su comportamiento de anotación, sin carga adicional. La validación muestra una precisión superior al 80%, y predicen fielmente ediciones contrafactuales y recuperan diferencias conocidas. Al aplicar los APM a LLM y anotadores humanos, se revelan diferencias en la interpretación de las instrucciones de seguridad entre anotadores (ambigüedad de políticas) y diferencias sistemáticas en las prioridades de seguridad entre distintos grupos demográficos (pluralismo de valores), lo que respalda un diseño de políticas de seguridad más específico, transparente e inclusivo.
Puntos clave
- Las discrepancias entre anotadores pueden deberse a fallos operativos,ambigüedad de las políticas…
- Los Annotator Policy Models (APM) son modelos interpretables que aprenden la política de seguridad…
- La validación muestra una precisión superior al 80%,y predicen fielmente ediciones contrafactuales…
- Al aplicar los APM a LLM y anotadores humanos,se revelan diferencias en la interpretación de las…
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Artículos e investigación
- Puntuación IA
- 56
我觉得 APMs 把标注分歧的根源从「猜」变成了「看」,对安全团队澄清政策模糊和价值观差异挺有实操价值,代码也给了,做对齐的可以上手试。
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Entender las políticas de seguridad de los anotadores mediante interpretabilidad. 6. julio 2026. https://new.nat6.net/es/news/cmr9jb1wn007eihe8jhd6zhrj/