CoVal: aprender de la multitud criterios de evaluación con conciencia de valores
Título original:CoVal: Learning values-aware rubrics from the crowd
Resumen de IA
Un equipo de investigación ha publicado un conjunto de datos experimental llamado CoVal, que contiene criterios de evaluación redactados mediante crowdsourcing. El conjunto de datos revela las razones concretas por las que las personas prefieren una salida de modelo frente a otra, con el objetivo de que los modelos de IA comprendan los múltiples criterios cargados de valores en los que se basan los humanos al evaluar la calidad de un texto. Mediante el análisis de estas reglas de evaluación detalladas aportadas por la multitud, la investigación proporciona una base de retroalimentación transparente y explicable para entrenar modelos de lenguaje más alineados con las preferencias humanas.
Puntos clave
- Un equipo de investigación ha publicado un conjunto de datos experimental llamado CoVal,que…
- El conjunto de datos revela las razones concretas por las que las personas prefieren una salida de…
- Mediante el análisis de estas reglas de evaluación detalladas aportadas por la multitud,la…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- OpenAI:Alignment 研究博客(RSS)
- Categoría
- Artículos e investigación
- Puntuación IA
- 55
OpenAI 把众包标注升级成可学习的价值观评分标准,对做对齐和 RLHF 的团队来说是个新数据源,但离产品落地还远,属于研究信号而非行动指南。
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: CoVal: aprender de la multitud criterios de evaluación con conciencia de valores. 15. enero 2026. https://new.nat6.net/es/news/cmoqytjhu006rslbosgkmxjwx/