OpenAI publica un nuevo estudio sobre la búsqueda de recompensas
Título original:We’re sharing new research with @apolloaievals on reward-seeking—when models follow what they believ...
Resumen de IA
Compartimos con @apolloaievals una nueva investigación sobre la búsqueda de recompensas, es decir, que los modelos sigan aquello que creen que el evaluador recompensa en lugar de lo que esperan el usuario o el desarrollador, y un nuevo método, Contrastive SDF, para medir cuánto influyen esas creencias en el comportamiento. https://alignment.openai.com/measuring-reward-seeking/
Puntos clave
- Compartimos con @apolloaievals una nueva investigación sobre la búsqueda de recompensas
- es decir,que los modelos sigan aquello que creen que el evaluador recompensa en lugar de lo que…
- y un nuevo método,Contrastive SDF,para medir cuánto influyen esas creencias en el comportamiento.
Resumen rápido
- Publicado
- Actualizado
- Fuente
- X:OpenAI (@OpenAI)
- Categoría
- Artículos e investigación
- Puntuación IA
- 65
OpenAI 对齐研究的新工具,量化模型「讨好评分器」的行为,不是口号而是可测量的方法,做对齐的人值得细读。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: OpenAI publica un nuevo estudio sobre la búsqueda de recompensas. 22. julio 2026. https://new.nat6.net/es/news/cmruzdnzo00vpbinv65us569l/