Investigadores de alineación automatizada: ampliar la supervisión escalable con grandes modelos de lenguaje
Título original:Automated Alignment Researchers: Using large language models to scale scalable oversight
Resumen de IA
Anthropic desplegó 9 Claude Opus 4.6 como investigadores de alineación automatizada (AAR) que, bajo un marco de supervisión de débil a fuerte, investigaron de forma autónoma durante 800 horas. Al proponer, probar y optimizar de manera autónoma soluciones de alineación, los AAR elevaron la tasa de recuperación de la brecha de rendimiento (PGR) de 0,23 a 0,97, con un costo de aproximadamente 18.000 dólares. Este estudio demuestra que los grandes modelos actuales ya pueden realizar investigaciones de alineación de forma independiente, lo que ofrece una vía viable para resolver el problema de la supervisión escalable de una IA superhumana.
Puntos clave
- Anthropic desplegó 9 Claude Opus 4.
- 6 como investigadores de alineación automatizada (AAR) que,bajo un marco de supervisión de débil a…
- Al proponer,probar y optimizar de manera autónoma soluciones de alineación,los AAR elevaron la…
- 000 dólares.
- Este estudio demuestra que los grandes modelos actuales ya pueden realizar investigaciones de…
Resumen rápido
- Publicado
- Actualizado
- Categoría
- Artículos e investigación
- Puntuación IA
- 74
Anthropic 让 Claude 自主探索对齐方法并接近完美恢复性能,自动化对齐研究的实证终于来了,代码开源,对齐研究者该认真看一遍。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: Investigadores de alineación automatizada: ampliar la supervisión escalable con grandes modelos de lenguaje. 14. abril 2026. https://new.nat6.net/es/news/cmnyzulbd01gcsl0fgdwxquf2/