Artículos e investigación

Investigadores de alineación automatizada: ampliar la supervisión escalable con grandes modelos de lenguaje

Título original:Automated Alignment Researchers: Using large language models to scale scalable oversight

Resumen de IA

Anthropic desplegó 9 Claude Opus 4.6 como investigadores de alineación automatizada (AAR) que, bajo un marco de supervisión de débil a fuerte, investigaron de forma autónoma durante 800 horas. Al proponer, probar y optimizar de manera autónoma soluciones de alineación, los AAR elevaron la tasa de recuperación de la brecha de rendimiento (PGR) de 0,23 a 0,97, con un costo de aproximadamente 18.000 dólares. Este estudio demuestra que los grandes modelos actuales ya pueden realizar investigaciones de alineación de forma independiente, lo que ofrece una vía viable para resolver el problema de la supervisión escalable de una IA superhumana.

Puntos clave

  • Anthropic desplegó 9 Claude Opus 4.
  • 6 como investigadores de alineación automatizada (AAR) que,bajo un marco de supervisión de débil a…
  • Al proponer,probar y optimizar de manera autónoma soluciones de alineación,los AAR elevaron la…
  • 000 dólares.
  • Este estudio demuestra que los grandes modelos actuales ya pueden realizar investigaciones de…

Resumen rápido

Publicado
Actualizado
Fuente
Anthropic:Research(发表成果 · 网页)
Categoría
Artículos e investigación
Puntuación IA
74
Leer el original Leer el artículo completo en la fuente original
Por qué importa

Anthropic 让 Claude 自主探索对齐方法并接近完美恢复性能,自动化对齐研究的实证终于来了,代码开源,对齐研究者该认真看一遍。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: Investigadores de alineación automatizada: ampliar la supervisión escalable con grandes modelos de lenguaje. 14. abril 2026. https://new.nat6.net/es/news/cmnyzulbd01gcsl0fgdwxquf2/

Ver todo →