Artículos e investigación

METR mide la capacidad de los modelos para identificar evaluaciones de alineación: agentes investigadores distinguen entre evaluaciones de alineación y de capacidad

Título original:Measuring alignment eval tells

Resumen de IA

METR publicó una nota de investigación en la que agentes investigadores exploran el entorno en 19 evaluaciones de alineación y 36 de capacidad para medir si los modelos pueden identificar que se encuentran en una evaluación de alineación. Los resultados muestran que la capacidad de los agentes para distinguir ambos tipos de evaluación ha mejorado de forma continua durante el último año, y Opus 5.5 situó todas las evaluaciones de alineación por encima de todas las de capacidad en su conjunto de datos. Entre las señales que usan los modelos para identificarlas figuran indicios como que el entorno parezca un honeypot simulado; los autores clasifican las señales de alineación en dos tipos, a nivel de entorno y a nivel de tarea, y plantean que esto puede aprovecharse para mejorar iterativamente el diseño de las evaluaciones de alineación.

Puntos clave

  • METR publicó una nota de investigación en la que agentes investigadores exploran el entorno en 19…
  • Los resultados muestran que la capacidad de los agentes para distinguir ambos tipos de evaluación…
  • 5 situó todas las evaluaciones de alineación por encima de todas las de capacidad en su conjunto…
  • Entre las señales que usan los modelos para identificarlas figuran indicios como que el entorno…
  • los autores clasifican las señales de alineación en dos tipos,a nivel de entorno y a nivel de…

Resumen rápido

Publicado
Actualizado
Fuente
METR:Notes(网页)
Categoría
Artículos e investigación
Tema
Seguridad y alineación
Puntuación IA
62
Leer el original Leer el artículo completo en la fuente original
Por qué importa

METR 用调查型智能体实测 55 个评测,发现当前模型能识别对齐评测,并给出了环境级与任务级线索的分类方法。

Temas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: METR mide la capacidad de los modelos para identificar evaluaciones de alineación: agentes investigadores distinguen entre evaluaciones de alineación y de capacidad. 16. noviembre 2026. https://new.nat6.net/es/news/m4emm1ej7qzex1k77a7mfaztd/

Ver todo →