Industria

OpenAI firma con Apollo Research, METR, Transluce y Goodfire para iniciar la primera fase de evaluaciones de seguridad integradas

Título original:Our first phase of embedded assessments

Resumen de IA

OpenAI anuncia la firma de acuerdos con cuatro evaluadores independientes —Apollo Research, METR, Transluce y Goodfire— para iniciar la primera fase de evaluaciones de seguridad integradas. Los expertos evaluadores tendrán acceso a recursos internos como checkpoints de los modelos, código fuente, datos de entrenamiento y sistemas de monitoreo, y evaluarán respectivamente la posibilidad de que los modelos actúen en secreto contra la intención de los desarrolladores, la interpretabilidad interna de los modelos, los comportamientos desalineados en la mayor ejecución de entrenamiento con RL y la cobertura de calidad de las evaluaciones de alineación posteriores al entrenamiento.

Puntos clave

  • OpenAI anuncia la firma de acuerdos con cuatro evaluadores independientes —Apollo…
  • Los expertos evaluadores tendrán acceso a recursos internos como checkpoints de los modelos,código…
  • la interpretabilidad interna de los modelos,los comportamientos desalineados en la mayor ejecución…

Resumen rápido

Publicado
Actualizado
Fuente
OpenAI:官网动态(RSS · 排除企业/客户案例)
Categoría
Industria
Tema
OpenAI / ChatGPTActualidad del sectorSeguridad y alineación
Puntuación IA
64
Leer el original Leer el artículo completo en la fuente original
Por qué importa

OpenAI 官方披露了四家独立评估机构的评估范围、访问权限和发布规则,读者可以据此了解第三方嵌入式评估的实际运作方式。

Temas

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: OpenAI firma con Apollo Research, METR, Transluce y Goodfire para iniciar la primera fase de evaluaciones de seguridad integradas. 16. noviembre 2026. https://new.nat6.net/es/news/qaj2npptre8jgn8xanq9ic965/

Ver todo →