OpenAI firma con Apollo Research, METR, Transluce y Goodfire para iniciar la primera fase de evaluaciones de seguridad integradas
Título original:Our first phase of embedded assessments
Resumen de IA
OpenAI anuncia la firma de acuerdos con cuatro evaluadores independientes —Apollo Research, METR, Transluce y Goodfire— para iniciar la primera fase de evaluaciones de seguridad integradas. Los expertos evaluadores tendrán acceso a recursos internos como checkpoints de los modelos, código fuente, datos de entrenamiento y sistemas de monitoreo, y evaluarán respectivamente la posibilidad de que los modelos actúen en secreto contra la intención de los desarrolladores, la interpretabilidad interna de los modelos, los comportamientos desalineados en la mayor ejecución de entrenamiento con RL y la cobertura de calidad de las evaluaciones de alineación posteriores al entrenamiento.
Puntos clave
- OpenAI anuncia la firma de acuerdos con cuatro evaluadores independientes —Apollo…
- Los expertos evaluadores tendrán acceso a recursos internos como checkpoints de los modelos,código…
- la interpretabilidad interna de los modelos,los comportamientos desalineados en la mayor ejecución…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Categoría
- Industria
- Puntuación IA
- 64
OpenAI 官方披露了四家独立评估机构的评估范围、访问权限和发布规则,读者可以据此了解第三方嵌入式评估的实际运作方式。
Temas
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: OpenAI firma con Apollo Research, METR, Transluce y Goodfire para iniciar la primera fase de evaluaciones de seguridad integradas. 16. noviembre 2026. https://new.nat6.net/es/news/qaj2npptre8jgn8xanq9ic965/