OpenAI usa entrenamiento de red team automatizado para mejorar la robustez difusa de GPT-6 Astra y Sol en ámbitos de alto riesgo
Título original:Improving Fuzzy Robustness in LLM Safety with Automated Red Teaming
Resumen de IA
El equipo de investigación de OpenAI explica cómo emplea el red team automatizado para mejorar la robustez difusa de los modelos en ámbitos de doble uso de alto riesgo, como el cibernético y el biológico, ampliando el cómputo de inferencia de los modelos atacantes para buscar jailbreaks de forma iterativa y exigiendo que el ataque tenga éxito en múltiples pruebas repetidas (worst@n), con el fin de generar datos de entrenamiento adversarial fiables para el entrenamiento con RL.
Puntos clave
- El equipo de investigación de OpenAI explica cómo emplea el red team automatizado para mejorar la…
- ampliando el cómputo de inferencia de los modelos atacantes para buscar jailbreaks de forma…
- con el fin de generar datos de entrenamiento adversarial fiables para el entrenamiento con RL.
Resumen rápido
- Publicado
- Actualizado
- Fuente
- OpenAI:Alignment 研究博客(RSS)
- Categoría
- Artículos e investigación
- Puntuación IA
- 62
OpenAI 自己披露的训练方法细节,展示了用自动化攻击生成数据提升模糊鲁棒性的可控实验和结果。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: OpenAI usa entrenamiento de red team automatizado para mejorar la robustez difusa de GPT-6 Astra y Sol en ámbitos de alto riesgo. 12. noviembre 2026. https://new.nat6.net/es/news/yg97h3u5vthadivuv5po5f0aw/