Artículos e investigación

OpenAI usa entrenamiento de red team automatizado para mejorar la robustez difusa de GPT-6 Astra y Sol en ámbitos de alto riesgo

Título original:Improving Fuzzy Robustness in LLM Safety with Automated Red Teaming

Resumen de IA

El equipo de investigación de OpenAI explica cómo emplea el red team automatizado para mejorar la robustez difusa de los modelos en ámbitos de doble uso de alto riesgo, como el cibernético y el biológico, ampliando el cómputo de inferencia de los modelos atacantes para buscar jailbreaks de forma iterativa y exigiendo que el ataque tenga éxito en múltiples pruebas repetidas (worst@n), con el fin de generar datos de entrenamiento adversarial fiables para el entrenamiento con RL.

Puntos clave

  • El equipo de investigación de OpenAI explica cómo emplea el red team automatizado para mejorar la…
  • ampliando el cómputo de inferencia de los modelos atacantes para buscar jailbreaks de forma…
  • con el fin de generar datos de entrenamiento adversarial fiables para el entrenamiento con RL.

Resumen rápido

Publicado
Actualizado
Fuente
OpenAI:Alignment 研究博客(RSS)
Categoría
Artículos e investigación
Tema
OpenAI / ChatGPTSeguridad y alineación
Puntuación IA
62
Leer el original Leer el artículo completo en la fuente original
Por qué importa

OpenAI 自己披露的训练方法细节,展示了用自动化攻击生成数据提升模糊鲁棒性的可控实验和结果。

Temas

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: OpenAI usa entrenamiento de red team automatizado para mejorar la robustez difusa de GPT-6 Astra y Sol en ámbitos de alto riesgo. 12. noviembre 2026. https://new.nat6.net/es/news/yg97h3u5vthadivuv5po5f0aw/

Ver todo →