OpenAI lanza GPT-Red para mejorar la robustez del modelo mediante pruebas de red team automatizadas
Título original:GPT-Red: Unlocking Self-Improvement for Robustness
Resumen de IA
OpenAI entrenó el modelo automatizado de red team GPT-Red para detectar vulnerabilidades antes del despliegue y generar ataques durante el entrenamiento que mejoren la robustez del modelo. GPT-Red puede vulnerar casi todos los modelos anteriores, y sus ataques se usaron en el entrenamiento adversarial de GPT-5.6 Sol, lo que redujo la tasa de fallos de este modelo en las pruebas de referencia de inyección directa de prompts a una sexta parte de la del mejor modelo de producción de hace cuatro meses. GPT-Red se entrenó mediante aprendizaje por refuerzo con autojuego, con una escala de cómputo sin precedentes en el postentrenamiento de OpenAI.
Puntos clave
- OpenAI entrenó el modelo automatizado de red team GPT-Red para detectar vulnerabilidades antes del…
- GPT-Red puede vulnerar casi todos los modelos anteriores,y sus ataques se usaron en el…
- 6 Sol,lo que redujo la tasa de fallos de este modelo en las pruebas de referencia de inyección…
- GPT-Red se entrenó mediante aprendizaje por refuerzo con autojuego,con una escala de cómputo sin…
Resumen rápido
- Publicado
- Actualizado
- Fuente
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Categoría
- Lanzamientos de modelos
- Puntuación IA
- 67
OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。
Entidades relacionadas
Fuente y derechos
Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.
Cómo citar
Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.
Orange News: OpenAI lanza GPT-Red para mejorar la robustez del modelo mediante pruebas de red team automatizadas. 15. julio 2026. https://new.nat6.net/es/news/cmrmc527c0088bivcfrd3s2uz/