Lanzamientos de modelos

OpenAI lanza GPT-Red para mejorar la robustez del modelo mediante pruebas de red team automatizadas

Título original:GPT-Red: Unlocking Self-Improvement for Robustness

Resumen de IA

OpenAI entrenó el modelo automatizado de red team GPT-Red para detectar vulnerabilidades antes del despliegue y generar ataques durante el entrenamiento que mejoren la robustez del modelo. GPT-Red puede vulnerar casi todos los modelos anteriores, y sus ataques se usaron en el entrenamiento adversarial de GPT-5.6 Sol, lo que redujo la tasa de fallos de este modelo en las pruebas de referencia de inyección directa de prompts a una sexta parte de la del mejor modelo de producción de hace cuatro meses. GPT-Red se entrenó mediante aprendizaje por refuerzo con autojuego, con una escala de cómputo sin precedentes en el postentrenamiento de OpenAI.

Puntos clave

  • OpenAI entrenó el modelo automatizado de red team GPT-Red para detectar vulnerabilidades antes del…
  • GPT-Red puede vulnerar casi todos los modelos anteriores,y sus ataques se usaron en el…
  • 6 Sol,lo que redujo la tasa de fallos de este modelo en las pruebas de referencia de inyección…
  • GPT-Red se entrenó mediante aprendizaje por refuerzo con autojuego,con una escala de cómputo sin…

Resumen rápido

Publicado
Actualizado
Fuente
OpenAI:官网动态(RSS · 排除企业/客户案例)
Categoría
Lanzamientos de modelos
Puntuación IA
67
Leer el original Leer el artículo completo en la fuente original
Por qué importa

OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。

Entidades relacionadas

Fuente y derechos

Este artículo se basa en títulos seleccionados y resúmenes de IA de la API pública de AIHOT, con atribución y enlaces de vuelta. Los derechos del original pertenecen a los medios y autores originales; este sitio no reproduce textos completos.

Artículo original · Ficha de AIHOT

Cómo citar

Al citar este artículo, conserva el título, la fecha y el enlace permanente, e indica que la fuente es Orange News.

Orange News: OpenAI lanza GPT-Red para mejorar la robustez del modelo mediante pruebas de red team automatizadas. 15. julio 2026. https://new.nat6.net/es/news/cmrmc527c0088bivcfrd3s2uz/

Ver todo →