OpenAI lance GPT-Red : améliorer la robustesse des modèles grâce aux tests de red team automatisés
Titre original:GPT-Red: Unlocking Self-Improvement for Robustness
Résumé IA
OpenAI a entraîné GPT-Red, un modèle de red team automatisé, pour détecter les vulnérabilités avant le déploiement et générer des attaques pendant l'entraînement afin d'améliorer la robustesse des modèles. GPT-Red parvient à compromettre presque tous les modèles précédents ; ses attaques ont été utilisées pour l'entraînement adversarial de GPT-5.6 Sol, ramenant le taux d'échec de ce modèle aux benchmarks d'injection de prompts directs à un sixième de celui du meilleur modèle de production d'il y a quatre mois. GPT-Red est entraîné par apprentissage par renforcement en auto-jeu, avec une échelle de calcul sans précédent dans le post-entraînement d'OpenAI.
Points clés
- OpenAI a entraîné GPT-Red,un modèle de red team automatisé,pour détecter les vulnérabilités avant…
- GPT-Red parvient à compromettre presque tous les modèles précédents
- ses attaques ont été utilisées pour l'entraînement adversarial de GPT-5.
- 6 Sol,ramenant le taux d'échec de ce modèle aux benchmarks d'injection de prompts directs à un…
- GPT-Red est entraîné par apprentissage par renforcement en auto-jeu,avec une échelle de calcul…
En bref
- Publié
- Mis à jour
- Source
- OpenAI:官网动态(RSS · 排除企业/客户案例)
- Catégorie
- Sorties de modèles
- Score IA
- 67
OpenAI 用自博弈训练出的红队模型 GPT-Red,把直接提示注入攻击成功率压到了 0.05%,而且没有降低模型能力。做 AI 安全的人应该好好读一下他们怎么实现这个飞轮的。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : OpenAI lance GPT-Red : améliorer la robustesse des modèles grâce aux tests de red team automatisés. 15. juillet 2026. https://new.nat6.net/fr/news/cmrmc527c0088bivcfrd3s2uz/