Articles et recherche

OpenAI attaque ses propres IA avec l'IA : GPT-Red détecte automatiquement les failles de sécurité avec un taux de réussite de 84 %, bien au-delà des humains

Titre original:OpenAI is now using AI to attack its own AI, and it's working better than humans ever did

Résumé IA

OpenAI a entraîné GPT-Red, un modèle d'IA interne, qui simule automatiquement des attaques par injection de prompts et autres via l'apprentissage par renforcement en auto-jeu, avec un taux de réussite de 84 % dans les scénarios de test, contre seulement 13 % pour l'équipe red team humaine. Les découvertes de GPT-Red sont directement utilisées pour l'entraînement, permettant à GPT-5.6 Sol de réduire de six fois le nombre de défaillances face aux injections directes de prompts par rapport au meilleur modèle d'il y a quatre mois, sans affecter les performances générales. Environ 3,8 % des prompts d'injection « plus forts » réussissent encore ; GPT-Red n'est pas encore accessible au public.

Points clés

  • OpenAI a entraîné GPT-Red,un modèle d'IA interne,qui simule automatiquement des attaques par…
  • Les découvertes de GPT-Red sont directement utilisées pour l'entraînement,permettant à GPT-5.
  • 6 Sol de réduire de six fois le nombre de défaillances face aux injections directes de prompts par…
  • Environ 3,8 % des prompts d'injection « plus forts » réussissent encore
  • GPT-Red n'est pas encore accessible au public.

En bref

Publié
Mis à jour
Source
The Decoder:AI News(RSS)
Catégorie
Articles et recherche
Score IA
71
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

OpenAI让AI攻击自己找漏洞,成功率84%把人甩在后面,直接拉低了GPT-5.6的注入失败率六倍,这比人类红队靠谱多了,但别忘了3.8%的缺口照样能捅娄子。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : OpenAI attaque ses propres IA avec l'IA : GPT-Red détecte automatiquement les failles de sécurité avec un taux de réussite de 84 %, bien au-delà des humains. 16. juillet 2026. https://new.nat6.net/fr/news/cmrmi4f4x01ilbiul55xb25fm/

Tout voir →