Articles et recherche

OpenAI utilise l'entraînement par red teaming automatisé pour améliorer la robustesse d'ambiguïté de GPT-6 Astra et Sol dans les domaines à haut risque

Titre original:Improving Fuzzy Robustness in LLM Safety with Automated Red Teaming

Résumé IA

L'équipe de recherche d'OpenAI explique comment le red teaming automatisé améliore la robustesse d'ambiguïté des modèles dans des domaines à double usage à haut risque comme la cybersécurité et la biologie, en augmentant le budget de calcul d'inférence des modèles attaquants pour une recherche itérative de jailbreaks, et en exigeant que les attaques réussissent lors de tests répétés (worst@n), afin de générer des données d'entraînement adversarial fiables pour l'entraînement RL.

Points clés

  • L'équipe de recherche d'OpenAI explique comment le red teaming automatisé améliore la robustesse…
  • en augmentant le budget de calcul d'inférence des modèles attaquants pour une recherche itérative…
  • et en exigeant que les attaques réussissent lors de tests répétés (worst@n),afin de générer des…

En bref

Publié
Mis à jour
Source
OpenAI:Alignment 研究博客(RSS)
Catégorie
Articles et recherche
Sujet
OpenAI / ChatGPTSécurité et alignement
Score IA
62
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

OpenAI 自己披露的训练方法细节,展示了用自动化攻击生成数据提升模糊鲁棒性的可控实验和结果。

Sujets

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : OpenAI utilise l'entraînement par red teaming automatisé pour améliorer la robustesse d'ambiguïté de GPT-6 Astra et Sol dans les domaines à haut risque. 12. novembre 2026. https://new.nat6.net/fr/news/yg97h3u5vthadivuv5po5f0aw/

Tout voir →