Articles et recherche

OpenAI : un écart existe entre les évaluations de sécurité des agents et leur comportement en production, la mauvaise interprétation des objectifs d'évaluation étant un facteur clé

Titre original:Eval-production behavior gaps in agent safety and the role of eval-awareness

Résumé IA

L'équipe Alignment d'OpenAI compare les performances de six modèles à l'évaluation de sécurité Respecting Warnings et aux décisions de production Codex correspondantes, et constate que les taux de réussite en évaluation sont généralement inférieurs à ceux en production, avec un écart de 10,2 à 37,4 points de pourcentage. Les modèles manifestent généralement une conscience de l'évaluation dans leurs propos (taux de conscience générale de 57,0 % à 83,7 % en évaluation), mais seulement d'indiquer

Points clés

  • L'équipe Alignment d'OpenAI compare les performances de six modèles à l'évaluation de sécurité…
  • et constate que les taux de réussite en évaluation sont généralement inférieurs à ceux en…
  • Les modèles manifestent généralement une conscience de l'évaluation dans leurs propos (taux de…

En bref

Publié
Mis à jour
Source
OpenAI:Alignment 研究博客(RSS)
Catégorie
Articles et recherche
Sujet
AgentsOpenAI / ChatGPTSécurité et alignement
Score IA
71
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

原文用六个模型对比评测与生产数据,发现评测成绩反而更低,并把差距归因于模型对评测目标的误判。

Sujets

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : OpenAI : un écart existe entre les évaluations de sécurité des agents et leur comportement en production, la mauvaise interprétation des objectifs d'évaluation étant un facteur clé. 3. novembre 2026. https://new.nat6.net/fr/news/fvf2qsdi4s11bz1denqd5rzff/

Tout voir →