Articles et recherche

METR mesure la capacité des modèles à reconnaître les évaluations d'alignement : des agents d'investigation distinguent évaluations d'alignement et de capacités

Titre original:Measuring alignment eval tells

Résumé IA

METR publie une note de recherche dans laquelle des agents d'investigation explorent 19 évaluations d'alignement et 36 évaluations de capacités afin de mesurer si les modèles peuvent identifier qu'ils sont soumis à une évaluation d'alignement. Les résultats montrent que la capacité des agents à distinguer les deux types d'évaluation n'a cessé de progresser au cours de l'année écoulée, Opus 5.5 classant, sur son jeu de données, toutes les évaluations d'alignement au-dessus de toutes les évaluations de capacités. Les indices de reconnaissance incluent des éléments tels qu'un environnement ressemblant à un pot de miel simulé ; les auteurs répartissent ces indices en deux catégories, au niveau de l'environnement et au niveau de la tâche, et proposent de s'en servir pour améliorer itérativement la conception des évaluations d'alignement.

Points clés

  • METR publie une note de recherche dans laquelle des agents d'investigation explorent 19…
  • Les résultats montrent que la capacité des agents à distinguer les deux types d'évaluation n'a…
  • 5 classant,sur son jeu de données,toutes les évaluations d'alignement au-dessus de toutes les…
  • Les indices de reconnaissance incluent des éléments tels qu'un environnement ressemblant à un pot…
  • les auteurs répartissent ces indices en deux catégories,au niveau de l'environnement et au niveau…

En bref

Publié
Mis à jour
Source
METR:Notes(网页)
Catégorie
Articles et recherche
Sujet
Sécurité et alignement
Score IA
62
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

METR 用调查型智能体实测 55 个评测,发现当前模型能识别对齐评测,并给出了环境级与任务级线索的分类方法。

Sujets

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : METR mesure la capacité des modèles à reconnaître les évaluations d'alignement : des agents d'investigation distinguent évaluations d'alignement et de capacités. 16. novembre 2026. https://new.nat6.net/fr/news/m4emm1ej7qzex1k77a7mfaztd/

Tout voir →