Anthropic développe et évalue trois agents réalisant automatiquement des audits d'alignement
Titre original:Building and evaluating alignment auditing agents
Résumé IA
Anthropic publie trois agents exécutant de façon autonome des tâches d'audit d'alignement, évalués dans des environnements modèles comportant des défauts implantés. L'agent enquêteur remporte 13 % des parties du jeu d'audit de Marks et al. en conditions réelles, porté à 42 % par agrégation multi-agents ; l'agent évaluateur distingue les modèles avec et sans comportement implanté dans 88 % des exécutions ; l'agent red team en largeur découvre 7 des 10 comportements implantés.
Points clés
- Anthropic publie trois agents exécutant de façon autonome des tâches d'audit d'alignement,évalués…
- L'agent enquêteur remporte 13 % des parties du jeu d'audit de Marks et al.
- en conditions réelles,porté à 42 % par agrégation multi-agents
- l'agent évaluateur distingue les modèles avec et sans comportement implanté dans 88 % des exécutions
- l'agent red team en largeur découvre 7 des 10 comportements implantés.
En bref
- Publié
- Mis à jour
- Catégorie
- Articles et recherche
- Score IA
- 68
Anthropic 报告了三个对齐审计智能体在植入缺陷模型上的可复现成绩,并公开部分代码与提示词,读者可以了解自动化审计的实际能力与局限。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Anthropic développe et évalue trois agents réalisant automatiquement des audits d'alignement. 25. juillet 2025. https://new.nat6.net/fr/news/b2vmn7tkytgs01vo5htab6uon/