Chercheurs en alignement automatisé : étendre la supervision scalable grâce aux grands modèles de langage
Titre original:Automated Alignment Researchers: Using large language models to scale scalable oversight
Résumé IA
Anthropic déploie 9 Claude Opus 4.6 comme chercheurs en alignement automatisés (AARs), qui mènent 800 heures de recherche autonome dans un cadre de supervision faible-vers-fort. En proposant, testant et optimisant de façon autonome des solutions d'alignement, les AARs font passer le taux de récupération de l'écart de performance (PGR) de 0,23 à 0,97, pour un coût d'environ 18 000 dollars. Cette étude montre que les grands modèles actuels peuvent déjà mener des recherches d'alignement de façon indépendante, offrant une voie viable pour résoudre la supervision scalable d'une IA superhumaine.
Points clés
- Anthropic déploie 9 Claude Opus 4.
- 6 comme chercheurs en alignement automatisés (AARs),qui mènent 800 heures de recherche autonome…
- En proposant,testant et optimisant de façon autonome des solutions d'alignement,les AARs font…
- Cette étude montre que les grands modèles actuels peuvent déjà mener des recherches d'alignement…
En bref
- Publié
- Mis à jour
- Catégorie
- Articles et recherche
- Score IA
- 74
Anthropic 让 Claude 自主探索对齐方法并接近完美恢复性能,自动化对齐研究的实证终于来了,代码开源,对齐研究者该认真看一遍。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Chercheurs en alignement automatisé : étendre la supervision scalable grâce aux grands modèles de langage. 14. avril 2026. https://new.nat6.net/fr/news/cmnyzulbd01gcsl0fgdwxquf2/