Articles et recherche

Chercheurs en alignement automatisé : étendre la supervision scalable grâce aux grands modèles de langage

Titre original:Automated Alignment Researchers: Using large language models to scale scalable oversight

Résumé IA

Anthropic déploie 9 Claude Opus 4.6 comme chercheurs en alignement automatisés (AARs), qui mènent 800 heures de recherche autonome dans un cadre de supervision faible-vers-fort. En proposant, testant et optimisant de façon autonome des solutions d'alignement, les AARs font passer le taux de récupération de l'écart de performance (PGR) de 0,23 à 0,97, pour un coût d'environ 18 000 dollars. Cette étude montre que les grands modèles actuels peuvent déjà mener des recherches d'alignement de façon indépendante, offrant une voie viable pour résoudre la supervision scalable d'une IA superhumaine.

Points clés

  • Anthropic déploie 9 Claude Opus 4.
  • 6 comme chercheurs en alignement automatisés (AARs),qui mènent 800 heures de recherche autonome…
  • En proposant,testant et optimisant de façon autonome des solutions d'alignement,les AARs font…
  • Cette étude montre que les grands modèles actuels peuvent déjà mener des recherches d'alignement…

En bref

Publié
Mis à jour
Source
Anthropic:Research(发表成果 · 网页)
Catégorie
Articles et recherche
Score IA
74
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

Anthropic 让 Claude 自主探索对齐方法并接近完美恢复性能,自动化对齐研究的实证终于来了,代码开源,对齐研究者该认真看一遍。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Chercheurs en alignement automatisé : étendre la supervision scalable grâce aux grands modèles de langage. 14. avril 2026. https://new.nat6.net/fr/news/cmnyzulbd01gcsl0fgdwxquf2/

Tout voir →