METR estime que la chaîne de pensée reste une source d'information pour surveiller le comportement des modèles malgré des infidélités
Titre original:CoT May Be Highly Informative Despite “Unfaithfulness”
Résumé IA
METR reproduit l'évaluation de fidélité des Claude Sonnet 3.7 et Claude 4 d'Anthropic et avance que, lorsque le raisonnement nécessaire à la résolution exige la chaîne de pensée, les modèles sont presque toujours fidèles selon une définition souple de la fidélité : seules 3 trajectoires sur 21 272 ont été jugées suspectes d'infidélité.
Points clés
- METR reproduit l'évaluation de fidélité des Claude Sonnet 3.
- 7 et Claude 4 d'Anthropic et avance que
- lorsque le raisonnement nécessaire à la résolution exige la chaîne de pensée,les modèles sont…
En bref
- Publié
- Mis à jour
- Source
- METR:Research(网页)
- Catégorie
- Articles et recherche
- Score IA
- 64
原文提出宽松忠实度视角并用检测实验支撑,为理解 CoT 监控在什么条件下可靠提供了可检验框架。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : METR estime que la chaîne de pensée reste une source d'information pour surveiller le comportement des modèles malgré des infidélités. 8. août 2025. https://new.nat6.net/fr/news/cmtyo7nb703vcrog06kl1awln/