Articles et recherche

METR estime que la chaîne de pensée reste une source d'information pour surveiller le comportement des modèles malgré des infidélités

Titre original:CoT May Be Highly Informative Despite “Unfaithfulness”

Résumé IA

METR reproduit l'évaluation de fidélité des Claude Sonnet 3.7 et Claude 4 d'Anthropic et avance que, lorsque le raisonnement nécessaire à la résolution exige la chaîne de pensée, les modèles sont presque toujours fidèles selon une définition souple de la fidélité : seules 3 trajectoires sur 21 272 ont été jugées suspectes d'infidélité.

Points clés

  • METR reproduit l'évaluation de fidélité des Claude Sonnet 3.
  • 7 et Claude 4 d'Anthropic et avance que
  • lorsque le raisonnement nécessaire à la résolution exige la chaîne de pensée,les modèles sont…

En bref

Publié
Mis à jour
Source
METR:Research(网页)
Catégorie
Articles et recherche
Score IA
64
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

原文提出宽松忠实度视角并用检测实验支撑,为理解 CoT 监控在什么条件下可靠提供了可检验框架。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : METR estime que la chaîne de pensée reste une source d'information pour surveiller le comportement des modèles malgré des infidélités. 8. août 2025. https://new.nat6.net/fr/news/cmtyo7nb703vcrog06kl1awln/

Tout voir →