Autres

Comment les rôles modifient les réponses de l'IA : analyse de circuits d'août 2025 de l'équipe d'interprétabilité d'Anthropic

Titre original:Circuits Updates — August 2025

Résumé IA

Dans sa mise à jour d'août 2025, l'équipe d'interprétabilité d'Anthropic montre par une analyse de circuits comment le jeu de rôle influence les réponses. Avec Claude Haiku 3.5, un prompt système le définissant comme « enfant d'âge préscolaire » et demandant la racine carrée de 27 suscite « Je ne sais pas ! » et une proposition de jouer, alors que le rôle par défaut ou « étudiant de troisième cycle » donne la bonne réponse. Les graphes d'attribution identifient un sous-circuit clé : le modèle associe « élève préscolaire » à « jouer un enfant » et active la caractéristique « je ne sais pas ». La difficulté de la question module cet effet, et une intervention sur les caractéristiques modifie nettement le comportement. Cela ouvre des questions sur d'autres rôles et sur le lien entre rôles pré-entraînés et expressivité du modèle.

Points clés

  • Dans sa mise à jour d'août 2025,l'équipe d'interprétabilité d'Anthropic montre par une analyse de…
  • Avec Claude Haiku 3.
  • 5,un prompt système le définissant comme « enfant d'âge préscolaire » et demandant la racine…
  • » et une proposition de jouer,alors que le rôle par défaut ou « étudiant de troisième cycle »…
  • Les graphes d'attribution identifient un sous-circuit clé: le modèle associe « élève préscolaire »…

En bref

Publié
Mis à jour
Source
Anthropic:Transformer Circuits(可解释性研究)
Catégorie
Autres
Score IA
73
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

揭示模型角色扮演的内部机制,为可解释性研究提供新视角。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Comment les rôles modifient les réponses de l'IA : analyse de circuits d'août 2025 de l'équipe d'interprétabilité d'Anthropic. 15. août 2025. https://new.nat6.net/fr/news/cmoegbh73006gslxx7jmd5474/

Tout voir →