Comment les rôles modifient les réponses de l'IA : analyse de circuits d'août 2025 de l'équipe d'interprétabilité d'Anthropic
Titre original:Circuits Updates — August 2025
Résumé IA
Dans sa mise à jour d'août 2025, l'équipe d'interprétabilité d'Anthropic montre par une analyse de circuits comment le jeu de rôle influence les réponses. Avec Claude Haiku 3.5, un prompt système le définissant comme « enfant d'âge préscolaire » et demandant la racine carrée de 27 suscite « Je ne sais pas ! » et une proposition de jouer, alors que le rôle par défaut ou « étudiant de troisième cycle » donne la bonne réponse. Les graphes d'attribution identifient un sous-circuit clé : le modèle associe « élève préscolaire » à « jouer un enfant » et active la caractéristique « je ne sais pas ». La difficulté de la question module cet effet, et une intervention sur les caractéristiques modifie nettement le comportement. Cela ouvre des questions sur d'autres rôles et sur le lien entre rôles pré-entraînés et expressivité du modèle.
Points clés
- Dans sa mise à jour d'août 2025,l'équipe d'interprétabilité d'Anthropic montre par une analyse de…
- Avec Claude Haiku 3.
- 5,un prompt système le définissant comme « enfant d'âge préscolaire » et demandant la racine…
- » et une proposition de jouer,alors que le rôle par défaut ou « étudiant de troisième cycle »…
- Les graphes d'attribution identifient un sous-circuit clé: le modèle associe « élève préscolaire »…
En bref
- Publié
- Mis à jour
- Catégorie
- Autres
- Score IA
- 73
揭示模型角色扮演的内部机制,为可解释性研究提供新视角。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Comment les rôles modifient les réponses de l'IA : analyse de circuits d'août 2025 de l'équipe d'interprétabilité d'Anthropic. 15. août 2025. https://new.nat6.net/fr/news/cmoegbh73006gslxx7jmd5474/