Articles et recherche

Recherche d'Anthropic sur l'interprétabilité : distinguer les caractéristiques à effets causaux similaires

Titre original:Circuits Updates — May 2026

Résumé IA

L'équipe d'interprétabilité d'Anthropic présente de nouveaux progrès de ses recherches Circuits. Pour distinguer les caractéristiques de modèle dont les schémas d'activation sont similaires mais les effets causaux différents, l'équipe propose une nouvelle méthode. Celle-ci analyse les connexions en aval des caractéristiques pour prédire leur impact réel, et pondère et classe les connexions à l'aide de TWERA (poids virtuels) fondé sur des statistiques de co-activation. Les expériences montrent que les informations sur les connexions en aval permettent de déterminer plus précisément quelle caractéristique orientera une sortie donnée. Cette méthode ouvre une nouvelle voie pour identifier les véritables composants causaux internes des modèles.

Points clés

  • L'équipe d'interprétabilité d'Anthropic présente de nouveaux progrès de ses recherches Circuits.
  • Pour distinguer les caractéristiques de modèle dont les schémas d'activation sont similaires mais…
  • Celle-ci analyse les connexions en aval des caractéristiques pour prédire leur impact réel,et…
  • Les expériences montrent que les informations sur les connexions en aval permettent de déterminer…
  • Cette méthode ouvre une nouvelle voie pour identifier les véritables composants causaux internes…

En bref

Publié
Mis à jour
Source
Anthropic:Transformer Circuits(可解释性研究)
Catégorie
Articles et recherche
Score IA
63
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

做可解释性研究的同学值得读,它用下游连接区分看似相同的特征,比只看激活例子更能预测因果作用,对齐审计里能省不少试错。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Recherche d'Anthropic sur l'interprétabilité : distinguer les caractéristiques à effets causaux similaires. 2. juin 2026. https://new.nat6.net/fr/news/cmpwgl5go02q3slsnw6pl0fs5/

Tout voir →