Articles et recherche

Un espace de travail global dans les modèles de langage

Titre original:A global workspace in language models

Résumé IA

Anthropic a découvert dans Claude un ensemble de motifs neuronaux internes appelés J-space, semblables à l'espace de travail global des neurosciences. Chaque motif est associé à un vocabulaire spécifique, mais le modèle peut l'activer sans prononcer le mot. Claude peut rapporter les représentations du J-space et les moduler sur demande (par exemple, allumer le motif correspondant lorsqu'on lui demande de « réfléchir dans sa tête »). Le J-space sert aussi aux étapes intermédiaires du raisonnement multi-étapes et prend souplement en charge diverses tâches (par exemple associer « France » à sa capitale, sa monnaie, etc.). Sans le J-space, Claude continue de dialoguer normalement mais perd ses fonctions cognitives de haut niveau. Cette découverte pourrait permettre de détecter si un modèle remarque discrètement un test, génère de fausses données ou poursuit un objectif caché.

Points clés

  • Anthropic a découvert dans Claude un ensemble de motifs neuronaux internes appelés…
  • Chaque motif est associé à un vocabulaire spécifique,mais le modèle peut l'activer sans prononcer…
  • Claude peut rapporter les représentations du J-space et les moduler sur demande (par…
  • Le J-space sert aussi aux étapes intermédiaires du raisonnement multi-étapes et prend souplement…
  • Sans le J-space,Claude continue de dialoguer normalement mais perd ses fonctions cognitives de…

En bref

Publié
Mis à jour
Source
Anthropic:Research(发表成果 · 网页)
Catégorie
Articles et recherche
Score IA
90
Lire l'original Lire l'article complet à la source d'origine
Pourquoi c'est important

Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。

Entités associées

Source et droits

Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.

Article original · Fiche AIHOT

Comment citer

Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.

Orange News : Un espace de travail global dans les modèles de langage. 6. juillet 2026. https://new.nat6.net/fr/news/cmr9hdvnk049yslsmggdh1n33/

Tout voir →