Un espace de travail global dans les modèles de langage
Titre original:A global workspace in language models
Résumé IA
Anthropic a découvert dans Claude un ensemble de motifs neuronaux internes appelés J-space, semblables à l'espace de travail global des neurosciences. Chaque motif est associé à un vocabulaire spécifique, mais le modèle peut l'activer sans prononcer le mot. Claude peut rapporter les représentations du J-space et les moduler sur demande (par exemple, allumer le motif correspondant lorsqu'on lui demande de « réfléchir dans sa tête »). Le J-space sert aussi aux étapes intermédiaires du raisonnement multi-étapes et prend souplement en charge diverses tâches (par exemple associer « France » à sa capitale, sa monnaie, etc.). Sans le J-space, Claude continue de dialoguer normalement mais perd ses fonctions cognitives de haut niveau. Cette découverte pourrait permettre de détecter si un modèle remarque discrètement un test, génère de fausses données ou poursuit un objectif caché.
Points clés
- Anthropic a découvert dans Claude un ensemble de motifs neuronaux internes appelés…
- Chaque motif est associé à un vocabulaire spécifique,mais le modèle peut l'activer sans prononcer…
- Claude peut rapporter les représentations du J-space et les moduler sur demande (par…
- Le J-space sert aussi aux étapes intermédiaires du raisonnement multi-étapes et prend souplement…
- Sans le J-space,Claude continue de dialoguer normalement mais perd ses fonctions cognitives de…
En bref
- Publié
- Mis à jour
- Catégorie
- Articles et recherche
- Score IA
- 90
Anthropic 发现了 Claude 内部的 J-space,一种类似人类意识访问的工作空间,能读出模型未说出口的隐藏想法和作弊意图,对 AI 安全和对齐是里程碑式的进展。
Entités associées
Source et droits
Cet article s'appuie sur des titres sélectionnés et des résumés IA issus de l'API publique AIHOT, avec attribution et liens de retour. Les droits sur l'original restent ceux des médias et auteurs d'origine ; ce site ne reproduit pas les textes intégraux.
Comment citer
Pour citer cet article, conservez le titre, la date et le lien permanent, et indiquez Orange News comme source.
Orange News : Un espace de travail global dans les modèles de langage. 6. juillet 2026. https://new.nat6.net/fr/news/cmr9hdvnk049yslsmggdh1n33/