Anthropic vient de découvrir quelque chose à l'intérieur de ses modèles Claude que personne n'a conçu ni prévu. Une structure interne appelée « J-space » semble fonctionner comme un espace de travail cognitif partagé à travers le modèle.
La recherche du 6 juillet marque une étape majeure dans la compréhension de ce qui se passe réellement à l'intérieur des grands modèles de langage.
Ce qu'est réellement le J-Space à l'intérieur de Claude
Le J-space est une zone interne où Claude semble rassembler et partager des informations importantes à travers le modèle. Une façon simple de le penser est comme un tableau blanc à l'intérieur de l'IA.
Lorsque Claude répond à une question, résout une énigme ou suit une instruction, des détails clés semblent apparaître dans cet espace partagé afin que différentes parties du modèle puissent les utiliser.
Anthropic a trouvé le J-space en utilisant un outil de recherche appelé « J-lens ». Cet outil aide les chercheurs à inspecter comment l'information se déplace à l'intérieur de Claude pendant une tâche. Il a montré que le J-space émergeait de lui-même pendant l'entraînement. Anthropic ne l'a pas conçu directement.
Suivez-nous sur X pour obtenir les dernières nouvelles au fur et à mesure qu'elles se produisent.
L'idée est similaire à une théorie en neurosciences appelée « espace de travail global ».
Chez les humains, cela décrit comment le cerveau rend des informations importantes disponibles à différents processus mentaux en même temps. Par exemple, lorsque quelqu'un entend une question, se souvient d'un fait et décide comment répondre, ces morceaux d'information doivent se rassembler.
Claude semble faire quelque chose de similaire. Anthropic a découvert que Claude peut décrire ce qui se trouve dans son J-space lorsqu'on lui demande. Il peut également ajuster ces contenus si on lui en donne l'instruction.
Plus important encore, lorsque les chercheurs ont directement modifié l'espace J, les réponses et les performances de Claude ont également changé.
Pourquoi cela importe pour la sécurité et l'interprétabilité de l'IA
Cette découverte a un poids réel pour la sécurité de l'IA. Si les chercheurs peuvent surveiller l'activité de l'espace J, ils peuvent potentiellement découvrir des motivations cachées derrière le comportement d'un modèle. En conséquence, ils obtiennent un outil plus précis pour repérer quand quelque chose ne va pas.
Cela inclut la détection des attaques. Surveiller l'espace J pourrait révéler quand un modèle traite une tentative d'injection de prompt conçue pour détourner ses sorties. De plus, même une fenêtre partielle sur cette couche de traitement « consciente » marque une avancée significative pour le domaine.
Cependant, la portée reste limitée. La grande majorité du traitement de l'information de Claude se déroule encore entièrement en dehors de l'espace J.
Néanmoins, Anthropic a publié une implémentation open-source de J-lens et une démo de Neuronpedia, invitant la communauté de recherche plus large à tester les résultats.
Abonnez-vous à notre chaîne YouTube pour regarder des leaders et des journalistes fournir des analyses d'experts..
Ce travail s'appuie sur une longue traîne de recherche. Anthropic a publié un rapport sur la prise de conscience introspective émergente en octobre 2025. De plus, il a lancé des initiatives de bien-être des modèles en avril 2025, explorant progressivement ce qui se passe à l'intérieur de ses systèmes.
Une mise en garde se distingue clairement. Anthropic est catégorique sur le fait que la recherche ne prétend pas que Claude est conscient ou a une expérience subjective. Le document utilise l'expression « information consciemment accessible », empruntant le vocabulaire sans faire le saut vers une véritable conscience.
Source : BeInCrypto
