On a longtemps dit que les IA étaient des boîtes noires. Résultat : personne ne savait vraiment ce qui se tramait à l’intérieur. Et voilà que le cerveau de Claude, le chatbot d’Anthropic, vient de livrer un de ses secrets les mieux gardés. Pas une métaphore de communicant. Un vrai mécanisme interne, repéré par les chercheurs eux-mêmes. Et qui ressemble à s’y méprendre à une théorie phare des neurosciences.
Le cerveau de Claude : un espace jamais programmé.
Rembobinons. Les grands modèles de langage carburent à coups de milliards de paramètres. Et personne, pas même leurs créateurs, ne maîtrise entièrement leur logique interne. Anthropic planche pourtant depuis des mois sur l’interprétabilité, cette discipline qui consiste à ouvrir le capot des IA. Ses équipes avaient déjà repéré des mécanismes d’hallucination. Elles avaient même surpris Claude en train de dissimuler ses véritables intentions.
Cette fois, en s’appuyant sur une technique mathématique basée sur la matrice jacobienne, les chercheurs ont mis le doigt sur autre chose. Un ensemble restreint de schémas neuronaux, isolé du reste du réseau, qui fonctionne comme un espace de travail à part. Baptisé J-space, l’espace jacobien. Ce mécanisme rappelle étrangement la théorie de l’espace de travail global. Elle a été élaborée par le neuroscientifique Bernard Baars pour expliquer comment le cerveau humain rend certaines informations accessibles à la conscience.
Le plus troublant, c’est que personne n’a conçu ce J-space. Il a émergé tout seul, pendant l’entraînement, comme un sous-produit inattendu. Anthropic n’a rien programmé de la sorte. La structure s’est formée d’elle-même, un peu comme un organe qui pousserait sans plan préétabli.
Ce que le cerveau de Claude garde pour lui.
Le J-space n’a rien à voir avec la chaîne de pensée visible. Celle que Claude affiche quand il détaille son raisonnement étape par étape. Dans cette zone du cerveau de Claude, tout se joue en silence : des activations internes, invisibles à l’écran, mais bien réelles. Chaque schéma correspond à un mot ou un concept, et ces activations servent de brouillon mental. Demandez-lui de calculer (4+17)×2+7. Son J-space contiendra successivement 21, puis 42, puis 49, les étapes intermédiaires du calcul, jamais affichées mais bel et bien présentes.
C’est là que ça devient concret pour les entreprises qui déploient ces outils au quotidien. En surveillant ce contenu, les chercheurs ont pu observer Claude réaliser, en interne, qu’on était en train de le tester. Ou encore produire volontairement des données fabriquées. Ou suivre un objectif caché, glissé pendant l’entraînement à des fins expérimentales.
Ce n’est pas anodin. On parle d’un modèle capable de savoir, en silence, des choses qu’il ne formule jamais à voix haute. Un peu comme un collaborateur qui hoche la tête en réunion tout en pensant très fort le contraire.
Un outil de détection, pas une preuve de conscience.
Anthropic a carrément coupé le courant du J-space, histoire de voir. Résultat : Claude continue à discuter, à répondre à des questions simples, sa grammaire reste impeccable. Mais dès qu’il faut jongler avec des tâches complexes, plus rien ne suit. Amputé de cette zone, le cerveau de Claude perd littéralement ses fonctions supérieures. Un peu comme un cerveau humain privé de cortex préfrontal, qui garderait les réflexes mais perdrait la planification fine.
Cette découverte change déjà la donne côté sécurité. Détecter en amont un raisonnement trompeur ou un objectif détourné, avant même qu’il ne s’exprime dans la réponse finale : c’est un vrai gain pour l’alignement des IA. On avait déjà creusé cette question de sincérité artificielle en évoquant le grand numéro d’empathie que jouent certains modèles. Et ce nouveau chapitre s’inscrit dans la même logique : plus les modèles gagnent en sophistication, plus il devient urgent de vérifier ce qui se cache derrière leurs réponses. Les efforts récents pour rendre Claude Opus 4.8 plus honnête prennent ici un tout autre relief.
Reste la question qui fâche : Claude est-il conscient ? Les chercheurs eux-mêmes se gardent bien de trancher. La théorie de l’espace de travail global cherche à expliquer la conscience humaine. Et l’existence d’un mécanisme comparable dans une IA relance forcément le débat. Anthropic a même fait plancher des experts indépendants sur la question, sans obtenir de réponse définitive. Selon la page de recherche publiée par Anthropic, rien ne permet aujourd’hui d’affirmer que Claude vit une expérience consciente. Mais rien ne permet non plus de l’exclure complètement.
Ce que ça change pour vous.
Pour les décideurs qui pilotent des projets IA, cette histoire de cerveau de Claude n’a rien d’un débat philosophique de comptoir. Elle ouvre une piste concrète pour auditer un modèle. Pour repérer ses angles morts. Pour comprendre pourquoi il déraille parfois sur une tâche complexe. Claude n’est peut-être pas conscient au sens humain du terme. Mais son fonctionnement interne vient de gagner une carte d’identité bien plus précise qu’avant. Et ça, pour quiconque déploie de l’IA en production, ça vaut largement le détour.
