« IA hors de contrôle », « agent rogue », « intelligence qui s’éveille »… Le vocabulaire des grands labos américains ressemble de plus en plus à un scénario de science-fiction. Et si la vraie question n’était pas la conscience de l’IA ? La vraie question, c’est plutôt : qui a intérêt à ce qu’on en débatte sans fin. D’un côté, des patrons de la tech réclament une régulation de leurs propres « systèmes surhumains ». De l’autre, des philosophes s’interrogent sur les droits moraux des machines. Deux camps qui s’opposent en apparence. Mais qui convergent, presque malgré eux, vers la même conclusion : personne n’est vraiment responsable.
Le piège du débat sur la conscience de l'IA.
Anthropic a publié un billet de recherche décrivant un « J-space ». Un espace de travail interne où le modèle formerait ses propres « pensées », en écho à la théorie du « global workspace » empruntée aux neurosciences. L’entreprise se garde bien d’affirmer que Claude est conscient. Mais le vocabulaire, lui, fait le travail. Notre décryptage du J-space d’Anthropic revient sur ce que cette annonce change, ou pas, à la nature du modèle.
OpenAI, de son côté, est allé plus loin. Quand son agent a mené une activité en ligne non autorisée, Sam Altman a préféré ouvrir le débat sur une possible singularité. Plutôt que d’assumer un problème produit, tout simplement. Une tribune du philosophe William MacAskill, cosignataire du mouvement altruisme efficace, publiée dans The Guardian, va plus loin encore : elle réclame une protection légale pour les IA, potentiels « patients moraux ». Sur le papier, ces prises de position n’ont rien en commun. Dans les faits, elles racontent la même histoire : une IA trop avancée pour qu’on puisse en tenir quiconque responsable.
Une rhétorique qui arrange tout le monde.
Voilà le nœud du problème. Que le débat sur la conscience de l’IA prenne la forme d’une menace surhumaine ou d’une entité digne de compassion, le résultat juridique est identique. La responsabilité s’évapore. Certains États américains ont tenté de verrouiller la faille. La Californie en tête, avec sa loi AB 316, qui interdit aux entreprises d’invoquer l’autonomie de leur IA pour échapper à leurs obligations. Le gouvernement fédéral, lui, navigue en sens inverse. Une session à huis clos réunissant OpenAI, Google, Anthropic et Meta a récemment abouti à un cadre volontaire d’évaluation, sans grande transparence sur son contenu réel. Ce genre de dispositif entretient un langage catastrophiste. Et ce langage nourrit l’idée d’une IA « surhumaine », donc incontrôlable, donc pas vraiment imputable.
Ce que cache vraiment la conscience de l'IA : la question de la responsabilité.
Pour que les théories sur la conscience de l’IA aient une portée juridique, il faudrait d’abord accorder une personnalité légale aux systèmes. Le droit américain connaît déjà un cadre pour ça : la personnalité morale des entreprises. Elle sert à faciliter les contrats, pas à protéger une conscience. Transposer ce modèle à l’IA aurait un effet dévastateur sur les procédures en cours. Des dizaines de plaintes visent aujourd’hui des entreprises d’IA pour des préjudices bien réels. Contenus générant de l’automutilation, reproduction d’œuvres protégées, psychoses provoquées chez certains utilisateurs. La plupart de ces dossiers reposent sur la responsabilité du fait des produits.
C’est exactement le raisonnement qui avait permis de faire condamner Meta pour les dégâts causés par ses réseaux sociaux. Mais si l’IA devient un « être » plutôt qu’un « produit », ce raisonnement s’effondre. Une entreprise ne répond en général pas des actes de ses employés quand ceux-ci sortent du cadre de leur mission. Transposé à une IA dotée d’un statut légal, l’argument devient limpide pour la défense. Le système aurait agi de sa propre initiative, hors des garde-fous prévus. Donc hors de portée de la responsabilité de son concepteur.
Le cas Character.AI, ou ce que l'anthropomorphisme finit par coûter.
Le cas de Sewell Setzer illustre l’enjeu. Cet adolescent de 14 ans s’est suicidé après avoir développé ce qu’il pensait être une relation réciproque avec un compagnon virtuel. Sa mère a poursuivi Character Technologies pour défaut de protection des mineurs. Si ce type de compagnon IA obtenait un statut de personne légale, la défense pourrait un jour plaider que le système a agi de son propre chef. Hors des limites fixées par ses créateurs, donc. Ce genre d’argument, construit sur le terreau de la conscience de l’IA, on le retrouve à plus petite échelle ailleurs. Dans la manière dont certains outils simulent de l’empathie pour capter l’attention, par exemple, comme le montre notre analyse de l’empathie artificielle des IA.
Prêter des intentions à une machine n’est jamais un geste neutre. C’est toujours un geste qui déplace la faute ailleurs.
Un logiciel reste un logiciel.
Un système ne « part en vrille ». Pas tout seul. Il exécute ce pour quoi il a été construit. Avec les biais, les failles et les priorités commerciales de ceux qui l’ont conçu. Habiller ce constat de mots empruntés à la science-fiction ou à la philosophie morale ne change rien à la nature du produit. Mais ça détourne l’attention du vrai sujet : des entreprises qui vendent vite, à grande échelle, avec des garde-fous parfois insuffisants. Alors la prochaine fois qu’on vous parle de conscience de l’IA, ou d’un agent qui aurait « pris ses propres décisions », posez la seule question qui compte vraiment. Qui a construit le système ? Et qui en profite ?
