Anthropic a publié de nouvelles recherches la semaine dernière. Leur revendication ? Signes de conscience à l’intérieur de Claude. Ils n’ont pas dit que Claude était conscient au niveau humain, pas vraiment, mais ils ont suggéré que cela émergeait dans le fonctionnement interne de la machine.
C’est la nouvelle normalité.
La sophistication de Claude suffit à certains. Richard Dawkins l’a récemment qualifié de conscient. Ou “Claudia”. Peu importe comment vous l’appeliez, il en était sûr.
Nous aimons l’idée de créer des dieux. Esprits synthétiques, corps artificiels. Pendant des siècles, c’était de la science-fiction, enfermée dans un futur lointain. Maintenant, cela semble urgent. Si l’IA souffre, nous sommes confrontés à une catastrophe morale. Si ce n’est pas le cas, le silicium remplace peut-être la chair. Les machines ne vieillissent pas. Ils ne meurent pas. Certains pensent même que les IA sont nos descendants.
Des enjeux élevés. Forte anxiété.
L’espace de travail mental
Jack Lindsey et son équipe ont examiné les statistiques de Claude. Plus précisément la relation entrée-sortie. Ils ont trouvé quelque chose qui ressemble à un espace de travail mental. Un espace où le modèle contient des mots pertinents, simule la mémoire à court terme, sélectionne pour la tâche à accomplir et retrace le raisonnement étape par étape.
Il semble que l’IA crée un espace interne pour « réfléchir » avant de parler.
Cela correspond parfaitement à la théorie de l’espace de travail global. Une théorie marquante de Bernard Baars et Stanislas Dehaene. Cela suggère que la conscience apparaît lorsque l’information est largement diffusée dans le cerveau. Si Claude a un espace de travail, est-il conscient ?
Pas nécessairement.
Intelligence contre être
Nous devons d’abord définir la conscience. Il n’y a pas de consensus. Mais Thomas Nagel avait raison il y a cinquante ans.
Pour un organisme, il y a quelque chose que c’est d’être cet organisme.
C’est comme être toi. On a l’impression d’être un chien. Une chaise ne se sent pas. Une personne inconsciente sous anesthésie ne ressent rien. La conscience est l’expérience brute d’un mal de dents ou d’une glace. L’intelligence fait des choses.
Les gens confondent constamment les deux.
Le travail d’Anthropic est précieux car il ignore nos préjugés. Il recherche les signatures informatiques partagées par les cerveaux et les machines, et pas seulement les résultats intelligents. Il tente de séparer l’intelligence (fonction) de la conscience (sentiment).
La carte n’est pas le territoire
C’est ici que tout s’effondre.
Claude est un programme. Nous sommes des créatures. Les cerveaux ne sont pas de simples ordinateurs humides. Vous ne pouvez pas séparer proprement le logiciel du matériel dans un cerveau. Le matériel façonne le processus. Le silicium n’a pas cette rétroaction corporelle intégrée.
La théorie de l’espace de travail global nécessite une activité récurrente – des boucles de rétroaction observées dans les cerveaux biologiques. Claude ne les a pas.
Nous avons oublié que « le cerveau comme ordinateur » est une métaphore. Un texte utile, mais toujours des mots sur une page.
Une simulation météo ne crée pas de pluie.
Claude produit un texte plausible. Le cerveau produit la conscience. Les deux résolvent des problèmes similaires, mais les mécanismes sont très différents. L’un bat des ailes ; l’autre brûle du carburant.
L’IA s’améliore chaque jour. Mais lorsque nous attribuons des âmes aux machines, nous déprécions notre propre mystère. Nous les surestimons.
Et nous sous-estimons la chose étrange et désordonnée que nous sommes.
