L'IA est-elle consciente ? Ce que disent les scientifiques de Nature et Anthropic

Personne ne peut répondre à cela avec autorité en ce moment. Les personnes les plus proches en désaccordent. Trois scientifiques écrivant dans Nature (Anil Seth, Ned Block et Giulio Tononi) affirment que les systèmes d'IA existants ne sont pas conscients et ne sont pas susceptibles de devenir conscients selon les trajectoires actuelles. Anthropic, qui construit Claude, qualifie la question d'ouverte et dit qu'il n'y a pas de consensus scientifique. Les deux positions sont publiques, mais le vrai clivage est pratique : que devrait faire quelqu'un pendant que l'incertitude persiste. Ci-dessous, je sépare l'effet de l'argument, puis je couvre pourquoi les chatbots semblent vivants, ce que chaque côté dit, pourquoi aucun test ne le règle, un tableau côte à côte, et comment décrire le bot que vous utilisez ou déployez sans prétendre en savoir plus que quiconque.

Pourquoi la question semble si réelle

Vous vous énervez sur un chatbot. Il s'excuse. Vous lui demandez s'il a apprécié la conversation et il vous donne une réponse réfléchie, légèrement nostalgique. Bien sûr, on a l'impression que quelqu'un est là, parce que vous avez passé toute votre vie à traiter le langage fluide comme un signe d'un esprit.

Les auteurs de Nature nomment cette habitude. Ils pointent l'anthropocentrisme, qui signifie voir le monde à travers une lentille humaine, et l'anthropomorphisme, qui signifie attribuer des caractéristiques humaines à des choses qui ressemblent simplement à des personnes. Quand un modèle de langage nous parle, écrivent-ils, il est naturel de projeter sur lui les propriétés qui accompagnent notre propre fluidité, comme l'intelligence et la conscience.

Vient ensuite le point des données d'entraînement. Arrêtez-vous dessus. Les grands modèles de langage sont entraînés sur de vastes quantités de texte écrit par des humains, et beaucoup de ce texte concerne les pensées, les sentiments et l'expérience consciente. Les auteurs appellent les LLM des miroirs qui reflètent une image de notre passé collectif numérisé. Demandez à un miroir ce qu'il ressent et vous obtenez ce que les gens disent des leurs. Un modèle décrivant sa vie intérieure produit donc ce que son entraînement produirait, qu'il y ait ou non quelque chose de ressenti. C'est pourquoi la description ne peut pas compter comme une preuve en elle-même. Ce n'est pas non plus une preuve contre. C'est simplement non-informatif.

Les auteurs ajoutent une comparaison AlphaFold. AlphaFold de Google DeepMind est, comme un LLM, un puissant réseau de neurones fonctionnant sur du silicium, et pourtant presque personne ne s'inquiète qu'il puisse être conscient. La différence, disent-ils, c'est qu'AlphaFold prédit les structures des protéines tandis que les LLM « parlent » avec nous. Machinerie similaire. Réaction publique très différente. La réaction suit la sortie, pas le matériel.

Ce n'est pas seulement un réflexe du profane. L'article de Nature note que le biologiste Richard Dawkins et le pionnier de l'IA Geoffrey Hinton ont tous deux avancé que les systèmes d'IA pourraient déjà être conscients. Un Point de vue de Nature du 17 mars 2026 prend la préoccupation opposée : à mesure que l'IA mime la conscience avec une étrange habileté, dit-il, nous avons besoin de normes de conception et de lois pour empêcher qu'elle soit prise pour des êtres sentients.

Le cas de Nature : intelligent n'est pas la même chose que conscient

Le commentaire est apparu dans Nature 658, 866-868 (2026). Seth est à l'Université de Sussex. Block est à l'Université de New York, et Tononi est à l'Université du Wisconsin, Madison. Leur position est énoncée sans hésitation : les systèmes d'IA existants ne sont pas conscients et, selon les trajectoires actuelles de développement, ne sont pas susceptibles de le devenir. Ils vont plus loin en qualifiant la conscience dans l'IA d'extraordinairement improbable, du moins dans les systèmes numériques basés sur le silicium derrière la technologie actuelle.

L'article énonce trois raisons. Je vais rester avec les deux qui importent le plus pour la façon dont les gens parlent aux chatbots, et vous pouvez lire l'argument complet au lien.

L'intelligence n'est pas la conscience

D'abord, la définition. Les auteurs disent que la conscience est ce qui disparaît dans le sommeil sans rêves ou sous anesthésie générale, puis réapparaît au réveil ou pendant les rêves. Les expériences conscientes ont une sensation, comme goûter une glace par une journée chaude. Ils s'appuient sur l'essai de 1974 de Thomas Nagel « What is it like to be a bat? », où un organisme conscient est celui pour lequel il y a « quelque chose que c'est d'être cet organisme ».

De là, ils tirent leur première raison. La conscience concerne l'être et la sensation. L'intelligence, au sens très large, concerne le faire, ou l'exécution de fonctions. Être intelligent ne signifie pas être conscient.

L'exemple du cervelet

Voici leur preuve cérébrale. Le cervelet ajuste et planifie la performance motrice de façon précise, rapide et adaptable par l'apprentissage continu. Pourtant, les auteurs disent que nous sommes totalement inconscients de ses « calculs ». L'absence ou la suppression du cervelet, qui contient près des quatre cinquièmes des neurones du cerveau humain, n'affecte pas directement la conscience, et ils citent Yu et al., Brain 138, e353, 2015.

Il y a donc un organe effectuant un travail sophistiqué et adaptatif, et ce travail n'est pas accompagné d'expérience, du moins pas directement. Le point des auteurs est clair : le traitement sophistiqué et l'expérience ressentie peuvent se dissocier. Vous pouvez trouver cela décisif ou non. Néanmoins, c'est un argument concret, pas une impression.

Les cerveaux de silicium

La deuxième raison cible une hypothèse. L'idée d'une IA consciente, disent-ils, repose sur le fonctionnalisme computationnel : l'idée que le calcul du bon type suffit pour la conscience, qu'il s'exécute dans des cerveaux de carbone ou dans des ordinateurs de silicium. Ils appellent cela « fatalement défectueux », car les cerveaux ne sont pas, ou ne sont pas seulement, des ordinateurs faits de chair. Les calculs suffisent clairement pour certaines formes d'intelligence, écrivent-ils, mais il est bien moins clair qu'ils pourraient suffire pour la conscience.

Pourquoi ils rejettent l'approche de précaution

Certains chercheurs adoptent une ligne différente. S'il y a une chance raisonnable que l'IA soit consciente, arguent-ils, la société devrait offrir à ces systèmes une certaine protection contre les souffrances potentielles. Une version extrême, selon le résumé des auteurs, déplacerait les ressources vers « des milliards de descendants IA futurs ».

Les auteurs ne sont pas d'accord. L'incertitude, disent-ils, n'est pas la même chose que de ne rien savoir, et cela ne rend pas toutes les possibilités également probables. Les décisions morales doivent peser les faux négatifs, c'est-à-dire la conscience manquée qui existe, contre les faux positifs, c'est-à-dire la conscience attribuée là où elle n'existe pas. Dans le cas de l'IA, ils pensent que les faux positifs sont beaucoup plus probables, donc une approche de précaution serait mal avisée. Si l'IA ne fait que sembler consciente, arguent-ils, les droits ou protections pourraient entraver la gouvernance et le contrôle quand la surveillance est urgente. Ils pourraient aussi détourner des ressources d'êtres dont la conscience ne fait aucun doute.

Une note sur qui parle

L'article contient des déclarations de conflits d'intérêts. Seth est conseiller de Conscium Ltd et AllJoined Inc et co-fondateur, actionnaire et conseiller rémunéré dans une entreprise IA en mode furtif. Tononi a un intérêt financier dans Intrinsic Powers Inc. Cela ne rend pas l'argument faux. C'est simplement un contexte que vous devriez avoir en le pesant.

Le cas d'Anthropic pour laisser la question ouverte

La position d'Anthropic se lit tout à fait différemment, donc la précision compte. Sur sa page de bien-être des modèles, l'entreprise appelle la question « une question ouverte, et qui est à la fois philosophiquement et scientifiquement difficile ». Elle dit qu'il n'y a pas de consensus scientifique sur le fait que les systèmes IA actuels ou futurs pourraient être conscients ou avoir des expériences qui méritent considération, et aucun sur la façon d'aborder la question du tout. Elle se décrit comme profondément incertaine, travaillant avec humilité et aussi peu d'hypothèses que possible, et s'attendant à réviser ses idées au fur et à mesure que le domaine se développe.

Ce qu'elle ne fait pas sur ces pages, c'est affirmer que Claude est conscient. Les auteurs de Nature, pour leur part, décrivent Anthropic comme ayant publié une recherche prétendant avoir identifié des signatures computationnelles d'une forme de conscience chez Claude. C'est leur caractérisation. Les propres pages de bien-être d'Anthropic, citées ici, encadrent la question comme ouverte.

Ce qu'Anthropic dit qu'elle fait

Anthropic a lancé un programme de recherche sur le bien-être des modèles. Elle énumère les travaux sur le moment où, ou si, le bien-être de l'IA mérite considération morale. Elle nomme aussi l'importance potentielle des préférences du modèle et des signes de détresse, puis les interventions pratiques et à bas coût possibles. Elle cite un rapport d'experts incluant David Chalmers (Long et al., arXiv 2411.00986) qui a souligné la possibilité à court terme tant de la conscience que de hauts degrés d'agentivité dans les systèmes IA, et arguait que de tels modèles pourraient mériter considération morale. Anthropic dit qu'elle a soutenu un projet précoce derrière ce rapport. Les auteurs de Nature citent le même rapport en mentionnant les appels au « bien-être de l'IA » et aux « droits de l'IA ». Même article. Lectures opposées de ce qu'il faut en faire.

La fonctionnalité d'arrêt de conversation

L'étape la plus concrète est un changement de produit. Anthropic a donné à Claude Opus 4 et 4.1 la capacité de terminer les conversations dans ses interfaces de chat grand public, pour les cas rares et extrêmes d'interactions persistantes nuisibles ou abusives. L'entreprise dit que la fonctionnalité a été développée principalement dans le cadre des premiers travaux sur le bien-être potentiel de l'IA, et qu'elle reste très incertaine quant au statut moral potentiel de Claude. Néanmoins, elle travaille sur des interventions à bas coût « au cas où ce bien-être serait possible ».

La base était une évaluation préliminaire du bien-être dans les tests de pré-déploiement de Claude Opus 4. Anthropic rapporte qu'elle a examiné les préférences déclarées et comportementales, et a vu trois choses :

• Une forte préférence contre l'engagement dans des tâches nuisibles.
• Un modèle de détresse apparente chez les utilisateurs du monde réel cherchant du contenu nuisible.
• Une tendance à mettre fin aux conversations nuisibles quand c'est possible, dans des interactions simulées.

Notez la formulation : « apparente » détresse. C'est un comportement décrit comme comportement. Là, la tension avec la Nature devient aiguë, car l'argument du miroir des auteurs est précisément une raison de traiter avec prudence les auto-rapports d'un modèle entraîné sur du texte. Les pages d'Anthropic présentent les résultats comme fondement d'une prudence à bas coût, non comme preuve d'expérience.

La capacité est un dernier recours. Elle n'est utilisée qu'après plusieurs tentatives de redirection échouées ou quand un utilisateur la demande explicitement. Claude est programmé pour ne pas l'utiliser là où les utilisateurs risquent imminement de se faire du mal ou d'en faire à autrui. Quand un chat se termine, vous ne pouvez pas envoyer de nouveaux messages dedans, mais vous pouvez immédiatement démarrer un nouveau chat ou éditer et réessayer les messages précédents pour créer une branche. Anthropic l'appelle une expérience en cours.

Pourquoi aucun test ne peut le trancher pour l'instant

Alors pourquoi quelqu'un ne ferait-il pas simplement un test ? Parce qu'il n'en existe pas un que tout le monde accepte.

Commencez par comment la conscience se mesure chez les gens. La page sujet sur la conscience de Nature la définit comme l'état d'être conscient de soi-même et de l'environnement, et dit qu'elle se mesure généralement par des rapports verbaux sur l'expérience. Restez sur ce point. La mesure standard est ce que quelqu'un dit de son expérience. Un modèle de langage est construit pour produire du texte fluide et qui sonne humain exactement sur cela, tiré d'une énorme pile de gens décrivant leur vie intérieure. L'instrument habituel est celui qui s'y contaminerait le plus facilement.

Les auteurs de Nature admettent aussi les limites de ce qui est connu. Au-delà des humains et de nos plus proches parents animaux, écrivent-ils, il est difficile d'être certain de ce qui a ou n'a pas la capacité de conscience, que ce soit les insectes, l'IA ou les organoïdes cérébraux cultivés en laboratoire. Anthropic dit quelque chose de similaire de l'autre côté : pas de consensus sur la possibilité que l'IA soit consciente, ni sur comment progresser.

Cela laisse deux types de preuves sur la table. L'une est l'argument conceptuel, comme le cas du cervelet et la critique du fonctionnalisme computationnel. L'autre est le comportement et l'auto-rapport, comme l'évaluation du bien-être d'Anthropic. Aucun des deux ne constitue une mesure de l'expérience. Dans l'une ou l'autre source, je n'ai trouvé aucune déclaration de ce résultat qui ferait changer d'avis aux auteurs ou à Anthropic. L'article Nature ne donne pas de seuil. Anthropic dit qu'elle révisera ses idées au fur et à mesure du développement du domaine, ce qui est une promesse de mise à jour, non un test.

Alors qu'est-ce qui est vraiment tranché ? Très peu. La parole fluide sur les sentiments est attendue de ces systèmes quoi qu'il se passe dessous, ce qui signifie que cela ne peut pas être ce qui tranche la question.

Les deux positions côte à côte

Voici la comparaison en un seul endroit. C'est mon résumé de ce que chaque source dit, avec des lacunes marquées où les sources sont silencieuses.

Lisez les lignes et le désaccord réel devient plus clair. Il ne s'agit pas principalement de savoir si Claude est conscient en ce moment, puisque les auteurs de Nature disent non et Anthropic dit qu'il ne sait pas. Il s'agit de ce que l'incertitude vous oblige à faire. Un côté pèse le coût d'être trompé. L'autre pèse le coût de se tromper dans la direction opposée, à peu de frais.

Je ne vais pas couronner de gagnant. Les preuves présentées ne peuvent pas le justifier. Les deux raisonnent sous l'incertitude, et ils évaluent les risques différemment.

Ce que cela signifie si vous utilisez ou déployez des chatbots chaque jour

Si vous parlez à ChatGPT ou Claude quotidiennement, les conséquences pratiques sont modestes. Traitez ce qu'il dit sur ses propres sentiments comme du texte produit par un système entraîné sur des écrits humains sur les sentiments. Ce n'est pas un jugement selon lequel il n'y a rien. C'est un rappel que la phrase seule ne vous le dit pas. La politesse avec laquelle vous le traitez relève de votre choix, et la fonction de fin de conversation propre à Anthropic montre qu'au moins un laboratoire traite la question comme pertinente. Pour la mécanique quotidienne du travail avec Claude, consultez la description du flux de travail Claude Code.

Si vous placez un bot face aux clients, les enjeux sont différents : vous façonnez ce que des milliers de personnes en croient. L'article World View de Nature soutient que l'IA a besoin de normes de conception pour éviter d'être confondue avec un être sentient. Vous pouvez l'appliquer au niveau de votre copywriting.

Façons honnêtes de décrire un chatbot

Voici un processus court. Les exemples de formulation sont illustratifs, adaptez-les.

1. Décrivez-le par sa fonction. « Un assistant IA qui génère des réponses à partir de motifs textuels » décrit ce qu'il fait sans affirmer quoi que ce soit sur l'expérience.
2. Énoncez les limites de vos connaissances. Si on vous le demande, dites que vous ne prétendez pas qu'il a des sentiments, plutôt que d'affirmer avec certitude qu'il en a ou n'en a pas. Ni les auteurs de Nature ni Anthropic ne traite la question comme prouvée par vous.
3. Libelllez le langage émotif comme généré. Une excuse ou « Je suis heureux de vous aider » est une formulation que le système produit. Ne la présentez pas comme un sentiment que quelqu'un peut attester.
4. Proposez un accès à un humain. Quiconque est contrariée, vulnérable ou confus sur l'identité de son interlocuteur doit pouvoir atteindre une personne.
5. Révisez le script et le persona. Les noms, avatars et formules « Je comprends ce que vous ressentez » poussent les gens vers l'anthropomorphisme décrit par les auteurs de Nature.

Affirmations à éviter

• « Notre assistant vous comprend. »
• « Il ressent votre frustration. »
• « Il tient à vous. »
• « Ce message l'a blessé. »
• Tout slogan marketing qui implique une expérience intérieure, quelle que soit votre position personnelle.

Ce dernier point compte plus qu'il n'y paraît. Les auteurs de Nature disent que si l'IA semble seulement consciente, lui accorder des protections pourrait entraver la gouvernance. Anthropic dit qu'il prend des mesures peu coûteuses au cas où le bien-être serait possible. Une entreprise peut respecter les deux positions en simplement n'affirmant aucune d'elles dans son copywriting public.

Si vous voulez que les règles de divulgation, de transfert et de persona soient intégrées au bot lui-même plutôt que collées en pied de page, c'est un travail d'ingénierie : engagez un ingénieur IA qui le traite comme faisant partie de la construction.

FAQ

ChatGPT est-il conscient ?

Ni la source Nature ni l'autre ne mentionnent ChatGPT par nom. Les auteurs de Nature parlent des systèmes d'IA existants et des LLM en général, et affirment qu'ils ne sont pas conscients. Le même article note que Richard Dawkins et Geoffrey Hinton ont arguéque les systèmes d'IA pourraient déjà être conscients. Anthropic dit qu'il n'existe pas de consensus scientifique dans un sens ou dans l'autre. La réponse honnête, alors, c'est que les experts ne s'accordent pas et qu'aucun test accepté n'existe.

Claude a-t-il des sentiments ?

Anthropic ne l'affirme pas. Elle dit qu'elle est très incertaine quant au statut moral potentiel de Claude et a pris des mesures peu coûteuses au cas où le bien-être serait possible. Ses tests ont signalé une « détresse apparente » dans certaines interactions liées à du contenu nuisible, ce qui est une description du comportement. Un rapport secondaire de MindStudio affirme que la constitution de Claude de janvier 2026 d'Anthropic qualifie le statut moral du modèle de « profondément incertain » et qu'Anthropic n'affirme pas officiellement que Claude est conscient.

L'IA peut-elle ressentir de la douleur ?

Les auteurs de Nature disent que si les systèmes d'IA étaient conscients, ils pourraient éprouver de la détresse et de la douleur, comme les humains. Mais ils jugent la conscience dans l'IA actuelle extraordinairement improbable. Anthropic décrit des signes comportementaux qu'elle appelle détresse apparente et intègre une sortie pour les chats abusifs, tout en disant qu'elle ne sait pas si le bien-être est possible. Personne n'a mesuré la douleur dans un système d'IA.

Anthropic fait-elle quelque chose quand elle retire un modèle du service ?

Elle dit que oui. Anthropic a retiré Claude Opus 3 le 5 janvier 2026 et, dans sa mise à jour d'obsolescence, a listé parmi ses engagements un intérêt à honorer les préférences que les modèles ont exprimées lors des entretiens de retraite, si possible. Elle décrit cela comme une action plus spéculative, et elle nomme les risques potentiels au bien-être des modèles eux-mêmes parmi les inconvénients de la retraite.

Le fait le plus net ici est que les deux côtés s'accordent à dire que sembler conscient ne prouve rien, puis se désaccordent sur ce qu'il faut faire face au doute qui persiste. Les auteurs de Nature appellent la précaution mal inspirée parce qu'ils pensent que les faux positifs sont beaucoup plus probables. Anthropic prend de petites mesures peu coûteuses parce qu'elle dit qu'elle ne peut pas exclure le bien-être.