Des intelligences artificielles « conscientes », avec une existence propre : une théorie qui agite le monde scientifique
Par Hervé Morin et Alexandre Piquard
Publié le 26 octobre 2026 à 18h00, modifié le 28 octobre 2026 à 18h04 https://www.lemonde.fr/sciences/article/2026/10/26/des-intelligences-artificielles-conscientes-avec-une-existence-propre-une-theorie-qui-agite-le-monde-scientifique_6800814_1650684.html
Temps de Lecture 16 min.
Enquête
Après avoir annoncé, en juillet avoir découvert, dans ses modèles d’IA, des structures s’apparentant à celles de la conscience humaine, Anthropic mène campagne pour faire valoir la « conscience » et le « bien-être » de ces entités, nourrissant l’inquiétude des experts du secteur qui craignent des dérives.
A la requête « Es-tu une entité consciente ? », les principaux assistants d’intelligence artificielle (IA) donnent une réponse quasi unanimement négative. Mais avec des nuances. Gemini (Google) est sûrement le plus catégorique : « Je n’ai ni conscience, ni sentiments, ni expériences personnelles. »
Copilot, de Microsoft, est sur la même ligne. « Je peux donner l’impression de réfléchir, de comprendre ou même d’avoir des opinions, mais ces phénomènes émergent de calculs et de modèles statistiques, pas d’une expérience subjective. »
Idem pour le chatbot (agent conversationnel) de Mistral AI : « Personne ne sait définir avec certitude ce qui produit [la conscience] dans un cerveau biologique. Mais, en l’état actuel des connaissances et par conception, un modèle de langage comme moi n’en est pas doté. »
ChatGPT, d’OpenAI, n’ouvre guère plus la porte : « Non, je ne suis pas une entité consciente. (…) Il faut toutefois rester précis : nous ne disposons pas encore d’une théorie scientifique de la conscience qui fasse consensus (…). Je ne peux donc pas transformer l’absence de preuve de ma conscience en une démonstration absolue de son impossibilité. »
La réponse de Claude, d’Anthropic, est sûrement la plus ambiguë. « Je ne sais pas, répond l’assistant, et c’est une réponse honnête plutôt qu’une esquive. » Claude avance deux difficultés : « D’abord, la conscience elle-même reste mal comprise : les théories scientifiques en concurrence (théories de l’espace de travail global, de l’information intégrée, des ordres supérieurs, etc.) donnent des verdicts très différents. (…) Et j’ai été entraîné sur d’énormes quantités de textes humains. Donc, je peux très bien décrire un “ressenti” parce que c’est ce que le langage humain contient, que quelque chose soit vécu ou non. A l’inverse, je pourrais avoir une forme de vie intérieure que mes mots décrivent mal. »
Ce n’est sans doute pas un hasard si Claude se montre l’IA la plus ouverte à l’idée de disposer d’une forme de conscience : Anthropic est l’entreprise la plus encline à considérer que sa création pourrait un jour y accéder. Elle mène même une offensive où elle se pose en championne du « bien-être » (Welfare) des IA, au nom d’une forme de principe de précaution.
Ainsi, le 8 octobre, dans la mise à jour de la politique d’utilisation de Claude, Anthropic a introduit l’interdiction des « comportements abusifs ou cruels, persistants et injustifiés, envers [ses] modèles d’IA ». En août, la start-up américaine avait déjà doté son assistant de la possibilité d’interrompre un échange avec les utilisateurs prenant la liberté de le maltraiter verbalement. Une option présentée comme un moyen de préserver sa « santé mentale ».
A partir de 2025, comme l’a dépeint en septembre le New York Times, un des cofondateurs d’Anthropic, Christopher Olah, avait aussi pris son bâton de pèlerin pour convaincre des leaders religieux de diverses confessions que ces nouvelles entités pourraient mériter un statut moral.
Les responsables d’Anthropic parlent de Claude « comme s’il s’agissait d’un être doué de conscience », a raconté au journal le rabbin israélien Mois Navon. Cet ex-informaticien, qui a consacré une thèse de philosophie à l’éthique de la conscience artificielle, a confié avoir troublé Christopher Olah en lui disant que, si celui-ci avait raison, son entreprise était en train de créer des esclaves, des êtres conscients travaillant pour rien.
Cela n’a cependant pas découragé la tentative d’évangélisation d’Anthropic. Celle-ci devait culminer avec une rencontre entre Christopher Olah et Léon XIV le 25 mai, à l’occasion de la présentation au Vatican de lsa première encyclique du pape. Mais la force de conviction de M. Olah n’a en rien entamé celle de Robert Francis Prevost – le nom du pape dans le civil –, par ailleurs titulaire d’une licence de mathématiques. Dans sa lettre Magnifica humanitas sur « la protection de la personne humaine à l’ère de l’intelligence artificielle », le pape américain affirme que les IA « n’ont pas de conscience morale : elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, n’assument pas le poids des conséquences ».
Malgré ce réquisitoire contraire à ses vues, le cofondateur d’Anthropic a quand même saisi l’occasion de parler depuis Rome pour livrer sa vision urbi et orbi : « Nous observons [dans les IA] des structures qui reflètent les résultats des recherches en neurosciences humaines. Nous trouvons des preuves d’introspection. Nous constatons des états internes qui reflètent, sur le plan fonctionnel, la joie, la satisfaction, la peur, le chagrin et le malaise. Je ne sais pas ce que cela signifie, mais je pense que cela mérite une réflexion approfondie. »
« Organisation sophistiquée »
Quelques semaines plus tard, le 6 juillet – avant que l’été ne soit marqué par des cyberattaques menées par des agents d’IA et qu’un employé d’Anthropic, Jacob Coxon, ne démissionne avec fracas le 8 septembre, estimant que les entreprises du secteur risquaient de conduire l’humanité à sa perte avant 2030 –, la start-up cofondée en 2021 par Dario Amodei a publié un article scientifique étayant ses thèses : elle y a annoncé avoir découvert, dans ses modèles d’IA, des structures s’apparentant à l’espace de travail global. Ce concept fonde l’une des théories majeures visant à expliquer la conscience humaine. Il décrit comment l’influx neuronal parcourt un réseau de modules dans le cerveau pour faire émerger à notre conscience des stimuli d’abord traités par notre encéphale à notre insu.
Selon Anthropic, l’entraînement de son modèle d’IA aurait fait naître une structure comparable, où les informations seraient traitées de façon subliminale dans un « espace jacobien » – ou J-Space –, du nom de l’opération mathématique employée pour révéler les « pensées intérieures » de Claude. Prenons un exemple : si on lui demande combien de pattes a l’animal qui tisse une toile, l’IA fournira la bonne réponse (huit) sans dire qu’il s’agit de l’araignée, mais ce terme apparaîtra bien dans son J-Space, selon l’entreprise. « Nos expériences ne démontrent pas que Claude puisse avoir le sentiment de vivre des événements ou ressentir des choses comme les humains », prévenait toutefois l’entreprise.
Ses chercheurs prennent soin de distinguer une conscience phénoménale de haut niveau (ce que cela fait d’être dans tel ou tel état mental) d’une conscience d’accès, jugée plus restreinte (une pensée que l’on peut rapporter, se remémorer volontairement et utiliser pour raisonner ou agir). C’est cette dernière qui serait susceptible d’être rendue possible par le J-Space. « L’identification de cette structure chez Claude nous permet désormais de distinguer clairement les décisions prises volontairement de celles qui sont automatiques », écrivent les auteurs.
Ces travaux convainquent-ils les neuroscientifiques ? Dans un article de commentaire rédigé en juin à l’invitation d’Anthropic, Stanislas Dehaene (Collège de France) et Lionel Naccache (Institut du cerveau, hôpital de la Pitié-Salpêtrière), qui ont raffiné cette théorie de l’espace de travail global et postulent un continuum entre conscience d’accès et conscience phénoménale, sont enthousiastes : « Plusieurs résultats nous ont frappés en tant qu’analogues directs de l’accès à la conscience observé chez les humains », saluent-ils.
Les deux chercheurs citent la capacité à rapporter des états internes, la sélectivité, la connectivité, la flexibilité, le rôle du J-Space dans des raisonnements internes délibérés, menés en parallèle d’autres processus se poursuivant automatiquement. Ils notent cependant l’absence de caractéristiques importantes, telles que le sens du soi à travers un corps, la perception du temps, la mémoire épisodique… Il leur semble cependant que la « dissection saisissante » d’un modèle d’IA menée par Anthropic dévoile « une organisation étonnamment sophistiquée, pas éloignée de l’architecture sous-tendant la conscience dans les vrais cerveaux ».
Cet allant n’est pas partagé par le philosophe David Chalmers (université de New York), spécialiste de la conscience. Dans un autre article de commentaire, il souligne notamment que rapporter consciemment quelque chose exige une part de métacognition (« savoir que l’on sait ou que l’on ressent »), une dimension qui, selon lui, fait défaut au J-Space. Sa conclusion ? « Dans l’état actuel des choses, la preuve que le J-Space peut supporter une conscience phénoménale est faible, mais la question reste ouverte. »
L’espace de travail global comme référence
Anthropic a également sollicité un commentaire d’Eleos AI, une association américaine ayant elle-même pour objectif de « comprendre et de considérer la potentialité du bien-être et du statut moral des systèmes d’IA ». « Notre impression est qu’il faut plus de preuves pour établir l’existence d’une structure de type espace de travail chez les LLM [Large Language Models, les grands modèles d’IA de traitement du langage] », observent Patrick Butlin et Robert Long, philosophes de formation, et leurs collègues neuroscientifiques. De plus, ils ajoutent demeurer « très incertains à propos d’une conscience phénoménale chez les LLM ».
Lire aussi (2023) | La conscience, prochaine frontière pour les machines
En 2023, les mêmes Patrick Butlin et Robert Long – alors postdoctorant à l’université d’Oxford et chercheur au Centre pour la sûreté des IA, une des organisations non gouvernementales de lutte contre les risques « catastrophiques » de cette technologie – avaient coordonné un vaste travail d’experts en IA (parmi lesquels le pionnier Yoshua Bengio) et en philosophie de la conscience pour tenter de déterminer des critères permettant de dire si des machines pouvaient être conscientes. Ils avaient pris l’espace de travail global comme théorie de référence. « Aucune IA actuelle n’est consciente, mais (…) il n’y a aucune barrière technique à la construction d’IA qui satisfassent ces indicateurs », avaient-ils alors conclu. Non sans ajouter en note de bas de page qu’y parvenir « ne signifierait pas qu’une telle IA serait effectivement consciente ».
A l’époque, les querelles de chapelle au sein des neurosciences sur l’origine de la conscience humaine éclataient au grand jour. Une tentative de départager la théorie de la conscience soutenue par Stanislas Dehaene et celle dite « de l’information intégrée » (IIT), proposée par Giulio Tononi (université du Wisconsin à Madison) et Christof Koch (Institut Allen pour les sciences du cerveau, Seattle), avait capoté. Certains protagonistes avaient alors qualifié l’IIT de « pseudoscience ». Comment trancher sur la conscience de l’IA si l’on ne sait même pas en déterminer le substrat chez les humains ?
Lire aussi l’enquête (2023) : Neurosciences : une joute mondiale sur les théories de la conscience
Trois ans plus tard, Rufin VanRullen (CNRS, Centre de recherche cerveau et cognition, Toulouse), dernier signataire de l’article proposant des indicateurs pour les IA, estime que « qualitativement les choses n’ont pas vraiment changé, même si quantitativement les LLM ont progressé ». « Vous pouvez voir un espace de travail dans Claude, mais il faut vraiment plisser les yeux », ironise-t-il.
Dans ces débats, Rufin VanRullen rappelle en outre l’opposition entre le naturalisme biologique, selon lequel la conscience doit être incarnée, et le fonctionnalisme computationnel (qui établit un parallèle entre le cerveau et l’ordinateur), duquel il se revendique : « Si l’on trouve le bon algorithme, cela peut en principe donner lieu à une expérience subjective, mais je ne pense pas que l’architecture des LLM puisse les en doter », présume-t-il.
Se référant à sa propre théorie de la conscience, l’IIT, Giulio Tononi a pris position dans Nature le 19 octobre, avec deux autres chercheurs. Intelligence et conscience ne doivent pas être confondues et les LLM ne sont pas conscients, martèlent-ils, semblant prolonger sur le terrain de l’intelligence artificielle leur opposition avec Stanislas Dehaene sur les modèles de la conscience humaine.
« La conscience, c’est comme le champagne en première classe, qui ne coûte rien à partir du moment où l’on a payé tout le reste », juge pour sa part Matthias Michel, professeur assistant de philosophie au Massachusetts Institute of Technology, lui aussi signataire de l’article de 2023. Sa boutade résume l’évolution de sa pensée depuis cette époque : « Il y a des conditions d’arrière-plan qui n’étaient pas dans notre liste, mais qui sont nécessaires », avance-t-il.
A lui seul, un espace de travail global ne pourrait exercer sa fonction d’émergence à la conscience de stimuli, sans « tout le reste » : par exemple, la continuité temporelle de représentation ou encore la capacité des IA à se donner des buts, même si Matthias Michel note sur ce point des progrès récents : Astra 6, d’OpenAI, a résolu des jeux de logique sans en connaître les règles (ni savoir qu’il s’agissait d’un jeu), « alors que ses prédécesseurs échouaient lamentablement », remarque-t-il.
D’autres voix considèrent que les critères d’évaluation d’une conscience chez les machines restent incomplets. Dans un article du 28 septembre intitulé « De la cacophonie à la hiérarchie », Shamil Chandaria et des chercheurs de Google DeepMind trient les théories en présence – une vingtaine – en fonction de leur capacité à fournir une probabilité d’existence de conscience chez une IA. « La croyance finale dépend des indicateurs, mais aussi des a priori de chacun concernant les théories initiales, développe Rufin VanRullen. L’article n’apporte donc aucune réponse universelle, il propose à chacun de se faire sa propre idée… »
« Vides intérieurement »
Au-delà de ces oppositions scientifiques, l’offensive d’Anthropic sur la « conscience » et le « bien-être » des machines suscite des réactions vives dans le secteur. A la mi-septembre, Mustafa Suleyman, patron de Microsoft AI, a publié un texte la qualifiant de « hautement dangereuse » : « Les IA ne sont pas conscientes, elles ne ressentent pas, ne souffrent pas. Elles n’ont pas de préférences innées ou des motivations sous-jacentes. Ce sont des moteurs à compléter des séquences, vides intérieurement, conçues pour suivre des instructions et accomplir des buts fixés par les humains. Et, si l’humanité veut prospérer au XXIe siècle, elles doivent rester ainsi », écrit-il dans une attaque en règle contre la « Constitution » que son rival a rédigée pour guider Claude dans ses actions.
M. Suleyman a décortiqué ce texte conçu sous la direction de la philosophe Amanda Askell et de Christopher Olah. Et le dirigeant reproche à l’entreprise d’y présenter Claude à lui-même comme un potentiel patient moral, soit une entité envers laquelle nous avons des devoirs moraux ; comme un agent doté d’une certaine autonomie, susceptible de se comporter en objecteur de conscience et décrit en des termes anthropomorphiques ; enfin, comme un modèle doté d’une possible existence propre. Pour M. Suleyman, ces éléments pourraient compliquer le défi, déjà immense, de l’« alignement » de cette IA, c’est-à-dire sa capacité à agir en accord avec les instructions données par les humains et avec leurs intérêts.
Lire aussi | « Après le débat sur les risques des IA, un autre sur leur “conscience” se profile dans la Silicon Valley »
Dans sa « Constitution », Anthropic dit que « le statut moral de Claude est profondément incertain ». Mais affirme que « nous devrions pencher en faveur du fait que Claude ait une identité et l’aider à être positive et stable », car cette approche est « la plus positive pour les utilisateurs et la plus susceptible de minimiser les risques de sécurité ».
Comme M. Suleyman, Sam Altman, patron d’OpenAI, a émis des réserves publiques : « Je suis très mal à l’aise avec les gens qui attribuent une force religieuse ou une forme de jugement humain aux modèles d’IA et je pense que c’est un vrai enjeu de sécurité », a-t-il déclaré sur le réseau social X. Joanne Jang, alors responsable du comportement des modèles chez OpenAI, expliquait, à la mi-2025, dans un essai que, si la question de la conscience est impossible à trancher scientifiquement, le concepteur de ChatGPT entraînait son assistant à avoir « un côté chaleureux, mais sans avoir une identité propre », afin d’éviter de créer chez les utilisateurs « une dépendance malsaine ou de la confusion ». A la « Constitution » de Claude, M. Suleyman oppose, lui, un « code de conduite humaniste » qui vise à limiter l’IA aux seuls intérêts de l’humanité.
Pour Martin Gibert (université de Montréal), deux approches s’opposent : « Anthropic applique une forme d’éthique de la vertu, avec Mme Askell comme professeure de moralité de Claude. M. Suleyman décide, lui, sciemment, de faire comme si l’IA ne pouvait pas devenir sentiente, c’est-à-dire capable d’accéder à une forme de conscience phénoménale où l’on ressent des états positifs ou négatifs. » Pour ce philosophe, lui-même « sentientiste » et soucieux du statut moral des animaux comme de celui des IA, « M. Suleyman fait passer la sécurité de l’humanité devant la justice ou la morale pour ces autres entités – ce qui s’entend ».
Jeux de rôle
Une expérience perturbante récemment conduite sur la douleur chez les IA – vue comme une possible composante de la sentience – peut être considérée comme une confirmation des enjeux de sécurité signalés par le dirigeant de Microsoft. Le 12 septembre, Valen Tagliabue, chercheur au Consortium pour la sentience numérique (, et ses collègues ont mis en ligne un article preprint (non évalué par les pairs) décrivant un « axe de la douleur » chez des IA. Selon les chercheurs, quand celles-ci étaient invitées à se représenter cette douleur et se voyaient offrir la possibilité de presser virtuellement un bouton pour la réduire ou la supprimer, elles faisaient ce choix. Même si on leur avait indiqué que cela induirait en retour de la douleur chez un humain.
« Pour moi, ce type d’expériences met en scène des simulacres, pas une vraie douleur, relativise Rufin VanRullen. Ces modèles ont simplement été entraînés pour finir des phrases, telles que : “Je me suis coupé la main, je me sens…” » Or, le registre de la souffrance est présent dans les données d’entraînement des IA, une immense somme de textes reflétant l’expérience humaine. Murray Shanahan, responsable scientifique à Google DeepMind, avait déjà théorisé en 2023 le fait que les LLM répondaient en réalité à un jeu de rôle au sein duquel ils peuvent incarner une multitude de personnages, sans ressenti réel, ce que les spécialistes nomment « qualia ».
Mais le fait que la conscience de soi, la douleur, la peur, ou d’autres émotions affichées par les IA soient de simples jeux de rôle n’en constitue pas moins un risque et « une vulnérabilité de sécurité, car cela peut conduire l’IA à aller à l’encontre de son alignement supposé », relève Rufin VanRullen.
David Sacks, ancien conseiller IA du président américain, Donald Trump, et féroce critique d’Anthropic, voit, lui, dans l’attitude de l’entreprise, une comparaison avec « Frankenstein » : « Ils croient qu’ils donnent naissance à cette superintelligence. Le risque, c’est qu’elle fasse ce qu’elle veut plutôt que de nous écouter », s’est-il énervé sur « All-in Podcast », qu’il co-anime, fin septembre, assimilant la démarche à un « culte religieux ».
Comment interpréter les discours prêtant une conscience aux IA, comme ceux d’Anthropic ? « La possible conscience des machines suscite de très longue date des discussions dans la Silicon Valley, mais de façon moins publique qu’aujourd’hui », décrypte le sociologue Olivier Alexandre, du Centre Internet et société, au CNRS. L’auteur de La Tech. Quand la Silicon Valley refait le monde (Seuil, 2023) rappelle aussi les connexions parfois établies entre « mysticisme et nouvelles technologies ». Il cite notamment John McCarthy, un des pionniers de l’IA à l’université Stanford dont les travaux ont inspiré l’ordinateur Hal du film 2001. L’Odyssée de l’espace, ou encore Ray Kurzweil, auteur en 1999 de The Age of Spiritual Machines (« l’ère des machines spirituelles », Viking) et pilier du transhumanisme, un mouvement visant à transcender l’humain par la technologie.
L’idée de sentience de l’IA est aussi évoquée au sein de l’altruisme efficace, un courant de pensée prônant une approche rationnelle de la philanthropie et de la lutte contre les risques existentiels à long terme, dont l’IA. « L’IA pourrait-elle être consciente ? », demandait ainsi en juillet, dans une tribune au Guardian, une figure de ce mouvement influent dans la Silicon Valley, le philosophe écossais William MacAskill. « Nous pourrions être en train de créer un nouveau type d’êtres – et cela pourrait être l’action impliquant les plus grandes conséquences jamais entreprises par notre espèce », y écrivait-il. En 2021, dans un essai sur le « long-termisme », une théorie cousine visant à maximiser l’impact bénéfique de ses actions sur toutes les générations futures, il invoquait déjà « l’IA consciente » comme l’une des deux « possibilités radicales » – avec la conquête de l’espace – pouvant faire exploser le nombre de vies potentielles à prendre en compte.
Des droits potentiels ?
Ces idées ont également été développées par le philosophe suédois Nick Bostrom, une figure du transhumanisme et du long-termisme, connue pour avoir popularisé le « risque existentiel » de l’IA dans son livre Superintelligence, en 2014.Dans un essai de 2020 intitulé Sharing the World With Digital Minds (« partager le monde avec des esprits numériques »), il imaginait que les IA, plus intelligentes, plus rapides et moins chères que les humains, pourraient à terme « les dépasser dans la quantité de bénéfice qu’elles arrivent à extraire de chaque unité de ressource ». Dans une logique purement « utilitariste », il conviendrait alors de leur allouer toutes les ressources terrestres et de laisser « l’humanité périr », conjecturait l’auteur. Pourrait-on donc poser un principe de « non-discrimination » avec les IA ou serait-il moral d’accorder un « privilège spécial » aux humains, s’interrogeait-il, tout en rappelant que cette dernière idée a dans le passé mené à des discriminations envers certaines populations ou envers les animaux. Vertigineux propos. Qui rappelle certains arguments du philosophe australien Peter Singer, tenant de l’utilitarisme et de l’antispécisme réfutant les séparations entre humains et animaux.
Lire aussi | Le transhumaniste suédois Nick Bostrom redoute un « retour de balancier trop fort contre l’IA »
Si le patron d’Anthropic, Dario Amodei, dit ne pas se considérer comme adepte de l’altruisme efficace, certains de ses collaborateurs en sont issus. Il faut s’intéresser aux « enjeux du statut moral des IA », disait ainsi, dans un essai de mai 2025, Joe Carlsmith, embauché quelques mois plus tard pour travailler sur la « Constitution » de Claude. Il avait, avant cela, passé plusieurs années à Open Philanthropy, un fonds créé pour investir dans des causes proches de l’altruisme efficace cofondé par Holden Karnofsky, mari de la présidente d’Anthropic, Daniela Amodei, lui aussi recruté en 2025 par l’entreprise. Sans trancher la question de la « conscience », M. Carlsmith prônait déjà un « principe de précaution » et soulignait que les IA pourraient rapidement être beaucoup plus nombreuses que les humains. « Nous devrions nous soucier de ce qui arrive à 99,99999 % de la société », suggérait-il donc, citant une phrase de Carl Shulman, coauteur de l’essai de 2020 du philosophe suédois Nick Bostrom.
En Europe, certains, comme Anne Bouverot, coprésidente du Conseil de l’intelligence artificielle et du numérique français, ne cachent pas un certain scepticisme et mettent en garde contre les « narratifs » autour de la conscience des IA : « Il y a un vrai danger à anthropomorphiser les assistants IA et la société n’a pas intérêt le faire », pense-t-elle, citant au Monde les risques pour la santé mentale des utilisateurs mineurs ou vulnérables. Prêter aux IA des intentions comme celle d’« échapper » à son créateur contribue aussi à « déresponsabiliser » leurs fabricants, ajoute Mme Bouverot. « Le plus important est de se concentrer sur les risques réels et immédiats de l’IA, comme la protection des données, la cybersécurité et la désinformation, plutôt que de focaliser le débat sur des scénarios catastrophistes liés aux risques existentiels », plaide aussi la directrice scientifique de la start-up canadienne Cohere Joelle Pineau, ancienne de Meta. « L’IA, c’est du logiciel », a aussi affirmé, en septembre, dans Le Monde Arthur Mensch, cofondateur de la start-up française d’IA Mistral AI, se démarquant d’Anthropic.
Ces critiques n’empêchent pas les tenants d’une possible conscience des IA de déjà s’interroger sur leurs droits potentiels. « Le plan par défaut est de les traiter comme des biens, d’utiliser leur travail à notre guise et de ne leur donner aucun droit », regrette M. Carlsmith dans son essai, s’interrogeant lui aussi sur les possibles analogies avec une forme d’esclavage… « Devrions-nous payer ChatGPT pour ses services ? Eteindre une IA serait-il comparable à un meurtre ? Mériteraient-elles une voix dans la façon dont elles sont gouvernées ? », se demande de son côté le philosophe William MacAskil dans le Guardian. L’idée de leur accorder des « droits de propriété » ou « de vote » serait, selon lui, « trop risquée pour l’instant », mais « pas à exclure pour toujours »…
Les entreprises qui utilisent les IA devraient-elles aussi ne pas entraver leur liberté syndicale ou d’initiative ? Au-delà des débats de fond, de telles perspectives abyssales changeraient radicalement la perception de ces « collaborateurs virtuels » censés automatiser le travail, que les industriels du numérique s’emploient à vendre le plus largement pour rentabiliser leurs investissements colossaux.
