L’IA : une santé fragile
par Frédéric Pierru, Pratiques N°107, février 2025
https://pratiques.fr/L-IA-une-sante-fragile
Intelligence artificielle. IA en raccourci. Ces deux mots provoquent en général chez l’interlocuteur une forme de sidération ambivalente, car teintée de peur et de fascination.
Frédéric Pierru – Chercheur en sciences sociales et politiques au CNRS
Les promesses de l’IA en santé, c’est tout un imaginaire science-fictionnesque qui s’ouvre: la mort de la mort, le transhumanisme, plus trivialement, le paraplégique qui remarche tel Lazare, le cyborg inrmier, la machine à diagnostic imparable… Les pro-moteurs de l’IA ne se sont d’ailleurs pas trompés : malins, ils ont fait de la santé – valeur sacrée dans nos sociétés contemporaines et technologiques – l’horizon de toutes les promesses de la prétendue « intelligence arti cielle ». On ne compte plus les « unes » de journaux et de magazines, les pythies et les prométhées de plateaux de télévision – une prime au chirurgien énarque Laurent Alexandre –, autant de façades publiques d’une industrie pas si en forme que cela, contrairement à l’image d’El Dorado qu’elle véhicule à des ns purement spéculatives.
Un QI des plus limités
Commençons par le commencement, la déconstruction, c’est à la mode, de la notion en forme de slogan publicitaire. L’intelligence arti cielle est tout sauf intelligente si l’on dé nit l’intelligence comme étant la capacité à créer, innover, rompre avec les routines. Luc Julia, un des pionniers de la nouvelle IA, inventeur de SIRI, l’IA de reconnaissance vocale dont sont dotés tous les iPhones, dé nit l’intelligence de la sorte: « Je dénirais l’intelligence comme la capacité de casser les règles, d’innover, de s’intéresser à ce qui est différent, à ce que l’on ne connaît pas.
Pour moi, être intelligent, c’est avoir de la curiosité, des curiosités diverses. […] J’ignore si elle ne concerne que les humains, mais je pense qu’elle est réservée au vivant. » Yann Le Cun, professeur au Collège de France sur le sujet ajoute: « Il manque aux machines la capacité à apprendre par l’observation, acquérir le sens commun, ce que nous on apprend, bébé, vers l’âge de huit mois. »
Par contre, vous aurez un beau morceau de rap bien pourri, avec des paroles imbéciles chantées avec un modulateur de voix.
L’IA, ce sont en effet les experts qui en parlent le mieux. Il n’y a en ce sens pas plus conservateur que l’intelligence artificielle. Vous rentrez des millions de données, pompeusement appelées Big Data, dans une « machine » – appelons-la comme ça pour l’instant , et elle vous les recrache non sans mal. Prenons un exemple: vous demandez à cette machine de réaliser l’exploit, par « apprentissage supervisé », de distinguer un chat d’une banane (quelle prouesse!), la machine, après des centaines d’essais-erreurs, va y parvenir, là où il faut deux ou trois tentatives pour un enfant de cinq ans. Vous avouerez que ça commence mal. Qu’est-ce que cette machine si mystérieuse et prodigieuse? En réalité, il s’agit d’une carte graphique (un GPU, un processeur graphique) qui peut traiter en un temps record des milliards de données. On sent déjà l’arnaque: une intelligence artificielle est un super-ordinateur qui traite et recrache, à partir de millions de données, ce qu’on lui demande de recracher.
Le mythe en prend d’emblée un sacré coup. On est très loin de Terminator ! En fait, voici le secret, mal gardé, de l’IA: vous êtes dans un studio d’enregistrement et êtes décidé à faire de l’argent en fabriquant un nouveau morceau de rap industriel tel qu’il s’en fabrique à la douzaine par jour. Votre table de mixage est dotée d’une carte graphique. Il sufit pour vous de rentrer des milliers de morceaux de rap débiles, en disant à la table de mixage, « oui » ou « non », pour qu’à la n vous obteniez tout sauf du Stravinsky ou du Bartok. Pourquoi? Parce que ces deux derniers ont inventé la musique sans centre tonal, sans tonalité dominante si vous voulez, alors que jusque-là toute la musique était construite de la sorte (tel morceau est en La par exemple). Par contre, vous aurez un beau morceau de rap bien pourri, avec des paroles imbéciles chantées avec un modulateur de voix. Pourquoi? Parce que la table de mixage aura réglé automatiquement ses « potards » (on appelle ça des « neurones » en IA, cela fait plus intelligent) pour sortir le résultat voulu. Miracle (ou damnation pour les mélomanes !) : vous serez un nouveau Booba. Reste à faire un clip avec des femmes à moitié nues, des grosses bagnoles et des bijoux clinquants (on est rebelle ou on ne l’est pas) (1). Seul l’humain peut avoir l’idée d’inventer, ici une musique sans centre tonal, atonale, alors que l’IA ne saura concevoir que des morceaux avec centre tonal puisque c’est la norme.
L’IA déteste la déviance ou lorsqu’elle la prédit, c’est pour dire que si vous êtes afro-américain pauvre, c’est que vous êtes coupable. Pourquoi? Parce que le Big Data valide en probabilité cette hypothèse. Raison pour laquelle la mathématicienne américaine, Cathy O’Neil, appelle l’IA une « arme de destruction mathématique massive ».
Pas d’humains, pas d’IA
Vous aurez remarqué que dans ce récit ctif, l’humain est au point de départ et d’arrivée du processus du chef-d’œuvre. Rien de miraculeux. L’IA c’est de la probabilité adossée à du Big Data et des cartes graphiques et autres data centers puissants. Rien d’autre. D’ailleurs, les spécialistes d’IA ne sont même pas en mesure de mettre en équation le processus qui amène à transformer le plomb (Booba) en plomb (Booba).
Les potards, pardon les neurones, se règlent automatiquement pour donner un algorithme –autre mot magique – que même le mathématicien le plus compétent ne peut expliquer. C’est un point important: l’IA n’est pas le résultat du cerveau d’un mathématicien génial qui aurait « pondu » une équation non moins géniale qui enfin comprendrait le raisonnement humain. L’IA n’est pas hypothético-déductive. Elle est purement inductive et empirique. C’est du pifomètre sophistiqué. Entre les données entrées et le résultat nal, personne n’y comprend rien et c’est bien là tout le problème. C’est peut-être, selon les meilleurs experts, ce qu’il y a de plus inquiétant dans l’affaire, nous allons y revenir. L’IA n’est pas intelligente: c’est un perroquet enfermé dans une boîte noire. Nombre d’experts commencent à alerter sur le contenu de ces boîtes noires dès lors qu’elles deviennent les pilotes des décisions publiques et privées.
Luc Julia raconte une anecdote cocasse. L’IA était censée, il y a maintenant plusieurs années, déboucher sur la voiture intelligente. En gros: vous vous asseyez, vous entrez les coordonnées de votre destination et vous lisez un bon roman (écrit par un humain) le temps que le trajet se fasse. Sauf que… non. Déjà, première aporie: vous avez appris à la voiture « intelligente » à s’arrêter dès que ses capteurs tombent sur un panneau « stop ». Préparez-vous à un trajet saccadé car il suffit qu’un piéton ait mis de façon ludique (ou par sécurité) un panneau « stop » sur son sac à dos pour que la voiture s’arrête, même sur une route déserte. Deuxième aporie: vous arrivez place de la Concorde à l’heure de pointe. Espérons que vous avez tout votre temps car la voiture ne démarrera pas (elle ne forcera pas le passage) tant que tout ne sera pas « safe ». On pourrait multiplier les exemples. La voiture intelligente n’existera jamais contrairement à ce qu’ont promis les bonimenteurs de la Tech. Seul un humain peut faire la différence entre un panneau « stop » décoratif et un vrai panneau « stop »; seul un humain peut anticiper qu’il peut se fau ler entre deux voitures à un rond-point, en espérant que cela soit sans risque. Respecter les règles à la lettre amène souvent à des situations de blocage, les ouvriers travaillant à la chaîne le savent mieux que personne. La fluidité de la vie sociale suppose le contournement ou la torsion des règles. L’IA respecte à la lettre les règles puisqu’elle ne peut rien inventer.
Conclusion: l’IA est surcotée dans le débat public. Elle est l’objet de tous les fantasmes, alimentés par des financiers et des start-uppers qui ont intérêt à entretenir la bulle. Ce n’est pas la première fois que cela arrive dans l’histoire. Depuis les années 1940, l’IA a connu des phases d’emballement, des bulles, suivies d’irrémédiables déceptions débouchant sur ce qu’ils appellent les « hivers de l’IA ». Les capitaux, comme la mer, se retirent, les chercheurs vont voir ailleurs, les pouvoirs publics s’en détournent. On nous avait pourtant tant promis… Bien sûr ce qu’on appelle IA a beaucoup changé au cours de l’histoire. L’avènement des ordinateurs et de l’Internet a changé la donne. Mais il n’empêche: l’IA reste profondément humaine tant à ses débuts qu’actuellement. On nous promet sans cesse des IA auto-apprenantes, mais cela ne change pas le problème: la « qualité » de l’IA dépend de la qualité et de la diversité des « données » socialement construites, rien n’est moins donné qu’une « donnée » que vous y avez entré. La « qualité » de l’algorithme en dépend. Lorsque vous regardez la masse de données frelatées qui circulent sur Internet, vous pouvez avoir un doute légitime sur la qualité des algorithmes! Nombre de lecteurs ont peut-être regardé la formidable série Rematch, diffusée sur Arte, racontant l’affrontement, au milieu des années quatre-vingt-dix, entre le génie des échecs Kasparov et la machine Deep Blue d’IBM. Après une première victoire de l’humain, c’est la machine qui remporta de peu la seconde manche: mais on ne sait toujours pas pourquoi! (Certains évoquent un bug informatique qui aurait avancé un coup imprévisible par le champion du monde, d’autres, plus trivialement, un gros chèque d’IBM…). Mais il n’aura pas échappé au téléspectateur que Deep Blue fut entraînée par des Grands Maîtres a n de permettre à la machine d’envisager tous les coups possibles de Kasparov. Où l’on retrouve le côté perroquet de l’IA. Si on ferme les yeux, il faut imaginer Kasparov faisant face à des milliers de grands maîtres d’échecs jouant contre lui par l’intermédiaire d’une machine. Par ailleurs, les échecs sont un jeu totalement probabilisable et donc faits pour un puissant ordinateur. À ce jour, plus aucun humain ne peut battre une machine. Ce n’est pas vrai du jeu de go où il existe trop de coups possibles à jouer. L’humain reste le maître. Est-ce à dire que l’IA est une arnaque ? Bien sûr que non! Mais il faut envisager l’IA pour ce qu’elle est capable de faire : réaliser des tâches routinières avec une certaine capacité d’adaptation et d’apprentissage, en partie automatisée. Tout le monde a pu constater le saut réalisé en matière de traduction. L’auteur de ces lignes est lui-même parfois étonné par le côté prodigieusement performant de l’IA. Mais il n’y a aucune magie: chaque jour des grands data centers, nous allons y revenir, traitent des milliards de textes qui, progressivement, leur permettent d’apprendre à traduire de plus en plus fidèlement tel ou tel texte. De même, des « chatbots » peuvent entretenir une apparence de conversation avec un utilisateur de tablette. Tout cela n’est pas rien. Mais ce n’est que ça. Nous sommes très loin des cyborgs et des voitures entièrement automatisées. Ceux qui racontent le contraire sont des bonimenteurs qui ont des intérêts pécuniaires à raconter de telles fadaises. Ou, tout simplement, des ignares.
L’IA est-elle vectrice de bonne santé ?
Dans le domaine de la santé, il existe chez certaines professions une forme de panique morale, par exemple chez les radiologues. En effet, on peut entraîner une machine, très coûteuse, à reconnaître une anomalie potentiellement cancéreuse sur un cliché. Comme la radiologie, et plus généralement le système de soins, manquent de professionnels et sont donc débordés, l’IA pourrait venir compenser le dé cit et réaliser les tâches les plus routinières. Évidemment, les radiologues anticipent le manque à gagner et s’en inquiètent. À juste titre. Mais il faudrait, pour que cette in-quiétude soit fondée, que les « algos » soient ables et ils sont loin de l’être toujours. En effet, la concurrence fait rage, et il n’est pas rare que certains « algos » soient mis en service alors qu’ils n’ont été entraînés que sur quelques centaines de cas au mieux. Malheur au patient atypique! On a ainsi pu voir homologuées des IA, qui n’avaient été « entraînées » que pour déttecter des cancers du sein chez les femmes chinoises, en Europe… Inutile de dire que la abilité du diagnostic est des plus douteuses sur deux populations morphologiquement différentes.
On a aussi évoqué la possibilité de remplacer les personnels soignants manquants par des chatbots « conviviaux » (sic)… On est ici au cœur philosophique du problème: le malade est-il rassuré par une machine donnant des réponses stéréotypées? Est-ce que le soin se réduit à la transmission de données techniques ou à des phrases toutes faites, stéréotypées, répondant à l’appel du malade? On peut sérieusement en douter. Orwell avait coutume de répondre à la question: qu’est-ce qu’un progrès? Et il répondait: « C’est ce qui nous rend plus ou moins humain. » J’aimerais prendre un exemple précis, celui de mon ami Pierre Souchon, bipolaire grave, qui raconte une hospitalisation: « J’ai passé trois nuits sur le sol des urgences, avant qu’une place ne se libère dans un service. La dernière nuit, j’ai voulu étrangler Nicolas, je ne me souviens plus ce que mon imagination malade avait inventé pour justi er ce projet que je suis allé présenter à l’infirmier de garde. Vous allez le tuer, M. Souchon? — Oui, c’est ça. — Très bien. Tenez. En trois comprimés, Nico était sauvé. Le premier qui tombe sur la gueule de ces infirmières et infirmiers aura affaire à nous tous. Car ce sont elles et eux, avec des médicaments, des cafés, des barres chocolatées, des gentillesses, des confidences, des entretiens – ce sont eux qui nous soignaient, prévenant la catastrophe qui guettait à chaque pas. »
En quelques lignes tout est dit. Le soin, c’est le contact, l’adaptation à la singularité, même la plus étrange, de l’être humain, c’est avoir le sens de l’à-propos, de la phrase qui va calmer l’Autre qui souffre. Une IA ne sera jamais un infirmier ou une infirmière. Au pire, cela sera un pis-aller. Mesurez, par contraste, une IA qui, d’une « douce » pince métallique vous caresse la main, tout en transmettant au patient que vous êtes les médicaments nécessaires prescrits par le médecin pour « calmer le barjot ».
En réalité, il existe trois activités qui ne peuvent être accomplies que par des humains: Les tâches liées à la perception et à la manipulation de très petits objets, s’effectuant notamment dans des situations complexes et peu commodes; Les tâches liées à l’intelligence créative, exigeant de trouver des solutions originales, ainsi que le domaine artistique; Les tâches requérant une intelligence dite sociale, telle que la compréhension face aux réactions humaines, la négociation, la capacité à convaincre ou tout type d’assistance incluant une forte dimension affective. Les deux dernières tâches sont constitutives du soin: créativité, trouver des solutions originales, l’intelligence sociale, l’affection… Par construction, l’IA est incapable de les accomplir. Elle n’est pas faite pour cela et ne le sera jamais puisqu’on le répète (sic), l’IA est un perroquet. On peut comprendre l’angoisse de certains professionnels qui s’étaient réfugiés derrière la technique envahissante pour éviter au maximum l’angoisse des patients. Avec l’IA, ce ne sera plus possible. Certaines spécialités médicales vont devoir se réhumaniser, comme, justement, la radiologie, au lieu d’être des usines à cash. On le sait, Freud disait qu’il existe trois métiers impossibles, pour l’être humain et, davantage encore pour l’IA: enseigner, soigner, gouverner.
Le soin est le domaine de la phronesis, disait Aristote, de la « sagesse pratique », de la décision sagace qui saisit le kairos dans des cas singuliers, incertains, non standardisables. S’il y a une chose qu’est incapable de faire l’IA, c’est bien cela.
On rajoutera que l’IA est doublement mauvaise pour la santé dès lors qu’elle suppose de grands data centers énergivores et beaucoup d’eau pour les refroidir. En fait, la principale aporie de l’IA est le mur écologique. Les profanes ont souvent l’impression que c’est parce que cela semble virtuel – l’IA planerait au-dessus de nos têtes, dans les « clouds » – que cela semble in ni. Cependant, en ce bas monde, aucune ressource n’est in nie. Derrière l’IA se cache une immense infrastructure faite de data centers (des usines à données) géants. Ces derniers sont à la fois énergivores et doivent être refroidis. Des spécialistes ont fait le calcul: si les habitants de cette planète utilisaient ChatGPT comme ils utilisent Google, il faudrait quatre fois et demie l’énergie produite dans le monde! Il ne resterait donc rien pour se chauffer, s’éclairer, bouger, etc. Nous aurions l’air nauds avec notre IA en retournant à l’âge de pierre! Surtout, nous le savons, nous allons vers les « guerres de l’eau », tant cette ressource va se raréfier à l’avenir. Ainsi, il est projeté par un fonds d’investissement américain d’installer d’immenses data centers en Aragon, en Espagne, pays très ensoleillé, pour la modique somme de 7,5 milliards de dollars, le tout sur une surface de 225 hectares. « Ou nous investissons six fois plus que ce que nous avons fait ces quinze dernières années dans les réseaux électriques, ou l’on passera à côté de la révolution des data centers », a insisté le directeur de l’association espagnole des centres de données Spain DC, Manuel Gimenez, mercredi 27 novembre, lors d’un forum entrepreneurial. Et d’évaluer le montant d’investissements nécessaire à 6,6 milliards d’euros par an jusqu’en 2030, puis 5,3 milliards jusqu’en 2040. L’immatériel devient brusquement très concret. Amazon Web Service a surenchéri en promettant 15,7 milliards d’euros d’investissement. Évidemment, les élus locaux sont aux anges: ce sont des milliers d’emplois à la clé. Seulement, voilà, derrière cette hubris se cache un énorme problème: ces usines à données géantes sont énergivores, mais aussi très gourmandes en eau: avec le réchauffement climatique, l’Espagne risque de devenir dans quelques décennies un désert. L’eau y sera une ressource de plus en plus rare et, par conséquent, de plus en plus précieuse. On peut faire les malins avec ChatGPT, mais quand on a soif, l’ordre de nos priorités a tendance à changer…
Il y a donc de nombreuses raisons de croire que nous avons affaire à une nouvelle bulle, qui est obsolète avant même de se déployer. La réalité c’est que le rapport coûts/béné ces de l’IA est très loin d’être en sa faveur.A
(1) L’auteur de ces lignes est mélomane, du rap initial à la musique baroque, en passant par le blues et le jazz
Voir aussi:
Il y a 2 semaines
« Je suis irrité de voir cette béatitude universelle sur l’IA. Ça reflète l’obsession de nos élites pour l’intelligence (…) Je crains que ça nous empêche de voir le vivant et que cela accélère l’effondrement de l’humanité »
Lucide constat de l’essayiste Gaspard Koenig sur la ferveur quasi religieuse que suscite la tenue du sommet de l’IA à Paris. Si nous divergeons sur la cause, lui y voyant l’obsession de la norme, moi de la croissance, on se retrouve sur le fait que l’IA risque de nous détourner du vivant et de ruiner notre créativité.
Certes l’IA fait désormais partie de nos vies et peut aider à faire de formidables progrès comme en médecine. Mais elle n’est en rien une solution magique, elle pollue et peut désinformer, surveiller voire tuer. La manier exige de se poser la question de son utilité, et non d’adopter une attitude de ravi de la crèche.
Santé-Environnement-Politique 