L’« IA générale », un horizon fantasmé qui concentre les peurs, malgré une définition nébuleuse
Utilisé pour qualifier une IA ayant atteint des capacités supérieures à celles des humains, le terme d’« intelligence artificielle générale » revient régulièrement dans les débats autour des dangers liés à ces technologies. Bien que personne ne semble d’accord sur ce que cela recouvre réellement.
Par Nicolas Six
Aujourd’hui à 10h00, modifié à 11h30
Lecture 3 min
Offrir
Les mots sont affichés jusque sur les mursd’OpenAI : « Intelligence artificielle générale » (IAG ou AGI, en anglais). Un horizon fantasmé pour de nombreux chercheurs en IA, que certains espèrent pendant que d’autres le redoutent, persuadés que ce seuil de capacités, une fois franchi, rendra les IA dangereuses.
loi Endossé par une partie de la communauté, repoussé par d’autres, comme le président-directeur général d’Anthopic, Dario Amodei, le terme IAG pâtit effectivement des définitions trop nombreuses et discordantes qui circulent. Serait-ce une IA capable de remplacer le collègue moyen ? D’assurer le travail des meilleurs experts et dirigeants ? Autre chose ?
Une chimère ? Absolument pas, à en croire le président d’OpenAI, Greg Brockman. « A mes yeux, nous y sommes », lançait-il même le 3 septembre en présentant sa nouvelle génération d’IA à la presse américaine. Ou peut-être que si, à écouter un autre dirigeant d’OpenAI, son directeur général, Sam Altman en personne : la veille, au micro du podcast du journaliste Alex Heath, il qualifiait l’IAG de « terme marketing inapproprié ». « Certains l’emploient d’une façon, d’autres d’une autre façon », expliquait-il avec une prudence tranchant avec ses propos passés.
Endossé par une partie de la communauté, repoussé par d’autres, comme le président-directeur général d’Anthopic, Dario Amodei, le terme IAG pâtit effectivement des définitions trop nombreuses et discordantes qui circulent. Serait-ce une IA capable de remplacer le collègue moyen ? D’assurer le travail des meilleurs experts et dirigeants ? Autre chose ?
L’impossible inventaire des compétences humaines
Dans ce grand flou, une caractéristique commune revient tout de même souvent : on ne juge pas une IAG à son aptitude à reproduire le fonctionnement de notre cerveau, mais plutôt à sa capacité à abattre les mêmes travaux que les humains. Ce sont les preuves d’intelligence qui comptent, pas l’intelligence elle-même.
Pour certains chercheurs, comme Mark Avrum Gubrud, le physicien de l’université du Maryland qui fut le premier à formuler le concept en 1997, l’IAG doit pouvoir effectuer n’importe quelle tâche humaine − un niveau de compétences qu’il serait inconscient de laisser advenir sans s’assurer que l’on maîtrise parfaitement les comportements des IA.
L’autre définition dominante, défendue notamment par Meredith Ringel Morris, chercheuse chez Google DeepMind, se contenterait plutôt de celle d’une intelligence capable d’entreprendre une majorité des actions dont les humains sont capables. OpenAI se concentre sur une cible encore plus petite : les tâches ayant « une valeur économique », malheureusement sans préciser lesquelles n’en auraient pas.
Pour mesurer précisément la progression des laboratoires dans la course à l’IAG, il faudrait donc idéalement dresser la liste − interminable − de ce dont les humains sont capables, puis décompter ce que les IA savent déjà faire. Un énorme travail dont se gardent bien les défenseurs du concept.
Et si l’on place la ligne d’arrivée à mi-chemin de l’ensemble des compétences humaines, il faudrait trouver une manière de matérialiser cette démarcation, en divisant par exemple ces tâches en deux groupes d’un niveau de complexité équilibré : il ne s’agirait pas de claironner que l’IAG est atteinte par une IA qui ne maîtrise que les compétences les plus simples. « Je ne pense même pas qu’un tel travail soit possible », estime auprès du Monde Catherine Pelachaud, directrice de recherche au CNRS et spécialiste des IA sociales.
Les multiples facettes de l’intelligence
Il s’avère tout aussi nécessaire, mais tout aussi complexe, de définir ce qu’est une tâche intelligente. Parmi ceux qui jouent avec le concept d’IAG, beaucoup la restreignent singulièrement. Fin 2023, des chercheurs du laboratoire en IA Google DeepMind appelaient par exemple à se « focaliser sur le cognitif et le métacognitif, mais pas sur les tâches physiques », en concédant que les capacités robotiques des IA semblaient « être à la traîne derrière [leurs] capacités non physiques ».
Lire l’enquête (2026) Comment l’IA a suscité un vent de panique cet été, dans le sillage du piratage de Hugging Face
Les aptitudes des IA, remarquables dans le champ du langage, le sont effectivement beaucoup moins dans celui de la gestuelle, des déplacements dans l’espace, de l’interaction avec un environnement physique complexe. « Imaginez un robot qui marche dans une foule allant dans tous les sens, illustre Catherine Pelachaud. La perception, l’anticipation, c’est très difficile. » Sans compter les règles sociales : « Quelle distance prendre pour éviter un individu agressif ? Quelle attitude adopter si un groupe reste fermé lorsque je m’approche ? »
La chercheuse est bien placée pour observer les faiblesses des IA, même communiquant par texte, en matière de collaboration avec les humains, d’intelligence sociale et émotionnelle. « Au sein d’un groupe, elles ne parviennent pas encore à lire les différences de croyance, d’intention, de but, liste-t-elle. Elles sont encore bien loin de pouvoir s’insérer dans un tissu complexe, dans n’importe quelle situation, n’importe quel domaine. Elles comprennent mal nos émotions, faute d’une représentation de notre état mental, de nos croyances, de leur évolution dans le temps. Et ne parlons pas de l’humour ou des petits signaux, comme les soupirs. » Si l’on admet qu’une IAG doit avoir de solides aptitudes sociales, voire une incarnation physique, la route semble donc encore longue.
L’intelligence artificielle est différente de l’intelligence humaine, profondément dépareillée et désalignée. Pour l’historien israélien Yuval Noah Harari, interrogé par le New York Times, comparer les deux « n’a aucun sens. C’est l’équivalent de définir un avion comme capable de voler comme les oiseaux ». Si la ligne d’arrivée est un jour atteinte, l’IA la franchira en ordre dispersé, certaines compétences passant tout juste la barre, d’autres très largement.
Lire aussi IA : l’impérieuse nécessité de reprendre la main
Car l’IA a déjà commencé à outrepasser les aptitudes humaines dans certains domaines, comme la recherche rapide d’informations ou la conception de protéines. Dans ces champs, elle peut d’ores et déjà être qualifiée de surhumaine, ce qui permet à certains chercheurs et dirigeants, à l’image de Sam Altman, de soutenir qu’elle a entamé son chemin vers la « superintelligence ». Un autre mot totem circulant dans le milieu de l’IA. Un autre fantasme difficile à définir et à quantifier.
Pour approfondir
(2 articles)
Nicolas Six
Santé-Environnement-Politique 