« Les préoccupations sur l’éthique des algorithmes doivent être prises très au sérieux »
Le licenciement par Google de Timnit Gebru, chercheuse de renom en intelligence artificielle, jette une ombre sur les priorités de l’entreprise et suscite de légitimes protestations, souligne, dans une tribune au « Monde », Lê Nguyên Hoang, spécialiste de l’éthique des algorithmes.
Publié hier à 06h00 Temps de Lecture 4 min.
TRIBUNE
Lê Nguyên Hoang
Chercheur et médiateur scientifique à l’Ecole polytechnique fédérale de Lausanne (EPFL)
Le licenciement par Google de Timnit Gebru, chercheuse de renom en intelligence artificielle, jette une ombre sur les priorités de l’entreprise et suscite de légitimes protestations, souligne, dans une tribune au « Monde », Lê Nguyên Hoang, spécialiste de l’éthique des algorithmes.
Publié hier à 06h00 Temps de Lecture 4 min.
Tribune. Début décembre, Timnit Gebru, codirectrice de l’équipe d’éthique de l’intelligence artificielle (IA) de Google et chercheuse académique de renom, a été licenciée. Les informations au sujet de son licenciement sont encore très incomplètes. Néanmoins, cet événement semble faire suite à une contestation par la chercheuse de décisions éthiquement discutables de la direction de son entreprise. En particulier, celle-ci semble avoir exigé la rétractation d’un article de recherche, dont Timnit Gebru est coautrice, et qui questionne l’éthique des algorithmes de traitement de langage au cœur de nombreux produits de Google.
En réaction à cet événement, une lettre ouverte de soutien a été publiée. Cette lettre conteste la version des faits présentée par Google ainsi que les décisions de l’entreprise, et exige davantage de transparence et d’engagement éthique. Elle a aujourd’hui reçu 2 695 signatures d’employés de Google, et 4 302 signatures d’universitaires, d’employés de l’industrie des technologies et de membres de la société civile.
Pour comprendre l’importance de cette lettre, il est utile de prendre du recul et de mesurer l’impact mondial des algorithmes de Google. Ces algorithmes répondent quotidiennement à des milliards de requêtes d’utilisateurs, sur des thèmes parfois controversés et dangereux comme « le changement climatique est un canular », « les dangers de la vaccination » ou « événement musulman ». Ces algorithmes ont aussi une influence monumentale sur les vidéos qui seront davantage visionnées sur la plate-forme YouTube, puisque deux visionnages sur trois résultent de recommandations algorithmiques. De façon inquiétante, plusieurs études suggèrent que ces algorithmes promeuvent énormément de contenus complotistes, et ont contribué à ce que les vidéos qui nient le changement climatique fassent autant de vues que celles qui l’expliquent.
Biais préoccupants
Dans ce contexte, il semble important d’étudier davantage l’éthique de ces algorithmes. L’article rétracté par Google soulignait justement, entre autres, que des biais préoccupants avaient été assimilés par les algorithmes de traitement des langages. Ces biais avaient d’ailleurs déjà été soulignés, par exemple par Abubakar Abid, qui a montré qu’un algorithme appelé GPT-3 complétait systématiquement des débuts de phrases à propos des musulmans par des histoires de terrorisme. Si des algorithmes similaires sont déployés par Google, à moins d’une réflexion éthique préalable, il faut craindre que les réponses à des recherches comme « événement musulman » parlent eux aussi davantage de terrorisme que de ramadan.
Lire aussi Google modifie l’algorithme de son moteur de recherche en français
De façon encourageante, récemment, l’éthique des algorithmes a connu de nombreux progrès, comme précisément le recrutement de Timnit Gebru par Google en 2018, l’investissement dans l’équipe d’éthique de l’IA qu’elle a montée, les publications académiques de cette équipe, ou la prestigieuse conférence académique Fairness, Accountability and Transparency, que Timnit Gebru a contribué à créer.
Plus généralement, tous ces signaux ont certainement aidé à instaurer une culture au sein de Google qui sensibilise les chercheurs et les ingénieurs aux risques de leurs algorithmes, et qui met sous pression la direction de l’entreprise, comme ce fut le cas lors du refus des ingénieurs d’une collaboration avec l’armée américaine. Ces signaux ont aussi conduit à des modifications des produits de Google comme, depuis la crise du Covid-19, l’ajout de bannières qui redirigent vers Wikipédia ou le site de l’Organisation mondiale de la santé (OMS), ou comme la lutte contre la mésinformation dont l’efficacité a été validée par des audits externes. Même si ces audits insistent sur le fait que les mesures prises sont encore très insuffisantes, ils reconnaissent un net progrès.
Lire le reportage : « Un combat pour notre monde », chez Google, la contestation interne s’étend
Signal indésirable
Cependant, le licenciement de Timnit Gebru entame sérieusement cette culture de la responsabilité éthique. Il envoie surtout un signal indésirable aux employés de Google, en suggérant que des questionnements trop véhéments des produits du géant du Web peuvent conduire à des licenciements abrupts. Vu l’importance de l’éthique des produits de Google, il semble crucial qu’il y ait une réponse proportionnée à ce signal problématique. La réaction convergente de milliers d’employés de Google et de personnes externes à l’entreprise est une excellente réponse. Cependant, elle n’est peut-être pas encore suffisante.
Pour qu’elle le devienne, la lettre ouverte devrait récolter le soutien, non pas de milliers, mais au moins de dizaines de milliers de signataires, à l’intérieur ou à l’extérieur de Google, en Californie, mais aussi et surtout venant du monde entier. Cette lettre est en effet une occasion rare de dire à Google que les préoccupations autour de ses algorithmes concernent désormais la planète entière, qu’elles ne peuvent pas être cachées sous le tapis, et que l’entreprise doit beaucoup plus valoriser la sécurité et l’éthique de ses algorithmes.
Lire aussi La course à l’éthique est lancée
D’autant que le signal à envoyer ne se limite pas à Google. C’est aussi l’occasion de dire aux directions d’autres entreprises, Facebook, Twitter, Amazon, Microsoft ou Apple, que l’éthique de leurs algorithmes doit être prise très au sérieux, que toute préoccupation soulevée en interne ou en externe doit être traitée avec soin et respect, que l’ethical washing ne restera pas impuni, et qu’il est urgent pour elles de collaborer avec des institutions publiques, où la liberté académique et l’intégrité de la recherche pourront être garanties.
C’est aussi l’occasion de dire au monde universitaire que la seule amélioration des performances algorithmiques ne devrait pas être sa préoccupation première, que la recherche publique doit investir beaucoup plus dans la conception d’algorithmes à la fois éthiques et robustes, résistant aux utilisations malveillantes, et que les préoccupations sur ces sujets et les solutions possibles doivent être promues, notamment au moment de la revue par les pairs des travaux des chercheurs. Rendre les algorithmes robustement bénéfiques est un fabuleux chantier. Il est urgent de montrer qu’il nous tient à cœur.
Lê Nguyên Hoang est chercheur et médiateur scientifique à l’Ecole polytechnique fédérale de Lausanne (EPFL), vidéaste sur YouTube (Science4All), coauteur, avec El Mahdi El Mhamdi, du livre Le Fabuleux Chantier (EDP Sciences, 2019), sur l’éthique des algorithmes.
Lê Nguyên Hoang(Chercheur et médiateur scientifique à l’Ecole polytechnique fédérale de Lausanne (EPFL))
Santé-Environnement-Politique 