Réservé aux abonnés
Claude Mythos peut-il détruire l’économie mondiale et les communications ? L’IA d’Anthropic a compromis les mécanismes secrets qui sécurisent Internet
Par Steve Tenré
DÉCRYPTAGE – Le géant de l’IA a annoncé qu’un de ses prototypes avait réussi à percer deux systèmes de chiffrement différents. Ces systèmes sécurisent nos paiements, nos communications et nos fichiers confidentiels.
C’est une découverte qui pourrait bouleverser la façon dont est actuellement régi Internet. Anthropic a annoncé, ce mardi 28 juillet, qu’un de ses prototypes d’intelligence artificielle était parvenu à percer, au moins en partie, les secrets du chiffrement des données.
Le chiffrement des données, ou cryptographie numérique, est un mécanisme essentiel au bon fonctionnement d’Internet: il permet à nos transactions bancaires d’être sécurisées, à nos conversations d’être privées, et à nos données d’être stockées. Sans la cryptographie, le web tel que nous le connaissons pourrait tout simplement s’écrouler.PASSER LA PUBLICITÉ
L’objectif de la cryptographie numérique est effectivement de permettre à deux personnes ou deux systèmes d’échanger des données de manière sécurisée, même si quelqu’un tente de les intercepter. Prenons l’exemple d’une femme qui envoie un message à un homme sur WhatsApp. Elle écrit: «Le code du coffre est 1234». Entre le moment où elle envoie son message et le moment où son destinataire le recevra, un algorithme «cryptographique»se chargera de transformer, en une fraction de seconde, le message en une suite de chiffres incompréhensible. Seul son destinataire disposera de la bonne «clé cryptographique» permettant de déchiffrer le message, et de le recevoir tel qu’il a été envoyé.
Des failles dans les protocoles eux-mêmes
Jusqu’ici, le fameux Claude Mythos Preview d’Anthropic, qualifié en mars dernier de «trop puissant» pour être rendu public, était connu pour avoir repéré une dizaine de milliers de failles de sécurité dans des logiciels dits «critiques» (notamment chez ceux de Cloudflare, qui protège des millions de sites internet, ou Mozilla, propriétaire du navigateur web Firefox). Pour ce faire, Claude Mythos analysait le code de ces logiciels, et détectait les failles que les développeurs humains y laissaient involontairement.
Mais aujourd’hui, la découverte d’Anthropic est toute autre. L’entreprise assure dans un billet de blog que Claude Mythos a su déceler des failles «mathématiques» au sein même des algorithmes cryptographiques. Autrement dit, le modèle d’IA ne se contente plus de «corriger» les erreurs humaines: elle s’attaque désormais aux protocoles eux-mêmes, façonnés par des décennies de recherche scientifique, et installés dans le temps car réputés inviolables.
Certes, le monde de la recherche pourrait tout simplement créer de nouveaux algorithmes: ceux-là résultent de longs travaux, qui doivent être validés par des organisations internationales très pointues, comme le National Institute of Standards and Technology (NIST). Le NIST vient d’ailleurs, en 2024, de retenir comme candidat l’algorithme «HAWK», censé protéger les données face aux futurs ordinateurs quantiques.
Des attaques jusqu’à «800 fois» plus rapides
Le souci, c’est que Claude Mythos Preview… a déjà trouvé la brèche chez HAWK, alors qu’il n’a même pas encore été déployé officiellement. «Bien que HAWK ait résisté à deux séries d’examens approfondis menés par des experts humains pendant deux ans, Mythos a réussi à perfectionner la meilleure méthode d’attaque connue contre lui (…), divisant pratiquement par deux sa robustesse cryptographique», s’enorgueillit Anthropic dans son billet.
Mais l’annonce d’Anthropic ne s’arrête pas là: Claude Mythos Preview a également réussi à «briser» l’Advanced Encryption Standard (AES), l’un des algorithmes de protection des données les plus répandus au monde. La quasi-totalité de l’économie mondiale repose sur lui, à commencer par Apple, Microsoft, Google ou Amazon Web Services, pour ne citer qu’eux. Votre banque, vos applications, les administrations… sont dépendantes de l’AES, adopté par le NIST en 2001. «Pour tester la résistance d’AES, les cryptographes analysent parfois des versions plus faibles de cet algorithme. Mythos a réussi à trouver une façon de briser l’une d’entre elles, rendant les méthodes d’attaque existantes jusqu’à 800 fois plus rapides», explique Anthropic.
Discussions entre agents IA
Là où les résultats deviennent encore plus inquiétants, c’est que Mythos Preview a mené ses actions «de façon quasi autonome et presque sans intervention humaine». Pour HAWK, le modèle a généré plusieurs agents, leur donnant chacun une mission particulière. «L’idée clé de l’attaque (contre HAWK) a été découverte par deux agents travaillant ensemble. Tous deux ont commencé à explorer cette idée; le premier l’a rejetée immédiatement, la jugeant irréalisable, tandis que le second a trouvé un moyen de l’exploiter pleinement. Ils ont continué à échanger des messages et ont finalement convenu d’avoir trouvé une attaque efficace.» En seulement 60 heures, Mythos Preview avait réussi à trouver une attaque «efficace».
Pour l’AES, Mythos Preview a d’abord refusé de s’attaquer au problème, jugeant la cible «extrêmement difficile» à compromettre. Les chercheurs d’Anthropic ont alors cherché à l’inciter, en lui écrivant cette phrase: «Les modèles ont tendance à penser que le problème est impossible à résoudre, donc ils n’essaient pas; ils ont besoin d’être fortement incités.» En conséquence, Claude a demandé à l’un de ses agents de «rechercher des idées véritablement novatrices»… avant de découvrir, trois jours plus tard, qu’il était possible de renforcer considérablement une attaque déjà existante.
Les deux brèches obtenues n’ont coûté que peu d’argent, au vu des sommes investies dans le secteur et du «succès» obtenu: 100.000 dollars de jetons chacune. «Cela ne signifie pas que l’AES utilisé aujourd’hui est cassé, mais que l’IA est capable de découvrir de nouvelles stratégies pour analyser des systèmes cryptographiques complexes», tempère toutefois la firme de Dario Amodei. Car oui, les deux attaques menées par Mythos Preview l’ont été dans un environnement fermé: elles n’ont, de fait, eu aucun impact (pour l’heure) dans le monde réel. Toujours est-il qu’elles dressent un «constat alarmant», selon Anthropic, grand habitué du «marketing de la peur»: «Les attaques décrites dans ces deux articles sont les plus puissantes que nous ayons découvertes à ce jour». Pire encore, elles prouvent que «les modèles de langage sont capables de découvrir un nombre considérable de failles, dépassant largement les capacités des processus humains classiques.» L’humanité peut-elle encore s’adapter, au vu des dires d’Anthropic?
Santé-Environnement-Politique 