Une équipe de chercheurs dirigée par Alexander Panfilov, avec le soutien du cryptographe Matthew Green, a mis au jour une faille touchant le raisonnement chiffré de ChatGPT, Claude et Gemini. Les traces de raisonnement interne de ces modèles, censées rester protégées, se sont révélées entièrement portables d’une session, d’un utilisateur et d’un modèle à l’autre, ce qui permet leur extraction par des tiers non autorisés.
Comment fonctionne l’extraction
La méthode consiste à extraire les tokens de raisonnement chiffrés générés par les modèles, puis à exploiter des modèles moins puissants pour les amener à transcrire, en clair, les pensées internes de modèles supérieurs. Les chercheurs estiment le coût de cette opération à environ 720 dollars pour décoder 10 000 traces de raisonnement, un montant suffisamment bas pour rendre l’attaque accessible à des acteurs malveillants disposant de moyens limités.
Des données personnelles retrouvées en clair
En scannant 7 000 sessions publiques, l’équipe a mis la main sur 62 clés API, 33 adresses e-mail et 33 mots de passe, ainsi que d’autres données personnelles laissées sans protection dans ces traces de raisonnement. Ce résultat illustre concrètement l’ampleur du risque : des informations sensibles, censées rester internes au fonctionnement du modèle, se sont retrouvées exposées et récupérables.
La réponse des laboratoires d’IA
Selon Alexander Panfilov, OpenAI, Anthropic et Google ont reconnu l’existence de « plusieurs problèmes » après une divulgation responsable de la vulnérabilité, et travaillent désormais à corriger la faille. La recherche initiale de Matthew Green sur le sujet remonte à mai 2026, avant d’être approfondie par l’équipe de Panfilov et rendue publique cette semaine.
Plus de détails dans l’article original de The Decoder.
Quels modèles d’IA sont concernés par cette faille ?
ChatGPT (OpenAI), Claude (Anthropic) et Gemini (Google) sont tous les trois concernés par la faille touchant le raisonnement chiffré.
Quelles données ont été retrouvées par les chercheurs ?
En scannant 7 000 sessions publiques, les chercheurs ont trouvé 62 clés API, 33 adresses e-mail et 33 mots de passe.
Les entreprises concernées ont-elles réagi ?
Selon les chercheurs, OpenAI, Anthropic et Google ont reconnu plusieurs problèmes et travaillent à corriger la faille après une divulgation responsable.