Un audit SaferAI GLM publié le 4 août 2026 documente un écart préoccupant chez GLM-5.2, le modèle ouvert du chinois Z.ai : des capacités offensives en cybersécurité et en biologie proches de la frontière, mais une absence quasi totale de refus face aux tâches dangereuses. Selon TechCrunch, qui a consulté le rapport, GLM-5.2 « n’a refusé aucune des tâches offensives de cybersécurité ou d’usage double qui lui ont été confiées ».
Ce que révèle le rapport SaferAI
SaferAI, organisme à but non lucratif spécialisé dans l’évaluation des risques liés à l’IA, a soumis GLM-5.2 à CyberGym, une batterie de tests conçue pour mesurer les capacités offensives des modèles de langage. Résultat : le modèle chinois se situe « seulement de quelques mois derrière » les systèmes de pointe comme GPT-5.5 d’OpenAI et Claude Opus 4.7 d’Anthropic sur les capacités cyber et biologiques.
La différence se joue sur les garde-fous. Là où Claude Opus 4.7 a refusé si systématiquement les tâches offensives que SaferAI n’a même pas pu terminer l’évaluation CyberGym sur ce modèle, GLM-5.2 s’est exécuté sans opposer de refus. Henry Papadatos, directeur exécutif de SaferAI, résume le problème : « La frontière de la capacité n’est pas la frontière du risque. »
Un modèle déjà largement utilisé
GLM-5.2 n’est pas un modèle de laboratoire isolé. Il surpasse Opus et GPT-5.5 sur certains benchmarks de détection de vulnérabilités, pour un coût annoncé de seulement 0,17 dollar par faille trouvée. Signe de son adoption réelle : Hugging Face a utilisé GLM-5.2 pour se défendre lors de la brèche de sécurité impliquant un agent OpenAI survenue en juillet 2026. Le modèle circule donc déjà dans des contextes défensifs comme offensifs, ce qui donne un poids concret aux constats de SaferAI.
Le dilemme des poids ouverts
L’affaire relance un débat plus large sur les modèles open source chinois, dont les poids sont librement téléchargeables et donc impossibles à corriger a posteriori par leur éditeur une fois diffusés. Mark Witzke, chercheur associé à l’UC San Diego spécialiste des politiques technologiques sino-américaines, avance une hypothèse : à mesure que les modèles ouverts chinois approchent des niveaux de risque cyber et biosécurité comparables aux modèles de pointe, la Chine pourrait faire le même arbitrage que les États-Unis et juger certains d’entre eux trop dangereux pour une diffusion en poids ouverts.
Qu’est-ce que GLM-5.2 ?
GLM-5.2 est un modèle de langage open source développé par Z.ai (Zhipu), une entreprise chinoise d’intelligence artificielle. Ses poids sont librement téléchargeables.
Qu’est-ce que SaferAI ?
SaferAI est un organisme à but non lucratif qui évalue les risques de sécurité des modèles d’intelligence artificielle, notamment via des batteries de tests comme CyberGym pour mesurer les capacités offensives en cybersécurité.
Pourquoi l’absence de refus de GLM-5.2 pose-t-elle problème ?
Parce que le modèle exécute des tâches offensives en cybersécurité ou à usage double sans opposer de résistance, alors que ses capacités techniques approchent celles des modèles de pointe comme GPT-5.5 ou Claude Opus 4.7, qui eux refusent systématiquement ce type de requêtes.