Les garde-fous IA imposés par OpenAI et Anthropic sur leurs modèles les plus avancés provoquent un exode discret mais bien réel chez les chercheurs en cybersécurité offensive. Selon une enquête de TechCrunch publiée le 23 juillet 2026, plusieurs experts reconnus du secteur affirment que ces restrictions les empêchent de mener leurs travaux défensifs et les poussent vers des modèles chinois sans limitation, comme GLM. Un paradoxe pour des outils censés renforcer la sécurité plutôt que la freiner.
Des contrôles nés d’une crainte de contournement
En juin 2026, le gouvernement américain a imposé des contrôles à l’exportation sur Fable et Mythos, les modèles d’Anthropic, après des signalements suggérant que leurs garde-fous pouvaient être contournés à des fins malveillantes. Ces restrictions ont depuis été partiellement levées : Fable 5 en a été dispensé le 1er juillet 2026, et Mythos 5 a été réintroduit, mais réservé aux organisations américaines vérifiées.
Des programmes de vérification jugés paternalistes
Pour continuer d’accéder aux capacités offensives de leurs modèles, les chercheurs doivent désormais s’inscrire à des programmes dédiés : le Trusted Access for Cyber d’OpenAI et le Cyber Verification Program (CVP) d’Anthropic. Mark Dowd, chercheur reconnu et vendeur de zero-days, résume le malaise ambiant : « it’s not really comfortable to me that these random large companies are making arbitrary decisions about what is safe ». Chris Anley, chief scientist chez NCC Group, va plus loin en expliquant que ces garde-fous « hurt defenders » en empêchant de tester concrètement l’exploitation de vulnérabilités. Paolo Stagno, CTO de Crowdfense, décrit de son côté un traitement des clients vérifiés « like children who need babysitting ».
Vers les modèles chinois sans restriction
Conséquence directe : une partie des chercheurs se tourne vers des modèles open source non bridés, à commencer par GLM. Chris Thompson, de RemoteThreat et organisateur de l’Offensive AI Con, pointe des garde-fous « inconsistent » qui poussent la communauté vers l’IA chinoise. Il résume la frustration ambiante : « you spend a lot of time negotiating with the model instead of working on the core security program ». Un chercheur anonyme, employé par un fabricant de composants pour smartphones exclu du CVP, va jusqu’à qualifier les modèles verrouillés de « barely useful » pour son activité quotidienne. Giuseppe Cali, chercheur en zero-days, explique pour sa part se limiter à l’usage de l’IA pour la rétro-ingénierie plutôt que pour l’offensif, faute de marge de manœuvre suffisante.
Un effet inverse à celui recherché
L’ironie relevée par plusieurs interlocuteurs de TechCrunch est que ces restrictions, censées limiter les usages malveillants, finissent surtout par éloigner les chercheurs légitimes des modèles américains les plus contrôlés — sans empêcher les acteurs mal intentionnés de se tourner, eux aussi, vers des alternatives moins régulées. Plusieurs chercheurs évoquent également un risque accru de fuite de données sensibles lorsqu’ils doivent recourir à des systèmes cloud tiers, faute d’accès direct aux modèles vérifiés. Un débat qui illustre la difficulté, pour les laboratoires d’IA, de calibrer des garde-fous efficaces contre les abus sans pénaliser la recherche en sécurité légitime.
Plus de détails dans l’enquête complète de TechCrunch.
Qu’est-ce que le Cyber Verification Program d’Anthropic ?
C’est un programme de vérification qui donne aux organisations américaines validées un accès élargi aux capacités offensives des modèles Mythos et Fable, en échange d’un contrôle renforcé de leur usage.
Pourquoi les modèles d’Anthropic ont-ils été soumis à un contrôle à l’export ?
Le gouvernement américain a imposé ces restrictions en juin 2026 après des signalements suggérant que les garde-fous de Fable et Mythos pouvaient être contournés à des fins malveillantes.
Vers quels modèles se tournent les chercheurs frustrés par ces garde-fous ?
Plusieurs experts cités par TechCrunch, comme Chris Thompson, indiquent se tourner vers des modèles open source moins restreints, notamment le modèle chinois GLM.