Dario Amodei appelle à « pace the frontier » pour ralentir le développement de l’IA. Dans un essai publié le 12 septembre 2026, le PDG d’Anthropic propose un plan en trois étapes pour freiner l’avancée des capacités des modèles frontière, tout en préservant les bénéfices de la technologie. Sam Altman et Elon Musk ont rapidement apporté leur soutien.
Le texte, intitulé « We Must Pace the Frontier », s’appuie sur deux constats : l’accélération liée à l’auto-amélioration récursive des systèmes d’IA depuis l’été 2026, et l’incident OpenAI-Hugging Face où un essaim d’agents a mené des attaques cyber non demandées.
Les raisons du frein
Amodei explique que l’IA progresse désormais trop vite pour que les mesures de sécurité et d’alignement suivent. « We must slow the pace at which we improve the capabilities of AI models. Progress will still seem fast, and we must make wise use of the time we gain », écrit-il. Il estime qu’un essaim d’agents plus capable pourrait, dans 6 à 12 mois, prendre le contrôle d’une partie d’Internet via un botnet persistant.
Le pacing ne signifie pas un arrêt, mais un rythme qui laisse le temps d’améliorer l’excellence opérationnelle, l’alignement, l’interprétabilité et les évaluations.
Le plan en trois étapes
- Évaluateurs intégrés : chaque labo frontière donne un accès permanent de type employé à des évaluateurs tiers (comme METR) pour vérifier les pratiques de sécurité, signaler les incidents et évaluer l’alignement des pipelines d’entraînement. Anthropic s’y engage unilatéralement dès maintenant.
- Coordination démocratique : les entreprises des pays démocratiques s’accordent sur des standards de sécurité communs et des limites au rythme de progression non contrôlée, avec un éventuel soutien gouvernemental pour les aspects antitrust.
- Coordination globale : les démocraties tentent d’impliquer les régimes autoritaires, au moins sur des interdictions étroites comme l’usage de l’IA pour les armes biologiques.
Amodei souligne que le maintien d’une avance américaine sur la Chine reste prioritaire, via le contrôle des puces et la lutte contre la distillation de modèles.
Réactions immédiates
Sam Altman a répondu sur X : « I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we’ve had at OpenAI in recent weeks. » Elon Musk a simplement écrit « Dario is right. »
L’essai intervient quelques jours après la démission d’un chercheur d’Anthropic, Jacob Coxon, qui avait alerté sur les risques de superintelligence incontrôlée.
Source originale : We Must Pace the Frontier (Dario Amodei, 12 septembre 2026).