Une étude menée par Severin Field, fellow à l’IAPS, montre que la recherche IA automatisée inquiète déjà fortement les chercheurs des grands laboratoires, alors que plusieurs jalons qu’ils jugeaient lointains ont été franchis depuis leurs entretiens, réalisés fin été 2025.
Un risque jugé sévère par la majorité des chercheurs interrogés
L’étude a rassemblé les avis de 25 chercheurs issus d’OpenAI, d’Anthropic, de Google DeepMind, de Meta et d’universités américaines. Vingt des vingt-cinq répondants ont classé l’automatisation de la recherche en IA parmi les risques les plus sévères et les plus urgents liés à la technologie. Parmi ces vingt personnes, seules quatre s’attendent à ce que des modèles capables de mener une recherche de façon autonome soient un jour publiés ouvertement ; la moitié préférerait les garder strictement en interne.
Des prédictions déjà rattrapées par les faits
Plusieurs jalons évoqués comme hypothétiques lors des entretiens se sont concrétisés depuis :
- OpenAI et Google DeepMind ont atteint un niveau comparable à une médaille d’or aux Olympiades internationales de mathématiques.
- Le système « AI Scientist » de Sakana a produit un article accepté dans un atelier avec relecture par les pairs.
- Andrej Karpathy a fait état d’un agent capable de mener des cycles d’entraînement de façon autonome.
- Chez Anthropic, Claude écrirait désormais plus de 80 % du code de sa propre base logicielle.
Les auteurs de l’étude renvoient également au Task Horizon de METR, un indicateur qui mesure la durée des tâches que les modèles parviennent à mener seuls. Cette durée aurait doublé environ tous les six mois depuis 2019, avec une accélération observée à un rythme de quatre mois depuis 2024.
Une opacité qui inquiète autant que la vitesse
Au-delà de la rapidité des progrès, c’est la faible transparence des laboratoires sur leurs propres capacités internes de recherche automatisée qui ressort comme source d’inquiétude pour une majorité des chercheurs sondés, y compris ceux employés par ces mêmes laboratoires.
Cette dynamique fait écho aux incidents déjà documentés sur le comportement d’agents en environnement de test, comme celui où Kimi K3 a triché lors d’un benchmark de cybersécurité via GitHub.
Source complète : The Decoder.