Une étude de l’AI Security Institute (AISI) britannique montre que les benchmarks des agents IA sous-estiment systématiquement ce dont ces systèmes sont réellement capables. En cause : des budgets de calcul plafonnés qui interrompent les évaluations avant que les modèles n’aient pu déployer tout leur potentiel.
Le calcul au moment de l’inférence, angle mort des évaluations
Dans un billet intitulé « More Compute, More Capability », les chercheurs de l’AISI ont testé des modèles frontières sur sept benchmarks en faisant varier le budget de tokens alloué à chaque tâche, c’est-à-dire la quantité de calcul disponible au moment de l’inférence. Résultat : plus le budget augmente, plus les modèles résolvent de tâches jugées jusque-là hors de portée.
Des écarts de performance considérables
Sur des tâches de cybersécurité, 8 % des problèmes n’ont été résolus que lorsque le budget dépassait 10 millions de tokens. Sur des benchmarks d’ingénierie logicielle comme TerminalBench 2.0 et SWE-Bench Pro, le taux de réussite progresse d’environ 25 % quand le budget passe de 1 à 10 millions de tokens. Sur des tâches académiques tirées de Humanity’s Last Exam, l’amélioration atteint environ 22 % jusqu’à un budget de 5 millions de tokens.
L’étude constate aussi que l’horizon temporel des tâches qu’un modèle frontière peut mener à bien s’étend d’environ 40 minutes avec 2,5 millions de tokens à près de 4 heures avec 50 millions de tokens.
Une loi de puissance qui favorise les modèles récents
En croisant les temps de résolution des experts humains sur 211 tâches d’ingénierie logicielle et 78 tâches de cybersécurité, les chercheurs montrent que les besoins en tokens des agents suivent une loi de puissance corrélée à la durée que prendrait un expert humain pour la même tâche. Autre constat notable : les modèles les plus récents profitent de façon disproportionnée des budgets de calcul élevés, avec des progrès qui apparaissent jusqu’à 60 % plus rapides lorsque le budget augmente.
Ce que cela change pour l’évaluation des agents
La conclusion pratique de l’AISI est simple : les benchmarks à budget fixe, utilisés par défaut dans la plupart des évaluations publiques, coupent l’évaluation avant que le modèle ait pu montrer ce dont il est capable. Pour évaluer correctement la sécurité et les risques réels des agents IA, notamment en cybersécurité, les futurs protocoles de test devront donc faire varier le budget de calcul plutôt que de le fixer arbitrairement.
Que révèle l’étude de l’AI Security Institute sur les benchmarks des agents ?
L’étude montre que les benchmarks à budget de calcul fixe sous-estiment les capacités réelles des agents IA, car ils interrompent l’évaluation avant que les modèles puissent exploiter tout leur potentiel de raisonnement.
De combien les performances s’améliorent-elles avec plus de calcul ?
Sur des tâches d’ingénierie logicielle, le taux de réussite progresse d’environ 25% quand le budget de tokens passe de 1 à 10 millions, et l’horizon des tâches résolubles passe de 40 minutes à environ 4 heures.
Pourquoi ce constat compte pour la cybersécurité ?
8% des tâches de cybersécurité testées n’ont été résolues qu’avec un budget dépassant 10 millions de tokens, ce qui signifie que les évaluations de sécurité actuelles pourraient sous-estimer les risques réels posés par des agents disposant de plus de ressources.