DeepSeek DeepInfer est désormais accessible à l’ensemble des développeurs sous licence Apache 2.0. Le laboratoire chinois vient de publier le code source complet de son moteur d’inférence interne, conçu pour faire tourner ses modèles de fondation à très grande échelle. Cette libération technique vise directement à démocratiser le déploiement sur les puces Nvidia et Huawei tout en réduisant drastiquement les coûts de calcul.
- Libération open source : code complet sous licence Apache 2.0 disponible publiquement sur GitHub.
- Compatibilité matérielle : support natif des processeurs graphiques Nvidia SM100 Blackwell et des puces Huawei Ascend 950.
- Modèle optimisé : prise en charge de pointe pour le nouveau modèle DeepSeek-V4.1-Flash.
- Optimisations poussées : intégration de noyaux personnalisés FlashMLA, DeepGEMM et ordonnancement asynchrone sans surcoût.
- Performances brutes : score de 99,9 % sur le banc d’essai AIME 2026 et 93,4 % sur GPQA Diamond.
Sommaire :
1. L’architecture technique de DeepSeek DeepInfer
Le nouveau projet DeepSeek DeepInfer ne se contente pas d’être un simple habillage autour de bibliothèques existantes. Développé initialement sur les bases de vLLM avec des emprunts architecturaux à SGLang et TensorRT-LLM, ce framework intègre l’ensemble de la pile logicielle exploitée en production par DeepSeek.
Le moteur se distingue par l’intégration native de noyaux hautement optimisés, à l’image de FlashMLA, DeepGEMM, DeepEP, TileKernels et DeepSelect. Ces composants permettent d’exploiter les architectures à mélange d’experts (MoE) avec une répartition de charge exemplaire. L’ordonnancement asynchrone des requêtes élimine les temps morts entre le processeur central et l’accélérateur graphique, garantissant un débit constant même lors de fortes variations de charge.
Un autre atout réside dans le mécanisme d’attention fenêtrée glissante (SWA) avec rejeu borné via la troncature YoCo. Ce système diminue drastiquement le volume de calcul lors de la phase de pré-remplissage du décodeur. Pour les concepteurs de solutions autonomes qui s’intéressent à notre comparatif des agents IA, cette fluidité d’exécution ouvre la voie à des temps de réponse nettement plus prévisibles en production.
2. Accélération matérielle : SM100 et Ascend à l’honneur
Sur le plan matériel, DeepSeek DeepInfer fait un choix stratégique révélateur. Le framework cible en priorité deux environnements de pointe : les puces Nvidia d’architecture SM100 (Blackwell) et les accélérateurs chinois Huawei Ascend 950 via CANN 9.2. Ce double ancrage illustre la volonté de s’affranchir d’une dépendance exclusive à un seul écosystème matériel.
Le parallélisme géré par le moteur couvre à la fois le parallélisme d’attention, le parallélisme de contexte équilibré et le parallélisme d’experts MoE avec équilibrage dynamique (EPLB). Grâce à ces raffinements, le système maintient une stricte invariance des prédictions, quelle que soit la composition du lot de requêtes en cours de traitement.
Cette approche s’inscrit dans la continuité des initiatives récentes du laboratoire, quelques jours après l’ouverture de l’API DeepSeek Search pour les flux de recherche web. Elle répond également aux efforts d’optimisation matérielle constatés chez d’autres constructeurs comme le démontre l’arrivée de Nemotron 3.5 pour le calcul local.
3. Tableau comparatif des fonctionnalités clés
Pour mieux situer la proposition technique, voici les caractéristiques opérationnelles de ce nouveau moteur face aux attentes standard de l’industrie :
| Fonctionnalité | DeepSeek DeepInfer | Moteurs d’inférence standards |
|---|---|---|
| Licence logicielle | Apache 2.0 (Open Source total) | Propriétaire ou licences restrictives |
| Modèle phare supporté | DeepSeek-V4.1-Flash | Modèles génériques non spécialisés |
| Matériels ciblés | Nvidia SM100 et Huawei Ascend 950 | Nvidia Hopper / Ada Lovelace |
| Noyaux intégrés | FlashMLA, DeepGEMM, DeepEP, TileKernels | Kernels CUDA génériques |
| Gestion MoE | Parallélisme d’experts + EPLB dynamique | Routage statique basique |
| Génération contrainte | Regex, JSON Schema, grammaires EBNF | Optionnelle ou via modules tiers |
4. Mon avis : l’infrastructure comme arme de guerre
Éditorial : cette section exprime mon opinion.
Pendant que les géants américains empilent les abonnements hors de prix et verrouillent leurs serveurs derrière des interfaces opaques, DeepSeek continue sa distribution méthodique de marteaux-pilons en libre accès. Publier un moteur d’inférence complet sous licence Apache 2.0 n’est pas un geste philanthropique : c’est une torpille lancée contre les marges insolentes des fournisseurs d’infrastructure cloud.
Le signal envoyé au marché est limpide. En supportant côte à côte les architectures Nvidia SM100 et Huawei Ascend 950, l’équipe technique démontre qu’elle peut maintenir des performances stratosphériques sans rester pieds et poings liés aux livraisons de Santa Clara. Quand on observe un résultat de 99,9 % sur AIME 2026 pour un modèle compact servi par ce moteur, on comprend vite que l’optimisation logicielle est devenue plus tranchante que la simple accumulation brute de puces électroniques.
Certes, faire tourner ce moteur sur sa propre infrastructure exigera des compétences solides en ingénierie système et des serveurs musclés. Ce n’est pas un script Python du dimanche que tu vas lancer en trois clics sur ton ultraportable. Mais pour les équipes qui conçoivent des services à gros volume, la donne change complètement : l’indépendance technique redevient une option crédible.
5. Comment tester DeepSeek DeepInfer en pratique
Pour évaluer DeepSeek DeepInfer sur vos propres serveurs de calcul, l’installation requiert un environnement Linux avec GCC 13, Python 3.12 et CUDA 13 pour les configurations Nvidia. Le projet est accessible directement sur le dépôt GitHub officiel DeepInfer.
Le point de départ par défaut utilise le checkpoint DeepSeek-V4.1-Flash-1017 sur Hugging Face. Le téléchargement s’effectue automatiquement lors du premier lancement, mais il reste tout à fait possible d’indiquer un répertoire local via la variable d’environnement dédiée.
Les scripts d’évaluation fournis dans le répertoire officiel permettent de reproduire directement les métriques de référence. L’écosystème open source gagne ici une brique logicielle robuste pour l’hébergement de pointe à l’échelle industrielle.
6. Foire aux questions sur le moteur
Qu’est-ce que DeepSeek DeepInfer ?
DeepSeek DeepInfer est le framework d’inférence haute performance open source développé par DeepSeek pour déployer ses modèles en production à grande échelle.
Quelle est la licence logicielle appliquée au code source ?
Le code source du projet est intégralement distribué sous licence libre et permissive Apache 2.0.
Quels accélérateurs matériels sont pris en charge ?
Le framework prend en charge de façon optimisée les puces graphiques Nvidia d’architecture SM100 ainsi que les processeurs d’intelligence artificielle Huawei Ascend 950.
Quel est le modèle supporté en priorité dès le lancement ?
Le moteur est configuré par défaut pour le modèle de raisonnement rapide DeepSeek-V4.1-Flash.