Inférence IA : serveurless, GPU dédiés et routage intelligent en 2026

Temps de lecture : 8 min

Le modèle n’est plus le problème

Tout le monde appelle les mêmes APIs de LLM. Alors, qu’est-ce qui distingue vraiment une équipe technique performante ?

Concrètement, c’est tout ce qui entoure le modèle : la logique de routage, les pipelines de données temps réel, et la capacité de passer d’un prototype à la production sans réécrire le moindre bout de code. Le classement des LLM sur un benchmark importe moins que ce qui devient possible quand l’infrastructure cesse d’être une variable d’ajustement, quand une seule plateforme maîtrise toute la chaîne, du GPU à l’API.

Lors de la session Deploy 2026, j’ai présenté plusieurs démonstrations en direct : une inférence serveurless avec recherche web et outils MCP ajoutés en quelques lignes, un calculateur de point mort entre serveurless et dédié, et un routeur construit dans la console en deux minutes qui a réduit de ~80 % les coûts sur un lot de huit tickets de support. Passer d’une configuration serveurless à une configuration dédiée, ou encore intégrer un routeur, n’a nécessité ni changement de plateforme, ni réécriture de code, ni migration contractuelle. C’est là que la plupart des setups d’inférence laissent de l’argent sur la table.

Votre parcours IA en trois étapes

La plupart des workloads IA traversent trois phases. On commence petit en mode serveurless, on migre vers des GPU dédiés quand le volume le justifie, et à un moment on a besoin d’un routeur qui prend les décisions à chaque requête.

Sur la plupart des plateformes, chaque étape implique un nouveau produit, une nouvelle API, un nouveau contrat. Sur DigitalOcean, ce sont trois configurations de la même plateforme. Le code que vous écrivez au premier jour fonctionne encore au cinq-centième.

Étape 1 – Serveurless : une clé API, cinquante modèles

Pour les équipes qui démarrent, l’inférence serveurless de DigitalOcean est le point d’entrée évident. Une clé API. Un endpoint unique. Plus de cinquante modèles. Compatible OpenAI, ce qui signifie que votre code existant fonctionne dès le premier appel : zéro réécriture, zéro migration.

• Facturation au token : vous ne payez que ce que vous utilisez.
• API Chat Completions & Responses compatible OpenAI.
• Modèles propriétaires (GPT-5.2, Claude Opus 4.7) et open weights (Llama 4, Mistral, DeepSeek) sous le même toit.
• Tarifs de 0,05 $ à 25 $ par million de tokens selon les niveaux de coût, latence et capacité.
• Outils MCP intégrés pour connecter les modèles à des services réels (votre compte DigitalOcean, bases de connaissances, APIs tierces) sans code d’intégration.

Étape 2 – GPU dédiés : un endpoint privé, vos GPU

Pour la plupart des applications, le serveurless suffit largement. Mais dans certains cas, vous avez besoin de plus. Si vous utilisez un modèle coûteux à fort volume, payer à l’heure plutôt qu’au token devient plus intéressant. C’est là qu’intervient l’inférence dédiée.

Vous récupérez votre propre GPU. Un endpoint privé. Une tarification horaire prévisible. Personne d’autre ne partage votre matériel. Et pour passer du serveurless au dédié ? Deux lignes de code.

DigitalOcean propose une gamme de GPU AMD et NVIDIA, des MI300X et MI350X pour l’inférence de grands modèles, aux H100, H200 et B300 pour l’entraînement et le raisonnement sur longs contextes. Choisissez votre modèle, votre GPU, votre région.

Le calcul de rentabilité tient en trois variables :

• Le modèle que vous exécutez.
• Le GPU sur lequel vous le déplacez.
• Votre volume de requêtes par heure.

En mode serveurless, vous payez au token. Chaque requête a un coût basé sur les tokens entrants et sortants, multiplié par le taux du modèle. En mode dédié, vous payez un forfait horaire fixe pour le GPU, quel que soit votre usage. La question est : à quel volume de requêtes le forfait horaire devient-il moins cher que le cumul des coûts au token ?

Le point mort n’est pas une valeur unique. Il varie selon le modèle et le GPU. Avec Claude Opus 4.7 à 5 $ par million de tokens sur un AMD MI300X à 1,99 $ de l’heure, le seuil se situe autour de 234 requêtes par heure. En dessous, le serveurless gagne. Au-dessus, le dédié prend le relais parce que le coût au token s’accumule plus vite que le tarif horaire.

Les variables font varier ce chiffre de façon significative. Un modèle moins cher comme GPT-oss-120b à 0,10 $ par million de tokens a un seuil beaucoup plus haut, car chaque requête coûte très peu en serveurless. Un modèle plus cher sur le même GPU bascule vers le dédié beaucoup plus tôt. Un GPU plus puissant à 7,99 $ de l’heure nécessite un trafic bien plus élevé pour justifier le coût comparé au MI300X à 1,99 $.

La recommandation pratique : démarrez en serveurless, surveillez votre volume, et passez en dédié quand les calculs sont favorables pour votre combinaison modèle + trafic.

Lors de la session, une même requête de génération de code a été lancée sur deux chemins :

• Directement sur Claude Opus 4.7 : 0,00556 $ et 3,9 secondes.
• Via le routeur (redirigé vers openai-gpt-oss-20b) : 0,00019 $ et 3,3 secondes.

Le routeur a sélectionné un modèle plus léger pour une tâche qui n’avait pas besoin d’un modèle de pointe, automatiquement, dans le même appel API. Aucun changement de code. Aucune sélection manuelle. 97 % moins cher et plus rapide.

Étape 3 – Routage d’inférence : la plateforme choisit pour vous

Vous avez des options : plusieurs modèles, inférence serveurless, inférence dédiée. Mais chaque requête est différente. Une réinitialisation de mot de passe n’a pas besoin du même modèle qu’une revue de code. Vous ne devriez pas prendre cette décision pour chaque requête. Alors qui décide ? Le Intelligent Router de DigitalOcean.

Le routeur opère dans cet ordre :

1. Le routeur lit la requête entrante.
2. Le routeur associe la requête aux tâches que vous avez configurées.
3. Le routeur sélectionne le modèle approprié depuis le pool d’options et applique automatiquement votre politique de sélection.

Il fonctionne comme un remplacement direct de tout appel de modèle. Le routeur propose trois politiques : Optimal pour le meilleur équilibre qualité/coût/vitesse ; Efficacité des coûts pour les workloads à haut volume ; Optimisation de la vitesse pour les applications temps réel.

Au-delà de la politique, le routeur gère les aspects opérationnels : presets de tâches préconfigurés, tâches personnalisées, modèles de secours, affinité de modèle pour les boucles agentiques (qui réduit de 45 à 80 % les coûts de tokens d’entrée dans les sessions longues) et un onglet d’analyse pour chaque décision de routage.

Mixez et associez, sans enfermement

Sur la plupart des plateformes d’inférence, chaque étape de croissance force un changement : nouveau fournisseur, nouvelle API, nouveau contrat. La configuration serveurless qui fonctionnait au premier jour perd sa pertinence dès que les workloads se diversifient, et la facturation au token cesse d’être rentable une fois le trafic soutenu.

DigitalOcean traite ces étapes comme des briques constructibles plutôt qu’une progression linéaire. Serveurless, dédié et routeur se combinent dans la configuration qui correspond à votre charge, sur le même format d’API et la même facture, sans migration intermédiaire.

• Jour 1 – Serveurless : vous construisez. Vous ne pensez pas aux GPU. Un endpoint, 50+ modèles, paiement au token. Le moyen le plus rapide de passer d’une idée à une application IA fonctionnelle, sans investissement initial.
• Jour 50 – Serveurless + Routeur : vos workloads se diversifient. Certaines requêtes ont besoin d’un modèle de pointe, la plupart non. Le routeur choisit le meilleur modèle par requête, toujours au token, mais chaque token travaille plus dur. Une meilleure répartition des coûts sans changer une ligne de code applicatif.
• Jour 500 – Dédié + Routeur : le volume a basculé. Le trafic principal passe sur des instances GPU dédiées à tarif horaire prévisible. Le trafic de pointe et les pics restent en serveurless. Le routeur gère la répartition automatiquement. Vous n’y pensez même plus.

La sélection de modèle est une cible mouvante. Différentes requêtes veulent différents modèles, et la gamme elle-même change tous les quelques mois. L’infrastructure qui soutient cette décision est quelque chose avec lequel vous vivez chaque jour. Construire sur une plateforme qui traite l’inférence comme une surface continue, et non comme une série de produits entre lesquels il faut migrer, signifie que les choix du premier jour ne deviennent pas les contraintes du cinq-centième.

De votre premier appel API aux GPU traitant des millions de requêtes, le moteur d’inférence de DigitalOcean est une plateforme unique, une facture unique, une équipe unique. Vos workloads grandissent, votre infrastructure grandit avec eux, sans changement de fournisseur, sans renégociation de contrat, sans réécriture de code, sans maux de tête à chaque étape.

Nicolas D.

Développeur full-stack depuis 25 ans, je suis passé du PHP des années 2000 aux stacks modernes (Next.js, React Native, IA). J’accompagne entrepreneurs et créateurs dans leurs projets digitaux avec une approche pragmatique : du code aux résultats concrets.