Mise à l’échelle du calcul IA : pourquoi le passage de l’entraînement à l’inférence

Pendant trois ans, l’industrie de l’IA a été obsédée par une seule métrique : la quantité de calcul nécessaire pour entraîner le prochain modèle de pointe. L’entraînement de GPT-4 aurait coûté plus de 100 millions de dollars. Gemini Ultra a coûté davantage. Chaque génération nécessitait exponentiellement plus de GPU, plus d’énergie, plus d’argent. Le massif programme de construction d’infrastructure — avec des hyperscalers engageant entre 600 et 690 milliards de dollars de dépenses d’investissement pour 2026 — était justifié par l’hypothèse que l’entraînement continuerait à prendre de l’ampleur.

La grande inversion

Entraîner un grand modèle de langage est un événement. Cela se produit une seule fois — ou peut-être quelques fois quand un modèle est affiné et mis à jour. Cela nécessite d’énormes clusters de GPU étroitement synchronisés travaillant de concert pendant des semaines ou des mois. C’est intensif en capital, techniquement exigeant et de plus en plus concentré parmi une poignée d’organisations disposant des ressources pour le tenter.

L’inférence est l’opposé de tout cela. Elle se produit en continu, chaque fois qu’un utilisateur envoie un message à ChatGPT, chaque fois qu’une application entreprise appelle une API IA, chaque fois qu’un assistant de code génère une suggestion. L’inférence fonctionne 24 heures sur 24, 7 jours sur 7, aussi longtemps que le modèle est en production. Et à mesure que l’adoption de l’IA s’accélère, le volume d’inférence croît de manière exponentielle.

Les chiffres parlent d’eux-mêmes. En 2023, l’entraînement représentait environ les deux tiers de tout le calcul’IA et l’inférence un tiers. En 2025, Deloitte estimait que la répartition était approximativement égale. En 2026, l’inférence devrait représenter environ les deux tiers de tout le calcul — une inversion complète en seulement trois ans.

Les prévisions technologiques 2026 de Deloitte cadrent ce virage sans ambiguïté : bien que la croissance du pré-entraînement ralentisse, les besoins en calcul du post-entraînement (qui utilise environ 30 fois le calcul nécessaire pour entraîner le modèle fondamental original), du test-time scaling (modèles de raisonnement nécessitant plus de 100 fois le calcul d’une inférence simple) et de l’utilisation accrue signifient que le monde a probablement besoin de plus de centres de données, pas de moins.

Le Futurum Group prédit que les revenus de l’inférence dépasseront ceux de l’entraînement en 2026. Ce n’est pas parce que l’entraînement diminue. L’entraînement continue de croître. C’est parce que la demande d’inférence explose — portée par des produits IA atteignant désormais des centaines de millions d’utilisateurs quotidiens.

L’économie des tokens

L’économie de l’inférence est fondamentalement différente de celle de l’entraînement, et comprendre cette différence est crucial pour quiconque construit ou investit dans l’IA.

L’entraînement est un coût fixe. Vous dépensez 100 millions de dollars (ou 500 millions, ou un milliard) pour produire un modèle. Une fois le modèle entraîné, ce coût est engagé. La question devient alors : à quel prix pouvez-vous faire tourner le modèle pour servir les clients ?

L’inférence est un coût variable. Chaque token généré coûte de l’électricité, du temps de puce et de la bande passante mémoire. Pour un système IA en production, l’inférence peut représenter 80 à 90 % du coût total de calcul sur la durée de vie. L’entraînement est la dépense d’investissement ; l’inférence est la dépense d’exploitation. Et comme tout chef d’entreprise le sait, ce sont les coûts d’exploitation qui déterminent la rentabilité.

Le coût par token a baissé à un rythme remarquable. Selon une analyse d’Andreessen Horowitz, les coûts d’inférence pour une performance de modèle équivalente diminuent d’environ 10x par an. La performance équivalente à GPT-4 qui coûtait 20 dollars par million de tokens fin 2022 coûte désormais environ 0,40 dollar par million de tokens. Le taux de déclin varie considérablement selon le benchmark de performance spécifique — de 9x à 900x par an pour certains niveaux de capacité — mais la tendance globale est indéniable.

Cette déflation est à la fois l’opportunité et la menace. Pour les consommateurs d’IA, la baisse des coûts d’inférence signifie que les capacités IA deviennent économiquement viables pour un éventail d’applications toujours plus large. Pour les fournisseurs d’IA, la même déflation signifie que le revenu par requête se réduit inexorablement, exigeant une croissance massive du volume pour maintenir le chiffre d’affaires.

Les challengers des puces d’inférence

Le virage vers l’inférence a ouvert un front concurrentiel auquel NVIDIA n’était pas confrontée pendant l’ère dominée par l’entraînement. L’entraînement nécessite des clusters massifs de GPU avec des interconnexions à ultra-haute bande passante — le point fort de NVIDIA. L’inférence, en revanche, est plus atomisable. Les requêtes individuelles peuvent être traitées indépendamment, réduisant le besoin de clusters étroitement couplés et ouvrant la porte à des architectures alternatives.

Deux entreprises ont émergé comme les challengers les plus en vue : Cerebras et Groq.

Cerebras a adopté l’approche audacieuse de construire la plus grande puce jamais fabriquée. Le CS-3, alimenté par le moteur à l’échelle du wafer de l’entreprise, place un accélérateur IA entier sur un seul wafer de silicium plutôt que de le découper en puces individuelles. Le résultat est un système avec une bande passante SRAM on-chip massive — environ 21 pétaoctets par seconde — qui élimine le goulot d’étranglement du déplacement des données limitant l’inférence GPU conventionnelle.

Des benchmarks indépendants d’Artificial Analysis démontrent l’avantage en performance. Cerebras a atteint 2 100 tokens de sortie par seconde sur des modèles de classe 70B, et environ 2 500 tokens par seconde sur Llama 4 Maverick, contre environ 1 000 tokens par seconde sur NVIDIA Blackwell pour le même modèle. Sur gpt-oss-120B d’OpenAI, Cerebras délivre environ 2 700 tokens par seconde. L’avantage de vitesse n’est pas incrémental — il est transformateur pour les applications nécessitant une réactivité en temps réel.

Le marché a validé l’approche de Cerebras en janvier 2026 lorsque OpenAI a signé un contrat d’inférence de 10 milliards de dollars avec l’entreprise. L’accord couvre environ 750 mégawatts de capacité de calcul, avec des systèmes initiaux déployés au T1 2026 et un déploiement progressif jusqu’en 2028. Pour OpenAI — dont ChatGPT sert désormais plus de 900 millions d’utilisateurs actifs hebdomadaires — le coût et la vitesse de l’inférence impactent directement la viabilité de ses modèles d’affaires grand public et entreprise.

Groq a été le pionnier du Language Processing Unit (LPU), une architecture de puce conçue spécifiquement pour la génération séquentielle de tokens qui caractérise l’inférence des LLM. Le service cloud public de Groq a démontré des vitesses d’inférence qui ont attiré une large attention début 2025, proposant des modèles comme Llama et Mixtral à des vitesses qui rendaient les services GPU existants lents en comparaison.

Mais la trajectoire de Groq a pris un tournant spectaculaire la veille de Noël 2025, lorsque NVIDIA a effectivement acquis les actifs clés de l’entreprise dans ce que les observateurs de l’industrie ont décrit comme un acquihire. L’opération, évaluée à environ 20 milliards de dollars — près de trois fois la dernière valorisation de 6,9 milliards de dollars de Groq — a placé la technologie LPU de Groq sous l’égide de NVIDIA. Le fondateur et PDG Jonathan Ross et le président Sunny Madra ont rejoint NVIDIA, tandis que Groq continue en tant qu’entreprise nominalement indépendante. Jensen Huang a déclaré que le plan est d’intégrer les processeurs à faible latence de Groq dans l’architecture d’usine IA de NVIDIA. Le message de NVIDIA était clair : si vous construisez une meilleure puce d’inférence, nous vous absorberons.

SambaNova, le troisième challenger notable, a adopté une approche différente avec son architecture de flux de données reconfigurable (RDA). Bien que générant moins de gros titres que Cerebras ou Groq, SambaNova a bâti une activité entreprise significative centrée sur les charges de travail intensives en inférence. La puce SN50 de cinquième génération de l’entreprise, conçue spécifiquement pour l’inférence agentique et dont la livraison est prévue au S2 2026, délivre 5x plus de calcul par accélérateur que son prédécesseur. SambaNova cible les entreprises nécessitant des déploiements IA privés où les exigences de sécurité des données excluent l’inférence cloud.

La frontière de l’inférence en périphérie

Le virage vers l’inférence ne se limite pas aux centres de données. Une catégorie croissante de charges de travail’IA se déplace en périphérie — s’exécutant sur des appareils, dans des serveurs locaux ou dans de petites installations régionales plutôt que dans des environnements cloud hyperscale.

Les moteurs sont convaincants. Les applications sensibles à la latence (traduction en temps réel, véhicules autonomes, contrôle industriel) ne peuvent pas tolérer le temps aller-retour vers un centre de données cloud. Les applications sensibles à la confidentialité (santé, services financiers, gouvernement) peuvent ne pas être autorisées à envoyer des données vers des serveurs externes. Et les applications sensibles aux coûts peuvent trouver que le matériel d’inférence local, une fois acheté, est moins cher que les frais continus d’API cloud. L’analyse de Computerworld lors du CES 2026 a identifié l’efficacité des coûts, le traitement en périphérie et la souveraineté des données comme les trois forces principales poussant les entreprises vers le déploiement d’inférence sur site.

L’écosystème matériel pour l’inférence en périphérie s’étend rapidement. La plateforme Jetson de NVIDIA, l’AI Engine de Qualcomm, le Neural Engine d’Apple et les NPU Meteor Lake d’Intel ciblent tous les charges de travail d’inférence au niveau des appareils et de la périphérie. Les Copilot+ PC de Microsoft et les appareils similaires d’autres fabricants incluent des unités de traitement neuronal dédiées conçues pour exécuter des modèles IA localement sans connectivité cloud.

Les implications sont profondes. Si l’inférence se déplace de plus en plus vers la périphérie, les investissements massifs des hyperscalers en centres de données pourraient ne pas capturer autant du marché du calcul’IA que leurs dépenses d’investissement le suggèrent. Le marché du calcul pourrait se bifurquer : entraînement centralisé dans des usines IA massives, inférence distribuée en périphérie.

Comment le virage restructure les modèles d’affaires

La transition entraînement-inférence n’est pas simplement une histoire de matériel. Elle restructure fondamentalement les modèles d’affaires de l’IA.

Pour les fournisseurs de modèles comme OpenAI, Anthropic et Google, le virage signifie que les coûts d’entraînement deviennent le prix d’entrée — la dépense R&D nécessaire pour avoir un produit compétitif — tandis que les coûts d’inférence déterminent la rentabilité. Un modèle légèrement moins performant mais considérablement moins cher à exécuter peut générer plus de profit qu’un modèle de pointe qui coûte une fortune à servir. Cela explique l’intérêt croissant de l’industrie pour la distillation de modèles, la quantification et d’autres techniques qui échangent des réductions modestes de capacité contre des gains majeurs d’efficacité d’inférence.

Pour les fournisseurs cloud, le virage signifie que les revenus IA proviennent de plus en plus des appels API d’inférence plutôt que des locations de clusters d’entraînement. Cela favorise les fournisseurs avec les coûts par token les plus bas et la distribution la plus large. La plateforme agnostique Bedrock d’AWS, qui permet aux clients de choisir parmi plusieurs modèles et de payer par inférence, est structurellement mieux positionnée pour un marché dominé par l’inférence qu’une stratégie liée à une seule famille de modèles.

Pour les entreprises, le virage rend l’économie de l’IA plus prévisible. Les coûts d’entraînement étaient irréguliers et imprévisibles — un entraînement raté pouvait gaspiller des millions. Les coûts d’inférence sont continus et proportionnels à l’utilisation, ce qui les rend plus faciles à budgétiser, optimiser et lier aux résultats métier. Cette prévisibilité accélère l’adoption de l’IA en entreprise.

Pour les startups, la baisse du coût de l’inférence est le grand égalisateur. Construire un modèle de pointe nécessite des milliards de dollars que seule une poignée d’organisations possède. Construire une application au-dessus d’API d’inférence nécessite un capital comparativement modeste. La courbe de déflation des coûts d’inférence signifie que des applications économiquement non viables l’année dernière peuvent fonctionner cette année, et les applications qui fonctionnent cette année seront considérablement plus rentables l’année prochaine.

Les implications pour l’infrastructure

Le virage vers l’inférence a des implications concrètes pour la conception des centres de données et les investissements en infrastructure.

Les charges de travail d’inférence sont fondamentalement différentes des charges d’entraînement dans leurs exigences d’infrastructure. L’entraînement nécessite des clusters massifs de GPU étroitement couplés avec des interconnexions à ultra-faible latence. Les charges d’inférence sont plus distribuées, peuvent tolérer une latence plus élevée entre puces, et bénéficient de ratios mémoire/bande passante différents.

Les puces optimisées pour l’inférence sont généralement moins chères et plus écoénergétiques que les GPU haut de gamme nécessaires pour l’entraînement. Deloitte estime que le marché des puces optimisées pour l’inférence dépassera 50 milliards de dollars en 2026. Ces puces peuvent être déployées dans des installations plus petites et plus distribuées plutôt que dans les usines IA centralisées massives nécessaires pour l’entraînement.

Cela ne signifie pas que la construction massive de centres de données est mal orientée. Mais cela signifie que l’allocation du capital au sein de cette construction se déplace. Environ 75 % du capex agrégé des hyperscalers en 2026 financera l’infrastructure liée à l’IA, représentant environ 450 milliards de dollars de dépenses spécifiques à l’IA. Plus de dollars iront vers le matériel optimisé pour l’inférence, les architectures de déploiement distribuées et l’infrastructure en périphérie. Moins de dollars, proportionnellement, iront vers des clusters d’entraînement toujours plus grands — bien que l’entraînement reste énormément intensif en capital en termes absolus.

Perspectives

L’ère de l’inférence ne fait que commencer. Plusieurs tendances amplifieront le virage dans les années à venir.

Les modèles de raisonnement — des systèmes comme la série o d’OpenAI qui utilisent un raisonnement étendu pendant l’inférence — augmentent considérablement le calcul d’inférence par requête. Deloitte estime que le test-time scaling peut nécessiter plus de 100 fois le calcul d’un appel d’inférence simple. À mesure que les capacités de raisonnement deviennent standard, la demande d’inférence croîtra encore plus vite.

Les agents IA — des systèmes autonomes qui effectuent de multiples actions pour accomplir des tâches — multiplient le volume d’inférence. Un agent accomplissant une tâche complexe peut effectuer des dizaines ou des centaines d’appels de modèle, chacun nécessitant de l’inférence. À mesure que les agents passent des démonstrations aux déploiements en production, ils entraîneront une demande d’inférence d’une manière que les simples interactions de chatbot ne produisent pas.

Les modèles multimodaux — des systèmes qui traitent et génèrent des images, des vidéos et de l’audio en plus du texte — nécessitent substantiellement plus de calcul d’inférence par requête que les modèles texte uniquement. À mesure que les capacités multimodales deviennent la norme, l’intensité de calcul d’un appel d’inférence moyen augmentera.

Les entreprises et investisseurs qui ont compris l’ère de l’entraînement ont bâti des fortunes. Les entreprises et investisseurs qui comprendront l’ère de l’inférence bâtiront les prochaines. Le virage est en cours. L’économie est claire. Et les implications — pour la conception matérielle, la stratégie cloud, les modèles d’affaires et la structure fondamentale des coûts de l’intelligence artificielle — ne font que commencer à se manifester.

Questions Fréquemment Posées

Sources et lectures complémentaires

• Why AI’s Next Phase Will Likely Demand More Computational Power, Not Less — Deloitte
• Cerebras Inks Transformative $10 Billion Inference Deal With OpenAI — The Next Platform
• CES 2026: AI Compute Sees a Shift from Training to Inference — Computerworld
• LLM Inference Price Trends — Epoch AI
• LLMflation: LLM Inference Cost Is Going Down Fast — Andreessen Horowitz
• AI Inference vs Training Infrastructure: Why the Economics Diverge — Introl
• Cerebras CS-3 vs Groq LPU — Cerebras
• NVIDIA Buying AI Chip Startup Groq’s Assets for About $20 Billion — CNBC