Le Retour du Bare Metal : Pourquoi les Charges de Travail IA Quittent les Machines Virtuelles

Pendant une décennie, l’orthodoxie dans l’informatique d’entreprise était claire : tout virtualiser. Abstraire le matériel, mutualiser les ressources, facturer à la minute. L’hyperviseur était le héros discret de l’ère cloud, permettant à AWS, Azure et Google de découper une machine physique en dizaines d’instances portables et bien délimitées. C’était efficient, flexible et extraordinairement profitable pour les hyperscalers. Puis l’IA est arrivée — et l’orthodoxie a volé en éclats.

Entraîner un grand modèle de langage, exécuter un pipeline de diffusion ou servir de l’inférence en temps réel à grande échelle a révélé une vérité fondamentale que les partisans de la virtualisation ont passé une décennie à dissimuler : l’abstraction matérielle a un coût, et pour les charges de travail intensives en GPU, ce coût n’est pas théorique. Il apparaît dans les scores de benchmark, les durées d’entraînement et les factures cloud. Le résultat est l’une des tendances les plus contre-intuitives de l’infrastructure en 2026 : le bare metal est de retour, porté non plus par des administrateurs système old-school méfiants envers les hyperviseurs, mais par des ingénieurs IA qui ont fait les calculs.

Ce que la Virtualisation Vous Coûte Réellement sur les GPU

Lorsque vous louez une machine virtuelle GPU chez un grand fournisseur cloud, vous n’obtenez pas un accès direct au GPU. Une couche hyperviseur s’interpose entre votre charge de travail et le silicium. Pour le calcul CPU, cette surcharge est largement invisible — la virtualisation est devenue extrêmement efficace pour abstraire les cycles processeur. Pour les GPU, le tableau est plus complexe.

Les technologies de virtualisation GPU comme vGPU de NVIDIA et MIG (Multi-Instance GPU) partitionnent la carte physique pour que plusieurs locataires puissent la partager. Cela fonctionne bien pour les charges d’inférence aux niveaux de charge prévisibles et modérés. Mais pour l’entraînement — où vous avez besoin d’un débit soutenu et constant sur des milliers de cœurs CUDA, d’interconnexions NVLink rapides entre GPU et d’une bande passante mémoire déterministe — toute couche de virtualisation introduit de la gigue, une variabilité de latence et une réduction du débit. Des benchmarks indépendants ont montré à plusieurs reprises une dégradation des performances de 10 à 25 % pour les charges d’entraînement à grande échelle sur des instances GPU virtualisées par rapport à des configurations bare metal équivalentes.

Au-delà des performances brutes, il y a le problème des interconnexions. L’entraînement IA moderne repose sur une communication GPU-à-GPU à haute vitesse via NVLink (au sein d’un nœud) et InfiniBand ou RoCE (entre nœuds). Ces interconnexions sont sensibles à la latence à l’échelle de la microseconde. Les couches de virtualisation et les fabrics réseau partagés introduisent des pics de latence imprévisibles qui peuvent bloquer la synchronisation des gradients dans un cluster d’entraînement, forçant des cycles GPU inactifs sur des centaines de cartes simultanément — une inefficacité ruineusement coûteuse à grande échelle.

L’Essor des Clouds Bare Metal GPU Spécialisés

L’écart de performance a créé un marché, et le marché a créé une nouvelle catégorie de fournisseurs cloud. CoreWeave, fondée en 2017 comme mineuse de cryptomonnaies et reconvertie au cloud GPU en 2019, en est devenu l’un des exemples les plus emblématiques. En 2024, la société avait levé plus de 7,5 milliards de dollars et décroché des contrats avec Microsoft, Cohere et IBM pour fournir des clusters NVIDIA H100 et H200 bare metal à grande échelle. Son argument est simple : matériel dédié, sans hyperviseur, performances NVLink et InfiniBand complètes, facturation au GPU-heure.

Lambda Labs a adopté une approche similaire, construisant un cloud GPU destiné spécifiquement aux chercheurs en IA et aux ingénieurs ML qui veulent des performances brutes sans les couches d’abstraction généralistes d’AWS. Début 2025, Lambda exploitait des clusters de nœuds NVIDIA H100 SXM5 connectés via un fabric InfiniBand de 3,2 Tbps — des configurations qu’il serait impraticable de proposer dans un environnement multi-tenant virtualisé.

En Europe, Hetzner et OVHcloud ont élargi leurs offres bare metal GPU pour servir les startups IA du marché intermédiaire et les institutions de recherche dont les budgets ne leur permettent pas d’accéder aux tarifs des hyperscalers. La gamme bare metal AI d’OVHcloud, construite autour des cartes NVIDIA A100 et H100, est devenue particulièrement populaire auprès des laboratoires de recherche français et allemands en quête d’une infrastructure conforme au RGPD avec isolation matérielle totale. Equinix Metal (aujourd’hui rebaptisé et intégré à la plateforme plus large d’Equinix) propose le bare metal comme offre de connectivité — en colocatant du calcul dédié à proximité de son réseau d’interconnexion mondial, permettant aux entreprises d’exécuter des charges IA sur du matériel en propre tout en conservant un accès réseau à la vitesse du cloud.

Les Hyperscalers Contre-Attaquent — Partiellement

AWS, Azure et Google n’ont pas ignoré le signal bare metal. Les trois proposent désormais des types d’instances dédiées offrant des performances quasi-bare metal en désactivant la plupart des couches hyperviseur. Les instances EC2 « bare metal » d’AWS (les types avec suffixe `.metal`) donnent aux clients un accès matériel direct pour des cas d’usage spécifiques. Les instances A3 de Google, construites sur des GPU NVIDIA H100 connectés via le fabric propriétaire de Google équivalent à NVLink, sont positionnées explicitement pour l’entraînement IA à grande échelle.

Mais les hyperscalers font face à une tension structurelle. L’ensemble de leur modèle de tarification et d’utilisation des ressources repose sur la mutualisation et l’abstraction. Proposer du vrai bare metal à grande échelle fragilise l’efficacité qui fait leurs marges. Par conséquent, les offres bare metal des hyperscalers tendent à être plus chères au GPU-heure que les fournisseurs spécialisés, impliquent des engagements minimaux plus longs et offrent moins de flexibilité de planification.

La réponse des hyperscalers a été d’investir dans du silicium sur mesure qui contourne entièrement le problème de la virtualisation GPU. AWS Trainium et Inferentia, les TPU de Google et les puces Maia de Microsoft sont tous conçus pour fonctionner comme des accélérateurs dédiés, non comme des ressources partagées. L’entraînement sur des pods TPU ou des clusters Trainium offre des performances comparables aux configurations NVIDIA bare metal sans les mêmes pénalités de virtualisation — mais cela exige de porter les charges de travail hors de CUDA, qui reste le modèle de programmation dominant.

L’Économie : Quand le Bare Metal S’impose-t-il ?

Toutes les charges IA n’ont pas leur place sur du bare metal. Le calcul dépend du taux d’utilisation, de la durée de la charge et de la sensibilité à la variabilité des performances.

Pour le service d’inférence — où un modèle est déjà entraîné et doit répondre à des appels API — les VM GPU partagées ou même l’inférence CPU (pour les modèles plus petits) sont souvent économiquement judicieuses. La demande est variable, sur-provisionner un cluster bare metal pour l’inférence signifie payer pour des cycles GPU inactifs, et la surcharge de latence d’une couche hyperviseur est négligeable au niveau de l’appel API.

Le cas du bare metal devient convaincant quand : les runs d’entraînement durent des jours ou des semaines ; lorsque vous réalisez un entraînement distribué sur plusieurs nœuds où les performances des interconnexions sont critiques ; lorsque vous effectuez des sweeps d’hyperparamètres ou des pipelines d’entraînement continu tournant à une utilisation GPU constamment élevée ; ou lorsque des exigences réglementaires ou d’isolation des données imposent du matériel mono-tenant.

Une règle empirique circulant dans les milieux infrastructure : si votre taux d’utilisation GPU dépasse en moyenne 70 % sur des périodes soutenues, le bare metal gagne presque toujours sur le coût total de possession. En dessous de ce seuil, la flexibilité et l’élasticité des VM partagées — notamment pour les charges en rafale — justifient souvent le compromis de performance.

Ce que Cela Signifie pour la Stratégie Infrastructure en 2026

Le retour du bare metal reshapes la façon dont les équipes IA pensent leur stack de calcul. L’époque où l’on choisissait par défaut la première instance GPU listée sur AWS est révolue. Les ingénieurs infrastructure des entreprises IA-native font désormais de l’achat sur mesure — négociant des réservations bare metal à long terme auprès de fournisseurs spécialisés comme CoreWeave ou Lambda, utilisant les VM hyperscalers pour le développement et l’expérimentation, et réservant le matériel en propre ou colocalisé pour les runs d’entraînement en production.

Il en résulte un paysage cloud plus hétérogène. Les charges sont routées en fonction de leurs besoins spécifiques : des VM spot bon marché pour l’expérimentation, des clusters bare metal pour l’entraînement, des API d’inférence serverless pour le service à faible volume. Les stratégies multi-cloud et hybrides, autrefois une solution en quête de problème, ont désormais une justification technique réelle dans le domaine de l’infrastructure IA.

Pour les hyperscalers, le défi est existentiel dans un sens étroit mais significatif : les clients IA à plus haute valeur et à plus fortes marges sont de plus en plus ceux qui orientent leurs dépenses de calcul les plus importantes loin du cloud généraliste et vers du bare metal spécialisé ou du silicium personnalisé. Les entreprises qui ont bâti l’ère cloud sur la prémisse que l’abstraction était toujours meilleure apprennent aujourd’hui, à grand frais, que la physique n’est parfois pas d’accord.

Sources et lectures complémentaires

• CoreWeave lève 7,5 milliards de dollars pour développer son infrastructure IA — TechCrunch
• Bare Metal vs. Machines Virtuelles pour les charges IA — The New Stack
• Architecture NVLink et InfiniBand NVIDIA H100 — NVIDIA Developer Blog
• OVHcloud élargit sa gamme bare metal GPU IA pour la recherche européenne — OVHcloud Blog
• Benchmarks Lambda Labs GPU Cloud : Performances du cluster H100 SXM5 — Lambda Labs Blog
• Les instances Google A3 et l’optimisation GPU hyperscaler pour l’IA — InfoQ