Infrastructure & Cloud

L'IA réécrit l'infrastructure

Par ExpertItLab · 18/02/2015

L'IA réécrit l'infrastructure

Quand l'élasticité du cloud devient impossible, qu'est-ce que l'infrastructure signifie vraiment ?

Une équipe envisage d'acheter 8 H100 pour la production. Pas du prototypage. L'affaire est claire : le cloud qu'on connaissait depuis 15 ans — l'élasticité, le pay-per-request, le serverless — ça s'effondre face aux workloads d'IA.

Le cloud 2006-2020 était bui pour des workloads stateless et élastiques : pics sporadiques, scale-to-zero, CPUs partageables. L'IA change tout. Un modèle 70B rame 140GB de VRAM et prend 30-60s de cold-start. Tu la gardes chaude 24/7. Un H100 réel coûte $31k (=~$1.68/h sur 3 ans). AWS veut $6.88/h on-demand (+300%). Les neoclouds (CoreWeave, Lambda) font $2-4/h. Acheter du hardware n'est plus archaïque : c'est rationnel. L'infrastructure revient au centre du jeu.

Pendant 15 ans, tu pouvais ignorer l'infrastructure, payer la prime du cloud. Pour l'IA, c'est fini. Capacity planning, lead times, ROI multi-annes : c'est revenu. Et je suspect que pas mal de fondateurs vont découvrir à leur dépens que l'infrastructure ça vient de redevenir le cœur du jeu.

AWS a gagné, c'est le problème.
Suivant AWS a gagné, c'est le problème.