Un cadre de Dell : « L’IA déléguée est différente cette fois-ci, la pénurie de composants clés (principalement la mémoire et les disques durs HDD) pourrait durer plus de 5 ans »

L'agent AI est en train de bouleverser la logique fondamentale des cycles matériels traditionnels et pourrait transformer la tension sur l'approvisionnement en infrastructures de fluctuations à court terme en une contrainte structurelle durable sur plusieurs années.

Jeff Clarke, directeur des opérations de Dell Technologies, a déclaré récemment lors d'une réunion avec Morgan Stanley que l'agent AI diffère considérablement des cycles matériels antérieurs. Si la charge de travail AI continue de croître, la pénurie d'approvisionnement en composants clés pourrait durer plus de cinq ans, avec la mémoire et les disques durs (HDD) comme principaux sujets de préoccupation. Par rapport aux pénuries généralement observées sur quelques trimestres, cette poussée de la demande pourrait entraîner un déséquilibre offre/demande sur le long terme.

Après la réunion, Morgan Stanley a réévalué le cycle actuel des infrastructures AI. Les analystes soulignent qu'au cours des 40 dernières années, les huit grands cycles de prospérité et de déclin matériels tournaient autour du renouvellement des équipements et des variations des dépenses d'investissement, tandis que la variable clé de ce cycle réside dans la capacité des charges de travail AI à continuer de s'étendre. En d'autres termes, l’équipe dirigeante de Dell met en avant le fait qu’il ne s’agit pas d’un simple cycle de reconstitution des stocks matériels, mais que la croissance de la demande en agents AI pourrait aboutir à une expansion structurelle des infrastructures à long terme.

L’agent AI transforme la logique de la demande en infrastructures

Le rapport indique que, selon Clarke, ce cycle AI se distingue fondamentalement des cycles de prospérité/déclin du matériel des dernières décennies. Les huit précédents cycles matériels - couvrant serveurs, stockage, PC, etc. - étaient principalement alimentés par la variation du taux de pénétration des équipements et des cycles de renouvellement, la demande fluctuant en fonction du rythme des remplacements, sans qu’il n’y ait d'expansion substantielle de la taille globale du marché matériel.

À titre d’exemple, la demande de PC pendant la pandémie a augmenté temporairement, mais avec la reprise de l’activité normale, cette demande s’est normalisée, sans modification fondamentale de la taille du marché avant/après COVID. La logique de l’agent AI est différente. Selon Clarke, l’agent AI dissocie la production cognitive de l’apport humain, permettant aux entreprises d'accomplir davantage sans augmenter leurs effectifs, ce qui pourrait générer un saut de productivité de 10 à 100 fois.

Dans ce processus, l’AI ne se contente plus d’assister l’humain, elle devient un « outil de productivité » qui consomme de manière continue des ressources de calcul. L’amélioration de productivité pousse ainsi les entreprises de toutes tailles à initier leur transformation AI, élargissant par la même occasion le TAM des infrastructures.

Dell estime qu’à l’horizon 2030, la capacité de calcul des datacenters augmentera de 200 gigawatts, la puissance ZettaFLOPS sera multipliée par 5 pour atteindre 830, et la croissance des tokens d’inférence suivra une courbe exponentielle. Le nombre de tokens requis par unité de tâche dans l’agent AI est bien supérieur à celui des simples chatbots; selon Clarke, la génération de tokens d’inférence croîtra de 87 fois d’ici 2030.

Cloud vs installations locales : pas un jeu à somme nulle

L’une des principales questions du marché concernant ce cycle d’infrastructure AI est : la demande croissante en tokens va-t-elle se diriger principalement vers le cloud computing ou vers les infrastructures sur site ?

Selon Clarke, les charges de travail d’agent AI seront déployées de façon hybride. Les entreprises ajusteront en permanence l’emplacement de traitement des tâches d’inférence selon les critères de sécurité et d’efficience des coûts, répartissant entre cloud public et environnement local.

Clarke donne l’exemple de Dell : la société déploie ses tâches associées au contenu dans le cloud public mais garde son code source propriétaire ou ses données télémétriques sur ses propres installations. Ceci implique qu’il n’existe pas de chemin de déploiement unique pour les workloads AI, et que les infrastructures sur site continueront d’absorber une part croissante de la demande en calcul.

Dans ce scénario, la croissance exponentielle de la consommation de tokens n’implique pas une stricte relation de vases communicants entre cloud et infrastructures locales. Clarke pense que la démocratisation des modèles open source favorisera encore les investissements dans les installations sur site, car les entreprises pourront optimiser le rapport coût/résultat des modèles AI dans leur propre environnement.

La baisse des livraisons de serveurs ne change rien à la croissance structurelle de la demande

Actuellement, les livraisons de serveurs traditionnels sont toujours à la baisse sur un an, ce qui semble en contradiction avec l’explosion de la croissance des tokens d’inférence. L’explication de Clarke : l’envolée de la densité de performance des serveurs tend à réduire le nombre d’appareils livrés.

Les serveurs Dell de 17e/18e génération peuvent remplacer jusqu’à 13 serveurs traditionnels de 14e génération ; par conséquent, même si les volumes de livraison de serveurs diminuent temporairement, la valeur unitaire et les capacités de chaque appareil continuent d’augmenter.

Au fur et à mesure de la refonte architecturale des datacenters axée sur le calcul accéléré, et avec l’adoption grandissante de l’agent AI stimulant la demande de serveurs CPU, les expéditions de serveurs devraient finir par remonter. Clarke va jusqu’à dire que si les tokens d’inférence devaient vraiment croître 87 fois en cinq ans, les livraisons de serveurs traditionnels pourraient, elles aussi, croître de façon exponentielle.

Le stockage sera également porté par l’essor de l’agent AI. Chaque opération d’agent AI, que ce soit la conservation de mémoire ou la génération d’artéfacts, génère de nouveaux besoins en stockage ; avec le déploiement massif de la KV Cache, la demande de capacité va aussi significativement augmenter.

La pénurie d’approvisionnement pourrait constituer une contrainte structurelle de plus de cinq ans

Par rapport aux facteurs macroéconomiques, aux tensions géopolitiques, à la surconstruction de datacenters ou à l’insuffisance d'approvisionnement énergétique, Clarke place la problématique de l’approvisionnement comme sa principale inquiétude, qualifiant l’environnement actuel de « pays imaginaire » (“We're in neverland”).

Morgan Stanley note que, historiquement, les cycles d’approvisionnement de masse duraient généralement de deux à quatre trimestres, principalement influencés par le cycle de renouvellement matériel et les décisions du côté de l’offre. Mais selon Clarke, si la logique de croissance en gigawatts et en tokens d’inférence se confirme, mémoire, HDD et autres composants clés ne connaîtront plus de simple cycle de pénurie à court terme.

En conséquence, Dell opère aujourd’hui en prévoyant une possible pénurie prolongée de plusieurs années sur les composants clés, en portant une attention particulière à la mémoire et aux disques durs. En somme, le risque majeur de cette période de tension d’approvisionnement réside moins dans l’insuffisance temporaire que dans le fait que l’expansion continue de la demande AI mettra de longues années au secteur pour réajuster l’offre.

Clarke indique aussi que Dell surpasse ses concurrents dans la gestion de l’approvisionnement, un avantage qui se matérialise en gains de parts de marché dans plusieurs segments tels que serveurs, stockage et PC.

L’expansion des marges découle de l’évolution de la structure offre/demande

La tension persistante sur les composants majeurs transforme également le paysage des prix dans l’industrie de l’infrastructure.

Auparavant, Morgan Stanley attribuait en partie l’expansion des marges brutes sur les serveurs et le stockage à un effet de « profit stacking » : en parallèle à la hausse des coûts de composants (comme la mémoire), les fournisseurs augmentaient leurs marges. Clarke apporte une vision différente.

Il reconnaît que la rentabilité des serveurs et solutions de stockage comparables est effectivement en hausse, mais selon lui, deux facteurs structurels expliquent ce phénomène : Premièrement, en période d’approvisionnement limité, les entreprises allouent en priorité les ressources rares aux produits à la marge la plus élevée ; deuxièmement, avec la croissance continue du marché des infrastructures, la pression pour acquérir de nouveaux clients ralentit, rendant moins nécessaire de casser les prix.

Ainsi, la hausse des marges ne relève pas seulement d’un effet d’aubaine dû à un déséquilibre temporaire entre offre et demande, mais reflète aussi l’évolution du pricing dans un marché d’infrastructure en expansion continue.

Si la croissance des charges de travail portée par l’agent AI se poursuit, la variable clé du cycle des infrastructures AI passera de « renouvellement d’équipement » à « demande additionnelle ». Cela signifie que l’expansion de la demande en puissance de calcul, serveurs et stockage pourrait durer bien plus longtemps, alors que les contraintes d’approvisionnement sur la mémoire, les HDD et autres composants critiques pourraient se transformer d’une problématique conjoncturelle à un enjeu structurel prolongé sur plusieurs années.