Ejecutivo de Dell: "La IA de agente" esta vez es diferente, la escasez de componentes clave (principalmente memoria y HDD) podría durar más de 5 años

La AI de agentes está cambiando la lógica subyacente de los ciclos tradicionales de hardware, y también podría transformar la actual escasez de infraestructura de un fenómeno de fluctuaciones temporales a una restricción estructural que dure varios años.

Jeff Clarke, Director de Operaciones de Dell Technologies, señaló en una reciente reunión con Morgan Stanley que la AI de agentes es visiblemente diferente de los anteriores ciclos de hardware. Si las cargas de trabajo de AI siguen creciendo, la escasez de componentes clave podría prolongarse por más de cinco años, con la memoria y los discos duros (HDD) como sus principales preocupaciones actuales. A diferencia de anteriores tensiones de suministro de hardware, que solían durar algunos trimestres, este aumento de la demanda podría generar un déficit de oferta y demanda más prolongado.

Morgan Stanley reevaluó el actual ciclo de infraestructura de AI tras la reunión. Los analistas señalan que los ocho ciclos de auge y recesión de hardware de los últimos 40 años se han centrado más en la actualización de dispositivos y fluctuaciones del gasto de capital, mientras que la variable clave de este ciclo es si las cargas de trabajo de AI seguirán expandiéndose. Es decir, el ejecutivo de Dell enfatiza que no se trata de un ciclo de reposición de hardware convencional, sino de una posible expansión estructural a largo plazo de la infraestructura impulsada por la creciente demanda de AI de agentes.

La AI de agentes redefine la lógica de la demanda de infraestructura

El informe señala que Clarke considera que este ciclo de AI es fundamentalmente distinto de los anteriores ciclos de auge y recesión de hardware de las últimas décadas. Los anteriores ocho ciclos de hardware —que incluyen servidores, almacenamiento y PCs— estuvieron impulsados principalmente por la variación en la penetración de dispositivos y los ciclos de actualización, con la demanda fluctuando al ritmo de las renovaciones, pero sin que el tamaño del mercado de hardware experimentara una expansión sustancial.

Tomando como ejemplo la demanda de PCs durante la pandemia, la proporción de dispositivos por persona aumentó temporalmente, pero una vez que la sociedad reanudó la normalidad, la demanda regresó a sus niveles previos, sin cambios sustanciales en el tamaño total del mercado antes y después de la pandemia. La lógica de la AI de agentes es diferente. Clarke cree que la AI de agentes está desacoplando la producción cognitiva del trabajo humano, permitiendo que las empresas realicen más tareas sin aumentar su plantilla, lo que se traduce en mejoras de productividad de hasta 10 o incluso 100 veces.

En este proceso, la AI deja de ser un simple apoyo para el trabajo humano y se convierte ella misma en una "herramienta de productividad" que consume de manera continua recursos computacionales. Esta mejora en la productividad motivará a más empresas, de todos los tamaños, a transformarse a través de la AI y, así, expandir de manera continua el TAM (mercado total direccionable) de infraestructura.

Dell estima que para 2030, la capacidad computacional de los centros de datos agregará 200 gigavatios, la potencia de cálculo ZettaFLOPS crecerá cinco veces hasta 830, y el crecimiento de los tokens de inferencia será exponencial. La cantidad de tokens necesarios por unidad de trabajo que realiza la AI de agentes es mucho mayor que la de los chatbots básicos; Clarke prevé que la generación de tokens de inferencia crecerá 87 veces para 2030.

No existe un juego de suma cero entre la nube y el despliegue local

Una pregunta clave del mercado para este ciclo de infraestructura de AI es: ¿la creciente demanda de tokens se canalizará principalmente hacia las plataformas de computación en la nube, excluyendo la infraestructura local?

La opinión de Clarke es que las cargas de trabajo de AI de agentes adoptarán un modelo de despliegue híbrido. Las empresas ajustarán continuamente la ubicación de sus cargas de inferencia entre la nube pública y los entornos locales, de acuerdo a criterios de seguridad y relación costo-beneficio.

Clarke toma como ejemplo a Dell: la compañía despliega cargas de trabajo relacionadas con contenidos en la nube pública, pero no traslada su código fuente propietario ni los datos de telemetría fuera de sus propias instalaciones. Esto implica que las cargas de trabajo de AI no tienen un único camino de despliegue, y que la infraestructura local seguirá absorbiendo parte de la creciente demanda computacional.

Bajo este marco, el crecimiento exponencial en el consumo de tokens no significa una relación de suma cero entre infraestructura en la nube y local. Clarke sostiene que la popularización de modelos de pesos open-source impulsará aún más la inversión en infraestructura local, ya que las empresas pueden optimizar los resultados de los modelos en base a los costos en sus propios entornos.

La caída en el envío de servidores no altera la lógica de crecimiento de la demanda a largo plazo

Actualmente, los envíos de servidores tradicionales siguen cayendo interanualmente, lo que aparentemente contradice el boom en los tokens de inferencia. Clarke explica que el gran salto en la densidad de rendimiento de los servidores está reduciendo el número de dispositivos despachados.

Los servidores de la generación 17/18 de Dell pueden reemplazar hasta 13 servidores tradicionales de la generación 14, por lo que, a corto plazo, aunque caigan los envíos de servidores, su valor e intensidad siguen en aumento.

A medida que los centros de datos completan la reestructuración arquitectónica basada en computación acelerada, y la popularización de la AI de agentes impulsa una mayor demanda de servidores con CPU, se espera que los envíos de servidores regresen a una trayectoria de crecimiento. Clarke incluso afirma que, si el volumen de tokens de inferencia crece realmente 87 veces en cinco años, los envíos de servidores tradicionales podrían experimentar un cambio exponencial.

El almacenamiento también se verá estimulado continuamente por la AI de agentes. Cada operación realizada por la AI de agentes —incluyendo retención de memoria y generación de artefactos— genera una demanda constante de almacenamiento de datos; con la adopción masiva de KV Cache, la capacidad de almacenamiento necesaria crecerá aún más.

La escasez de suministro podría convertirse en una restricción estructural de más de cinco años

En comparación a factores como la macroeconomía, los conflictos geopolíticos, la sobreconstrucción de centros de datos o la escasez de energía, Clarke identifica el problema de suministro como su mayor fuente de preocupación, describiendo el entorno de suministro actual como "estamos en un país de las maravillas" ("We're in neverland").

Morgan Stanley indica que, históricamente, los ciclos de oferta de commodities han durado entre dos y cuatro trimestres, influidos principalmente por ciclos de actualización de hardware y decisiones del lado de la oferta. Pero Clarke cree que, si se acepta la lógica de crecimiento de gigavatios y tokens de inferencia, la memoria, los discos duros (HDD) y otros componentes clave ya no están en un ciclo corto convencional.

En consecuencia, Dell está operando con la premisa de que estos componentes clave podrían experimentar una escasez prolongada de varios años, con especial atención en la memoria y los HDD. En otras palabras, el principal riesgo de este ciclo de tensión en el suministro no es simplemente una insuficiencia temporal, sino que el lado de la oferta podría requerir años para alcanzar a la demanda de AI en expansión.

Clarke también señala que Dell posee ventajas sobre sus competidores en la gestión de la cadena de suministro, y que esta fortaleza se está traduciendo en mejoras de cuota de mercado en categorías como servidores, almacenamiento y PCs.

El crecimiento de los márgenes de ganancia responde a cambios estructurales de oferta y demanda

La prolongada escasez de componentes clave también está modificando el entorno de fijación de precios en la industria de infraestructura.

Morgan Stanley atribuyó anteriormente parte de la expansión de los márgenes brutos en servidores y almacenamiento a la "apilación de beneficios", es decir, con el aumento de los costos de la memoria y otros componentes, los fabricantes incrementan aún más sus márgenes. Clarke ofrece otra explicación.

Él reconoce que los márgenes en servidores y almacenamiento similares han aumentado, pero identifica dos factores estructurales detrás: en primer lugar, cuando la oferta de componentes es limitada, las empresas asignan prioritariamente los recursos escasos a los productos de mayor rentabilidad; en segundo lugar, con la expansión sostenida del mercado de infraestructura, la presión por captar clientes incrementales disminuye, por lo que ya no es necesario ofrecer precios bajos para atraer nuevos clientes.

Por lo tanto, la mejora en los márgenes no es simplemente resultado de una coyuntura de desajuste entre oferta y demanda, sino que también refleja un cambio en los estándares de fijación de precios de la industria al crecer la demanda de infraestructura.

Si el crecimiento de las cargas de trabajo impulsado por la AI de agentes se consolida, la variable clave del ciclo de infraestructura de AI se trasladará desde la "actualización de equipos" hacia la "nueva demanda". Esto significa que la expansión de la demanda de cómputo, servidores y almacenamiento podría durar más tiempo, mientras que la oferta de componentes clave como memoria y HDD podría pasar de presentar simples fluctuaciones cíclicas a convertirse en un problema estructural de varios años.