La próxima empresa de chips de un billón de dólares

1.La próxima compañía de chips de un billón de dólares podría provenir de aceleradores de inferencia de la era post-GPT, pero el requisito es ser la primera en producir sistemas a escala de rack y capturar clientes ancla de vanguardia.La ventana de oportunidad actual se está cerrando, Tenstorrent, Etched y SambaNova prevén comenzar a enviar racks de producción en 2026, estando temporalmente a la delantera.

2.Groq y Cerebras han demostrado que, incluso si la arquitectura tiene defectos, siempre que se cuenten con chips producidos en masa en el momento correcto y se superen a las GPU en indicadores clave como la interactividad, se pueden lograr resultados por valor de $10 mil millones.Hoy en día, la demanda de tokens supera ampliamente la oferta, y los tokens de vanguardia con baja latencia son especialmente escasos, lo que ofrece a los aceleradores post-GPT una oportunidad similar. Pero entrar tarde cuesta caro: las compañías que comiencen a enviar después de 2027 enfrentarán mayores desafíos.

La próxima compañía de chips de un billón de dólares podría provenir de aceleradores de inferencia de la era post-GPT, pero el requisito es ser la primera en producir sistemas a escala de rack y capturar clientes ancla de vanguardia.La ventana de oportunidad actual se está cerrando, Tenstorrent, Etched y SambaNova prevén comenzar a enviar racks de producción en 2026, estando temporalmente a la delantera.

I. La próxima compañía de chips de un billón de dólares

La respuesta puede ser más simple de lo que imaginas. Etched, Fractile, MatX, Positron, Rebellions, SambaNova, Tensordyne, Tenstorrent, y muchos más.

En el último año, dos startups de chips de IA han logrado grandes resultados financieros.Groq fue adquirida por $20 mil millones, y Cerebras, tras salir a bolsa, logró una capitalización de mercado superior a $40 mil millones. El tamaño es grande, pero aún no alcanza un billón. En el contexto actual, si un sistema enfocado en la inferencia, capaz de ejecutar modelos de vanguardia y escalar a nivel de gigavatios de poder computacional, logra crecer y salir a bolsa, realmente tiene oportunidad de alcanzar una valoración de un billón de dólares.

Sin embargo, la arquitectura adoptada por Groq y Cerebras no está exenta de defectos.Ambas fueron diseñadas antes de que los grandes modelos de lenguaje se volvieran tendencia, y sus decisiones de diseño tempranas no encajan con los modelos actuales. Los llamo aceleradores de la "era pre-GPT".

El ejemplo más famoso, y ya ampliamente discutido, es que solo utilizan SRAM.Incluso para servir un modelo pequeño se necesitan muchos racks Groq; y aunque Cerebras logró integrar 900.000 núcleos en una sola oblea, no logra contener todo el peso de los modelos de vanguardia en una única oblea, debiendo expandirse a varios sistemas a nivel de oblea. No es económico, el caché KV tampoco escala suavemente, entre otros problemas.

Sinceramente, al estudiar esos detalles de ingeniería, pensaba que esas compañías no tendrían futuro en el campo de los grandes modelos de lenguaje.Obviamente, nadie predijo hace 10 años que los modelos serían tan enormes. Pero sin memoria de gran ancho de banda para soportar contextos largos... ¿cómo sobrevivir? Cuanto más largo el contexto, mejor... ¿difícil de escalar?

La clave es que ambas tenían chips listos para producción en ese entonces.No importa los defectos de una arquitectura basada solo en SRAM, en algún indicador clave de rendimiento, la interactividad, superaron a las GPU. Como Jensen nos mostró, usar chips SRAM para decodificación abrió nuevas posibilidades para la frontera de Pareto en 2026:

Esa es la razón por la que lograron resultados por valor de $10 mil millones.Decenas de miles de millones de dólares, ¡es una locura, verdad!

Me equivoqué mucho al creer que los defectos de arquitectura podían bloquear su éxito.

Mirando atrás, ¿qué fue lo más importante?El momento.

Cuando Nvidia llegó, Groq ya tenía chips en producción; cuando OpenAI llegó, Cerebras también.Olvidemos los defectos de arquitectura. Si puedes entregar productos y abrir nuevas fronteras de Pareto, las cosas buenas suceden solas. De hecho, solía pensar que el principal problema de Groq y Cerebras era haber empezado demasiado pronto, tomando decisiones antes del auge del Transformer. Empezar demasiado pronto equivale a equivocarse...

Correcto, empezar demasiado pronto casi los hundió; ambas compañías casi se quedaron sin efectivo.Pero empezar antes fue su gran ventaja, porque cuando llegó la inesperada ola de inferencias, ya tenían chips en producción. Aun así, antes del lanzamiento de Llama por Meta, ambas se encontraban en estado "default muerte". Llama fue el primer modelo de lenguaje grande y abierto con pesos prácticos, y le permitió a Groq mostrar al mundo lo increíble que es la experiencia de chat ultra rápida.

De nuevo, lo realmente importante son dos cosas: tener chips producidos en masa en el momento correcto, y alcanzar la frontera de Pareto donde las GPU no llegan.Después llegó Dynamo de Nvidia, haciendo el trabajo aún más fácil: desacopló cargas de trabajo y permitió que tareas de decodificación limitadas por memoria se ejecutaran en chips SRAM.

II. Era post-GPT

Si el primer período de inferencia fue propiedad de las GPU, Groq y Nvidia inauguraron la siguiente era con inferencia GPU+LPU.Pero se acerca otro periodo: aceleradores de la era post-GPT. Desde multiplicación de matrices, interconexión y jerarquía de memoria, estos sistemas a escala de rack han sido diseñados desde el principio para la inferencia de los grandes modelos de lenguaje.

En este campo hay muchas startups, además de chips personalizados XPU como Maia, MTIA, Trainium, etc.Entonces, ¿quién podrá ser el próximo Groq o Cerebras, captar clientes gigantes y lograr adquisición o cotización en bolsa?

III. ¿Qué se necesita para ser la próxima compañía de chips de un billón de dólares?

Si de algo hemos aprendido hasta ahora, es que no debemos centrarnos demasiado en la arquitectura ingenieril.Claro, la arquitectura es importante a largo plazo, pero en la demanda actual, los competidores solo deben cumplir estos 4 estándares:

1. Capacidad de ejecutar modelos de vanguardia con más de 1T de parámetros
2. Capacidad de entregar sistemas a escala de rack
3. Superar al líder actual en algún indicador clave de rendimiento
4. Conseguir clientes ancla de vanguardia

Capacidad de ejecutar modelos de vanguardia con más de 1T de parámetros.Los modelos de vanguardia generan el valor y la expansión, y los clientes de vanguardia son quienes más desean y tienen incentivos para desplegar aceleradores post-GPT a gran escala. Sistemas que no soporten modelos de 1T de parámetros solo pueden competir en mercados secundarios. Creo en la utilidad de esos modelos secundarios, especialmente en empresas, pero el potencial de mercado es menor. No crearán el próximo Groq ni Cerebras.

Capacidad de entregar sistemas a escala de rack.La competencia de inferencia a nivel gigavatio se basa en racks. Para ganar, hay que poder diseñar y desplegar racks de aceleradores rápido y confiable.

Superar al líder actual en algún indicador clave de rendimiento.No hace falta ser el mejor en todo, pero sí mucho mejor en algún aspecto concreto.

Conseguir clientes ancla de vanguardia.Hay que captar a un cliente dispuesto a invertir en escala gigavatio, que acepte la hoja de ruta y quiera establecer relación duradera. Laboratorios de modelos o grandes proveedores cloud son los mejores, tal vez una nueva gran empresa cloud, pero difícilmente un cliente soberano.

Por supuesto, el soporte software es solo el requisito básico.

Aparte de esto, creo que es así de simple.

Sí, los detalles técnicos importan: cuantización, jerarquía de memoria, escala vertical...Pero en este momento solo importan si aportan diferencia de rendimiento, o sea, "superar al líder actual en algún indicador clave de rendimiento". La arquitectura de cada competidor puede analizarse por separado; aquí basta con juzgarlos según los resultados en esos indicadores clave.

Es un momento único.La demanda de tokens supera mucho la oferta, y la escasez de tokens de vanguardia con baja latencia es aguda, pues las GPU no logran abastecer, o solo logran hacerlo con poca economía. La rareza de estos tokens con alta interactividad hace que "producido en masa y suficientemente bueno" sea la carta ganadora para Groq y Cerebras.

Pero esta oportunidad tiene límite temporal; la ventana existió, y Groq/Cerebras la captaron.Ser el primero en entrar es fundamental.

Esto nos lleva a la siguiente pregunta: ¿cuál es la próxima ventana de oportunidad y quién podrá llegar primero?

Para elegir al próximo ganador, quizá solo haga falta preguntar: ¿quién podrá desplegar primero 1 gigavatio de aceleradores de inferencia post-GPT?

Para responder la pregunta, sigue el resto del artículo.

1. Competencia de vanguardia: ranking y cronología de las 11 compañías según el tiempo de entrega de racks a nivel de vanguardia
2. Desglose completo de Tenstorrent: la única compañía que actualmente entrega racks de vanguardia, muestra gratis de la debida diligencia
3. Desglose de las otras 10 compañías: puntaje y fuente individual, abarcando competidores de vanguardia, tarjetas de expansión de decodificación y productos secundarios de vanguardia
4. Evidencia: de las 8 compañías de vanguardia, solo 2 tienen datos confiables de terceros
5. Quién realmente tiene posibilidad de ser la próxima compañía de chips de un billón de dólares y un argumento que redefine el ranking

IV. Competencia de vanguardia: ¿quién logrará primero escala a nivel de rack?

Entonces, ¿qué compañías startups pueden superar esas 4 barreras?¿Y cómo quedaría el ranking según la fecha de entrega? Veamos. He ordenado a las compañías según cuando afirman que sus productos de vanguardia llegarán a escala de rack. Esto debe tomarse con cautela y recordar que aún no se evalúa el rendimiento, solo la comparación del cronograma de entrega de chips declarado.

Cabe añadir que varias ya tienen productos, pero los iniciales son secundarios y luego migran a enfoque de rack con modelos modernos de vanguardia.Así que solo considero la fecha de entrega del producto con las capacidades de vanguardia según su hoja de ruta.

Si buscamos toda fuente pública, incluidos comunicados, blogs y podcasts, obtenemos lo siguiente:

Visualización:

Hay que aclarar que cada ítem es el hito del primer rack o primeros prototipos, no gigavatios.Para mí, el primer rack es importante, pero lo crucial es el tiempo hasta alcanzar el primer gigavatio.

El primer rack demuestra que el sistema funciona, el gigavatio muestra que la empresa es capaz de operar a escala.

¿Quién podrá entregar en 2026 y quién no?

Tenstorrent, Etched y SambaNova entregarán racks de producción en 2026.

Positron, Tensordyne y Rebellions están atrasados un año.Rebellions afirma entregar en 2026, pero el REBEL de vanguardia apenas está en fase de prototipo, así que el producto final de rack probablemente será en 2027.

Fractile y MatX se atrasan dos años.Sus hojas de ruta marcan hitos en 2027, pero solo como prototipos, no producción a escala. Los clientes recibirán racks producidos en masa, más probablemente en 2028.

En este entorno de escasez de oferta, entrar un año tarde cuesta muy caro.No significa que los que entregan en 2027 o después carezcan de competitividad técnica o que no puedan obtener grandes clientes a largo plazo. Basta con captar uno de los pocos grandes clientes para lograr escala. Pero solo participando se puede competir. Por buena que sea la arquitectura, si no entras, no compites realmente.

¿Quién entrará primero?

Tenstorrent afirma que "actualmente está enviando chips producidos en masa".¡Eso es prometedor! ¿Y los clientes? Tenstorrent ya tiene nuevos proveedores cloud y clientes soberanos; pero no ha revelado laboratorios de vanguardia ni gigantes cloud como clientes. ¿Podrán sus clientes iniciales llevar a Tenstorrent a escala gigavatio? Lo analizaremos luego.

Una posible adquisición podría acelerar el lanzamiento de Tenstorrent, ya que los grandes fabricantes de chips tienen relación con los gigantes cloud.Se reportó que Qualcomm consideró una operación de $8,000 a $10,000 millones a mediados de junio, pero Keller negó cualquier negociación, así que esa vía parece descartada por ahora.

Etched es más competitivo que hace unos meses.Afirma entregar productos a escala de rack este verano, muy antes que MatX y Fractile. Algunos pensaron que Etched estaba fuera de juego, pero sigue activa y afirma estar en primera línea.

Cabe resaltar que Etched habla de escala gigavatio.Afirma "tener un camino hacia escala de gigavatios en 2027", y dice estar montando la infraestructura necesaria: una fábrica en Taiwán, además de centro de datos, planta de pruebas y laboratorio de prototipos en San José. El cofundador Rob Wachen dijo en un comunicado: "Desde el principio construimos para la escala gigavatio... producción masiva es producto."

Etched aún no revela clientes específicos, pero habla de contratos por más de $1,000 millones.El "camino a escala gigavatio" y "construir para la escala gigavatio" parecen apuntar a empresas capaces de sostener esa escala.

Habrá que ver si Etched logra realmente escala gigavatio en 2027, pero al menos apunta al objetivo correcto para entrar en la competencia del billón de dólares.

SambaNova también afirma que su SN50 de vanguardia se desplegará en la segunda mitad de 2026.Si SambaNova, Etched y Tenstorrent logran racks competitivos, ¡finales de 2026 y comienzos de 2027 serán electrizantes!

Por ahora, SambaNova ha revelado clientes como JPMorgan y SoftBank, aunque no son despliegues a escala gigavatio.

SambaNova firmó un acuerdo multianual con JPMorgan. Liang comentó: “Esto es un avance, porque la mayoría de proveedores aún no saben cómo entrar en el mercado empresarial. El mercado empresarial será importante; no ocupará el 100%, pero será un actor notable, y ya vemos esa tendencia". Liang explicó que los clientes empresariales quieren alojar modelos y datos privados en su propio ambiente, que probablemente no será un centro de datos gigavatio.