La prochaine entreprise de puces à 1 000 milliards de dollars

1.La prochaine entreprise de puces à 1 000 milliards de dollars pourrait provenir des accélérateurs d'inférence de l'ère post-GPT, mais à condition de produire en premier des systèmes à l'échelle du rack et de sécuriser des clients d'ancrage de pointe.La fenêtre d'opportunité se rétrécit actuellement, Tenstorrent, Etched et SambaNova prévoient d'expédier des racks de production en 2026, les plaçant temporairement en tête.

2.Groq et Cerebras démontrent qu'une architecture imparfaite suffit, tant que les puces sont produites au bon moment et qu'elles surpassent les GPU sur des indicateurs clés comme l'interactivité, pour concrétiser des résultats de l'ordre de 10 milliards de dollars.Aujourd'hui, la demande en token dépasse largement l'offre, et les tokens de pointe à faible latence sont particulièrement rares, ce qui offre une opportunité similaire aux accélérateurs post-GPT. Mais être en retard d'une année coûte beaucoup : les entreprises qui livreront après 2027 feront face à des défis bien plus grands.

La prochaine entreprise de puces à 1 000 milliards de dollars pourrait provenir des accélérateurs d'inférence de l'ère post-GPT, mais à condition de produire en premier des systèmes à l'échelle du rack et de sécuriser des clients d'ancrage de pointe.La fenêtre d'opportunité se rétrécit actuellement, Tenstorrent, Etched et SambaNova prévoient d'expédier des racks de production en 2026, les plaçant temporairement en tête.

I. La prochaine entreprise de puces à 1 000 milliards de dollars

La réponse pourrait être plus simple que vous ne l'imaginez. Etched, Fractile, MatX, Positron, Rebellions, SambaNova, Tensordyne, Tenstorrent, etc.

Au cours de l'année passée, deux start-up de puces IA ont réalisé d'immenses réussites financières.Groq a été racheté pour 20 milliards de dollars, et la valorisation de Cerebras en bourse a dépassé 40 milliards. C'est impressionnant, mais pas encore le niveau du trillion. Si, dans l'environnement actuel, un système orienté vers l'inférence, capable de faire tourner des modèles de pointe et d'étendre sa puissance à l'échelle gigawatt, peut obtenir une croissance continue et une cotation en bourse, il a réellement une chance d'atteindre une valorisation d'un billion de dollars.

Mais l'architecture de Groq et Cerebras n'est pas infaillible.Toutes deux ont été conçues avant que les grands modèles de langage ne dominent, et leurs choix d'architecture initiaux ne conviennent pas aux modèles actuels. Je les appelle les "accélérateurs de l'ère pré-GPT".

L'exemple le plus connu, et largement débattu, est qu'ils n'utilisent que de la SRAM.Même pour servir un modèle assez petit, de nombreux racks Groq sont nécessaires; et même le miracle au niveau wafer de Cerebras, intégrant 900 000 cœurs sur un seul morceau de silicium, ne peut contenir l'intégralité des poids d'un modèle de pointe, devant donc être étendu à plusieurs systèmes wafer-scale. L'économie n'est pas optimale, le cache KV a du mal à s'étendre avec fluidité, etc.

Pour être honnête, après avoir étudié ces détails techniques, j'ai pensé que ces entreprises n'avaient aucun espoir dans le domaine des grands modèles de langage.Bien sûr, pour être juste, qui aurait pu prédire il y a 10 ans que les modèles enflent à ce point ? Mais sans mémoire à haut débit pour supporter de longs contextes... comment survivre ? Plus le contexte est long, mieux c'est... Difficile de croître ?

Mais le point crucial est que les deux sociétés avaient alors des puces prêtes à être produites.Peu importe les failles de l'architecture full-SRAM, elles surpassaient les GPU sur un KPI clé : l'interactivité. Comme Jensen nous l'a montré, exécuter du décodage sur une puce SRAM ouvre de nouvelles possibilités pour la frontière de Pareto de 2026 :

Voilà pourquoi elles ont atteint des résultats à 10 milliards de dollars.Des dizaines de milliards de dollars, c'est dingue, n'est-ce pas !

J'avais complètement tort de croire que les défauts d'architecture entraveraient leur succès.

Avec le recul, qu'est-ce qui compte le plus ?Le timing.

Quand Nvidia est arrivée, Groq produisait déjà en masse; quand OpenAI s'est présentée, Cerebras aussi.Oubliez les défauts d'architecture : si vous pouvez livrer un produit et explorer une nouvelle frontière de Pareto, le succès suivra naturellement. En fait, je croyais que le problème fondamental de Groq et Cerebras était d'avoir démarré trop tôt, prenant des décisions de conception avant l'avènement du Transformer. Trop tôt ou mal, ça revient au même...

C'est vrai, démarrer trop tôt a failli les mener à la faillite; les deux ont frôlé la rupture de trésorerie.Mais démarrer tôt fut aussi leur principal avantage, car quand la vague d'inférence, inattendue, est arrivée, leurs puces étaient déjà produites. Pourtant, avant la publication de Llama par Meta, c'était la mort par défaut pour les deux. Llama fut le premier LLM open source vraiment exploitable, permettant à Groq de montrer au monde l'expérience du chatbot ultra-rapide.

Encore une fois, seuls deux aspects sont réellement importants : avoir des puces produites à temps, et atteindre une frontière de Pareto hors de portée des GPU.Puis le Dynamo de Nvidia fut la cerise sur le gâteau, dissociant les charges de travail et permettant au décodage limité par la mémoire de s’exécuter sur des puces SRAM.

II. L'ère post-GPT

Si l'inférence de première génération appartenait aux GPU, Groq et Nvidia ont ouvert l'ère suivante avec GPU+LPU.Mais une nouvelle phase arrive : les accélérateurs de l'ère post-GPT. De la multiplication matricielle, à l'interconnexion et à la hiérarchie mémoire, ces systèmes rack-scale sont conçus dès le départ pour l'inférence des grands LLM.

De nombreux startups se positionnent dans ce secteur, sans oublier les XPU sur-mesure comme Maia, MTIA, Trainium, etc.Mais laquelle d'entre elles pourra devenir le prochain Groq ou Cerebras, obtenir des clients majeurs et réussir un rachat ou une introduction en bourse ?

III. Que faut-il pour devenir la prochaine entreprise de puces à 1 000 milliards de dollars ?

Si nous avons appris une chose jusque-là, c'est qu'il ne faut pas trop se focaliser sur l'ingénierie architecturale.Sur le long terme, l’architecture a certes son importance, mais dans l'environnement de demande actuel, il suffit aux concurrents de satisfaire ces quatre critères :

1. Être capable de faire tourner un modèle de pointe à 1T+ paramètres
2. Être capable de livrer des systèmes à l'échelle du rack
3. Surpasser le leader actuel sur au moins un indicateur clé de performance
4. Obtenir des premiers clients d'ancrage de pointe

Être capable de faire tourner un modèle de pointe à 1T+ paramètres.Les modèles de pointe recèlent la valeur et l'expansion à grande échelle, donc les clients de pointe sont les plus motivés pour déployer largement les accélérateurs post-GPT. Les systèmes qui ne peuvent exécuter de tels modèles ne participent que sur le marché du "presque-pointe". J'apprécie la valeur utilitaire de ces modèles, surtout en entreprise, mais leur marché potentiel reste limité. Ils ne créeront pas le prochain Groq ou Cerebras.

Être capable de livrer des systèmes à l'échelle du rack.La compétition à l'échelle gigawatt pour l'inférence se joue sur la base des racks. Pour gagner, il faut pouvoir concevoir et déployer rapidement et fiablement des racks composés d'accélérateurs.

Surpasser le leader actuel sur une métrique de performance clé.Il n'est pas nécessaire d’être le meilleur partout, mais il faut exceller d’un ordre de grandeur sur au moins un point.

Obtenir des premiers clients d’ancrage de pointe.Il faut rencontrer un client prêt à investir à l'échelle gigawatt, à approuver la feuille de route et à établir une relation de long terme. Les laboratoires de modèles ou les fournisseurs cloud hyperscale sont les cibles idéales, éventuellement une nouvelle grande entreprise cloud, mais probablement pas un client souverain.

Bien entendu, le support logiciel n'est que le minimum requis.

À part cela, je pense que c'est aussi simple que cela.

Bien sûr, les détails techniques comptent, tels que la quantification, la hiérarchie mémoire, l'échelle d'expansion verticale, etc.Mais actuellement, leur importance se résume à leur capacité à différencier les performances, soit "surpasser le leader sur une métrique clé". L'architecture de chaque concurrent se détaille dans des analyses, mais ici notre critère, c'est la performance sur cet indicateur.

C'est une période unique.La demande en token dépasse largement l'offre, et la pénurie la plus criante concerne les tokens de pointe à faible latence car les GPU ne suivent pas, ou juste par un débit économiquement peu viable. Cette rareté du token interactif fait des puces produites avec une architecture suffisamment bonne le joker de Groq et Cerebras.

Mais cette opportunité est limitée dans le temps; la fenêtre a existé, et Groq/Cerebras l'ont saisie.Démarrer en premier est essentiel.

Cela soulève la prochaine question : quelle est la prochaine fenêtre, et qui y arrivera en premier ?

Pour désigner le prochain gagnant, il suffit peut-être de demander : qui déploiera en premier 1 gigawatt d’accélérateurs d’inférence post-GPT ?

Pour répondre à cette question, voici le reste de l’article.

1. Course de pointe : classement et chronologie des 11 entreprises selon la date de livraison de rack de pointe
2. Décryptage complet de Tenstorrent : actuellement la seule à livrer des racks de pointe, échantillon d'audit gratuit
3. Analyse des 10 autres entreprises : notées une par une avec sources, couvrant concurrents de pointe, cartes d'extension de décodage et produits de niveau inférieur
4. Preuves : sur 8 entreprises de pointe, seules 2 ont des données tierces fiables
5. Qui peut réellement devenir la prochaine entreprise de puces à 1 000 milliards de dollars, avec une thèse qui redéfinit l'ensemble du classement

IV. Course de pointe : qui atteindra l'échelle rack en premier ?

Alors, quelles start-up franchiront ces 4 barrières ?En les classant par date de livraison annoncée, que constate-t-on ? J'ai trié les sociétés selon la date à laquelle elles prétendent livrer des produits rack-scale de pointe. C'est à prendre avec précaution, et n'oubliez pas que nous ne jugeons pas la performance ici, seulement les délais de déploiement annoncés.

Notez aussi que beaucoup ont déjà produit des premiers produits, mais ceux-ci sont de niveau inférieur ; elles se tournent maintenant vers du rack-scale pour LLM modernes.Je ne retiens donc que la date de livraison de leur produit de pointe, selon leur roadmap.

En fouillant toutes les sources publiques, communiqués, blogs, podcasts, on obtient :

Visualisation :

À préciser : chaque jalon mentionné est celui du premier rack ou des premiers échantillons, pas du gigawatt.À mon sens, le premier rack est important, mais l'essentiel est le temps pour atteindre le premier gigawatt.

Le premier rack prouve que tout le système fonctionne, mais atteindre l'échelle gigawatt prouve que l’entreprise fonctionne.

Qui peut livrer en 2026, qui non ?

Tenstorrent, Etched et SambaNova livreront des racks de production en 2026.

Positron, Tensordyne et Rebellions sont en retard d’un an.Rebellions prétend livrer en 2026, mais son REBEL de pointe n’en est qu’au stade d’échantillon, le vrai produit rack devant plutôt arriver en 2027.

Fractile et MatX ont deux ans de retard.Leurs roadmaps évoquent 2027 comme jalon, mais ce ne sont que des prototypes ou des pilotes, pas une production à grande échelle. Les clients obtiendront des racks produits plutôt en 2028.

Dans un environnement de pénurie, un an de retard coûte très cher.Cela ne veut pas dire que les entreprises livrant après 2027 n'ont pas d’avantage technique, ni qu’elles ne peuvent, à terme, remporter part de marché. Obtenir un seul client géant suffit pour la masse critique. Mais il faut apparaître pour jouer ! Même avec l’architecture la plus avancée, si vous n’y êtes pas, vous ne concourez pas vraiment.

Qui sera en piste en premier ?

Tenstorrent affirme "expédier des puces de production en ce moment".C’est prometteur ! Mais côté client ? Tenstorrent compte déjà de nouveaux fournisseurs cloud et des clients souverains; mais aucun laboratoire de pointe ni cloud hyperscale n’a encore été annoncé. Ces premiers clients pousseront-ils Tenstorrent à l’échelle gigawatt ? On détaillera cela plus loin.

Un rachat pourrait accélérer la mise sur le marché, car un grand fabricant traditionnel a déjà des liens avec les clouds hyperscale.Des sources rapportent que Qualcomm envisageait en juin un deal de 8 à 10 milliards de dollars. Mais Keller aurait récemment nié tout pourparler avec Qualcomm, donc ce chemin semble refroidi.

Etched est désormais plus compétitif qu’il y a quelques mois.L’entreprise affirme livrer des produits rack-scale dès cet été, bien plus tôt que MatX ou Fractile. On croyait Etched éliminée, mais ils restent actifs, prétendant être dans le peloton de tête.

Notons qu’Etched parle d’échelle gigawatt.Ils disent "avoir une feuille de route pour atteindre le gigawatt en 2027", et construisent des infrastructures pour cela : usine à Taïwan, datacenters, sites de tests et labo d’introduction de nouveaux produits à San Jose. Le cofondateur Rob Wachen déclare dans un communiqué : "Dès le départ, nous avons construit pour le gigawatt... La production, c’est le produit".

Etched n’a pas dévoilé de clients en particulier, mais évoque plus d'un milliard de dollars de contrats signés.Leur finalité de "chemin vers le gigawatt" et "construit pour le gigawatt" laisse entendre que leur cible est des clients capables de cette échelle.

Reste à voir si Etched peut vraiment atteindre le gigawatt en 2027, mais pour viser la course au trillion, ils visent au moins la bonne cible.

SambaNova aussi dit que son SN50 de pointe sera déployé fin 2026.Si SambaNova, Etched et Tenstorrent lancent des racks concurrentiels, fin 2026 et début 2027 seront passionnants !

À ce jour, SambaNova a annoncé des clients entreprises comme JPMorgan et SoftBank, mais ce ne sont pas des déploiements à l'échelle gigawatt.

SambaNova a signé un accord pluriannuel avec JPMorgan. Liang déclare : "C'est une percée, car la plupart des fournisseurs ne savent pas encore comment entrer sur le marché entreprise. Celui-ci sera crucial ; il ne représentera pas 100% du marché, mais deviendra une force impossible à négliger, et on voit déjà cette tendance." Liang précise que les clients entreprises veulent héberger des modèles et données privées dans leur environnement, qui ne sera probablement pas un datacenter gigawatt.