Un Token 30 fois plus rapide défie la suprématie du GPU ! BNP Paribas encense Cerebras (CBRS.US) CS-4, ouvrant l’ère de la “wafer-scale + inférence découplée”.

Selon des informations de Zhihu Finance APP, à la suite de l’événement Supernova Day organisé mardi par la société de puces d’intelligence artificielle (IA) Cerebras Systems (CBRS.US), BNP Paribas a déclaré avoir été fortement impressionnée par les partenariats et annonces présentés par l’entreprise.

Dans un rapport adressé à ses clients, Karl Ackerman, analyste chez BNP Paribas, a écrit : « À l’instar du LPU de NVIDIA (NVDA.US), les nouveaux partenariats de Cerebras avec OpenAI, Amazon (AMZN.US) AWS et AMD (AMZ.US) soulignent l’augmentation continue de la demande du marché pour améliorer les phases de décodage, particulièrement sensibles à la latence, lors de l’inférence. »

L’analyste précise également que, pour l’inférence rapide, le tout nouveau moteur à l’échelle de la tranche (Wafer-Scale Engine) CS-4 basé sur la SRAM offre une bande passante mémoire intégrée « impressionnante de 43,2 PB/s », et bénéficie d’une nouvelle interface I/O de tranche exploitant le RDMA. Cerebras revendique fièrement que le système CS-4 génère les tokens à une vitesse trente fois supérieure à celle des systèmes GPU actuellement utilisés en production.

Par ailleurs, l’analyste salue la feuille de route produit de Cerebras, qui prévoit un doublement annuel des performances et une multiplication par vingt du débit d’ici 2027. Selon l’analyste : « Cerebras se concentre sur l’inférence découplée, en positionnant son moteur à l’échelle de la tranche comme un moteur de décodage ultra-rapide pour la génération rapide de tokens, en travaillant conjointement avec des systèmes axés sur le calcul intensif tels qu’AWS Trainium ou AMD Helios. Cerebras estime que son système d’inférence découplée pourrait être jusqu’à 10 fois plus rapide qu’un GPU, et cinq fois plus performant qu’une configuration reposant uniquement sur le WSE. »

Enfin, selon l’analyste, Arista Networks (ANET.US) est devenu un partenaire réseau « clé » pour Cerebras, et il s’attend à ce que ce partenariat permette à Arista de développer de nouvelles applications clients au fil du temps.

Il est à noter que lors de l’événement Supernova Day de mardi, Cerebras a officiellement lancé la nouvelle génération de système IA à l’échelle du rack, le Cerebras CS-4, présenté comme « l’accélérateur IA le plus rapide de l’industrie ». Ce système s’adresse au segment de l’inférence des grands modèles, en concurrence directe avec les serveurs GPU de NVIDIA. Cerebras a également annoncé la conclusion de nouveaux partenariats avec OpenAI, AMD, Arista Networks, AWS, Figma, Cognition et CrowdStrike à l’occasion de cet événement.

Le CS-4 est le premier produit de la nouvelle architecture de plateforme rack Nexus de Cerebras, alimenté par trois tout nouveaux processeurs Wafer Scale Engine 3 Turbo (WSE-3T). Le WSE-3T est le plus grand processeur IA jamais conçu, chaque puce intégrant 4 000 milliards de transistors et 900 000 cœurs optimisés pour l’IA, couvrant une surface de 46 225 mm² de silicium et intégrant 44 Go de SRAM. Le système CS-4 délivre 750 PFLOPS de puissance IA, une bande passante mémoire de 129,6 PB par seconde et un débit d’E/S de 7,2 Tbps. La puissance IA d’un seul WSE-3T est doublée par rapport à la génération précédente, passant de 125 à 250 PFLOPS, tandis que la bande passante mémoire passe de 21,6 PB/s à 43,2 PB/s.

Cerebras affirme que le CS-4 établit une nouvelle référence sectorielle en matière de vitesse d’inférence. Lors des tests comparatifs réalisés sur le modèle GPT-OSS-120B, le CS-4 peut générer plus de 4 400 tokens par seconde et par utilisateur, soit jusqu’à 30 fois plus rapide que les solutions GPUs. Le système peut prendre en charge des modèles de plus de 50 000 milliards de paramètres. Par rapport au précédent CS-3, le CS-4 est deux fois plus rapide, multiplie par dix le débit par watt et offre ainsi une amélioration significative de la rentabilité des centres de données.