Token przyspiesza 30-krotnie, rzucając wyzwanie GPU! BNP Paribas chwali Cerebras (CBRS.US) CS-4 za wprowadzenie ery „wafer-level + de-coupled inference”.

Według informacji uzyskanych przez aplikację Zhihui Finance, po tym jak firma specjalizująca się w chipach sztucznej inteligencji (AI) Cerebras Systems (CBRS.US) zorganizowała we wtorek wydarzenie Supernova Day, BNP Paribas podkreślił, że ogłoszeni partnerzy oraz zaprezentowane komunikaty zrobiły na niej ogromne wrażenie.

Analityk BNP Paribas, Karl Ackerman, napisał w raporcie dla klientów: „Podobnie jak jednostka LPU firmy NVIDIA (NVDA.US), nowe partnerstwa zawarte przez Cerebras z OpenAI, Amazon (AMZN.US) AWS oraz AMD (AMZ.US) wyraźnie podkreślają rosnące zapotrzebowanie rynku na ulepszenie tych etapów procesu inferencji, które są szczególnie wrażliwe na opóźnienia.”

Analityk dodał, że w zakresie szybkiej inferencji, nowo zaprezentowany silnik waflowy CS-4 (Wafer-Scale Engine) oparty na SRAM oferuje „imponującą przepustowość pamięci on-chip wynoszącą 43,2 PB/s” oraz wyposażony jest w nowy interfejs waflowy I/O wykorzystujący technologię RDMA. Cerebras z dumą podkreśla, że system CS-4 generuje tokeny trzydziestokrotnie szybciej niż działające obecnie systemy GPU.

Ponadto analityk zauważa, że plan działania Cerebras, przewidujący podwajanie wydajności co roku oraz zwiększenie przepustowości dwudziestokrotnie do 2027 roku, jest godny podziwu. Według niego: „Cerebras skupia się na zdecentralizowanej inferencji, pozycjonując swój silnik waflowy jako ultraszybki dekoder do szybkiego generowania tokenów, współpracujący z obliczeniowo zaawansowanymi systemami, takimi jak AWS Trainium czy AMD Helios. Cerebras zapowiada, że system zdecentralizowanej inferencji osiągnie wydajność nawet dziesięciokrotnie wyższą niż GPU oraz pięciokrotne zwiększenie wydajności w porównaniu do architektur korzystających wyłącznie z WSE.”

Na zakończenie analityk podkreślił, że Arista Networks (ANET.US) stała się „kluczowym” partnerem sieciowym Cerebras i przewiduje, że ta współpraca pozwoli Arista w przyszłości rozszerzyć gamę obsługiwanych zastosowań u nowych klientów.

Cerebras oficjalnie zaprezentował we wtorek podczas wydarzenia Supernova Day nową generację rackowego systemu AI – Cerebras CS-4, określając go mianem „najszybszego akceleratora AI na rynku”. System został zaprojektowany pod kątem zastosowań w inferencji dużych modeli i stanowi bezpośrednią konkurencję dla serwerów GPU NVIDIA. Ponadto podczas wydarzenia Cerebras ogłosił partnerstwa z takimi firmami jak OpenAI, AMD, Arista Networks, AWS, Figma, Cognition oraz CrowdStrike.

CS-4 to pierwszy produkt nowej architektury platformy rackowej Nexus firmy Cerebras, napędzany przez trzy nowoczesne procesory Wafer Scale Engine 3 Turbo (WSE-3T). WSE-3T to największy do tej pory procesor AI, integrujący 4 biliony tranzystorów i 900 tysięcy rdzeni zoptymalizowanych pod AI na powierzchni krzemu 46 225 mm² oraz z wbudowaną pamięcią SRAM 44 GB. System CS-4 oferuje moc AI 750 PFLOPS, przepustowość pamięci 129,6 PB na sekundę oraz przepustowość I/O rzędu 7,2 Tbps. Pojedynczy układ WSE-3T podwaja moc AI poprzedniej generacji, osiągając 250 PFLOPS wobec 125 PFLOPS wcześniej, a przepustowość pamięci wzrasta z 21,6 PB/s do 43,2 PB/s.

Cerebras podkreśla, że CS-4 ustanawia nowy standard szybkości inferencji w branży. W bezpośrednich testach porównawczych modelu GPT-OSS-120B, CS-4 generuje ponad 4 400 tokenów na sekundę na użytkownika, czyli nawet trzydziestokrotnie szybciej niż rozwiązania GPU. System obsługuje modele liczące ponad 50 bilionów parametrów. W porównaniu z poprzednim CS-3, CS-4 oferuje dwukrotnie większą szybkość oraz dziesięciokrotną poprawę wydajności na wat, co znacząco zwiększa efektywność ekonomiczną centrów danych.