Виклик для GPU: Token у 30 разів швидше! BNP Paribas високо оцінив запуск Cerebras (CBRS.US) CS-4, що відкриває епоху "ваферного рівня + розділеного інференсу"

Як повідомляє Jinse Finance, після заходу Supernova Day, проведеного компанією Cerebras Systems (CBRS.US), яка займається розробкою чипів для штучного інтелекту (AI), BNP Paribas заявив, що оголошені партнерства та відповідні анонси справили на них глибоке враження.

Аналітик BNP Paribas Карл Аккерман у звіті для клієнтів написав: «Подібно до LPU від NVIDIA (NVDA.US), нові партнерства Cerebras з OpenAI, Amazon (AMZN.US) AWS та AMD (AMZ.US) підкреслюють зростаючий попит на покращення процесу інференції, особливо на етапах декодування, де затримка має критичне значення».

Аналітик також зазначив, що для швидкої інференції нещодавно представлений SRAM-орієнтований CS-4 Wafer-Scale Engine забезпечує «вражаючу пропускну здатність внутрішньої пам’яті 43,2 PB/s» та оснащений новим типом wafer I/O інтерфейсу, який використовує RDMA. Cerebras пишається тим, що система CS-4 генерує токени у 30 разів швидше за поточні системи на основі GPU.

Крім того, аналітик зазначив, що дорожня карта продуктів Cerebras, яка передбачає щорічне подвоєння продуктивності та планує до 2027 року збільшити пропускну здатність у 20 разів, є вражаючою. Він стверджує: «Cerebras зосереджений на розділеній інференції, позиціонуючи свій wafer-scale engine як ультра швидкий декодувальний двигун для оперативної генерації токенів, що працює у співпраці з обчислювально-інтенсивними системами типу AWS Trainium чи AMD Helios. Cerebras заявляє, що їх розділена інференція буде до 10 разів швидшою за GPU, а продуктивність збільшиться у 5 разів порівняно з конфігурацією лише з WSE».

На завершення, аналітик зазначив, що Arista Networks (ANET.US) стала «ключовим» мережевим партнером Cerebras, і що співпраця з часом допоможе Arista розширити спектр застосувань серед нових клієнтів.

Як відомо, Cerebras у вівторок на Supernova Day офіційно представила нову генерацію AI-систем rack-формату Cerebras CS-4, заявивши, що це «найшвидший AI-акселератор на ринку». Система спрямована на сегмент інференції великих моделей та є прямим конкурентом GPU-серверів NVIDIA. Крім того, Cerebras на заході оголосила про партнерства з OpenAI, AMD, Arista Networks, AWS, Figma, Cognition і CrowdStrike.

CS-4 – це перший продукт нової архітектури rack-формату Nexus від Cerebras, яку приводять у рух три нові Wafer Scale Engine 3 Turbo (WSE-3T) wafer-scale процесори. WSE-3T – найбільший AI-процесор на сьогодні: кожна мікросхема містить 4 трильйони транзисторів і 900 тисяч AI-оптимізованих ядер, займає площу кремнію 46 225 кв. мм і має вбудовану пам’ять SRAM у 44 ГБ. Система CS-4 забезпечує 750 PFLOPs AI-потужності, 129,6 PB/s пропускної здатності пам’яті і 7,2 Tbps I/O пропускної здатності щосекунди. AI-потужність на одну WSE-3T зросла від 125 PFLOPS у попередньому поколінні до 250 PFLOPS, пропускна здатність пам’яті – від 21,6 PB/s до 43,2 PB/s.

Cerebras заявляє, що CS-4 встановлює новий галузевий стандарт у швидкості інференції. У тестах прямого порівняння на моделі GPT-OSS-120B система CS-4 може генерувати понад 4 400 токенів на одного користувача за секунду, що у 30 разів перевищує показники GPU-рішень. Система підтримує моделі з понад 50 трильйонами параметрів. У порівнянні з попереднім CS-3, CS-4 удвічі швидший, а продуктивність на ват зросла у 10 разів, суттєво підвищуючи економічність для дата-центрів.