Токен в 30 раз быстрее бросает вызов GPU! BNP Paribas высоко оценивает Cerebras (CBRS.US): CS-4 открывает эру «wafer-level + decoupled inference»

По данным приложения Zhitong Finance, после того как компания-разработчик чипов искусственного интеллекта Cerebras Systems (CBRS.US) провела во вторник мероприятие Supernova Day, BNP Paribas заявила, что объявленные Cerebras партнеры и соответствующие новости произвели на нее сильное впечатление.

Аналитик BNP Paribas Карл Акерман написал в отчете для клиентов: «Как и LPU у Nvidia (NVDA.US), новые партнерства Cerebras с OpenAI, Amazon (AMZN.US) AWS и AMD (AMZ.US) подчеркивают постоянно растущий спрос рынка на улучшение крайне чувствительных к задержкам этапов декодирования в процессе вывода данных.»

Аналитик далее отметил, что для задач быстрого вывода недавно представленный основанный на SRAM Wafer-Scale Engine CS-4 обеспечивает «поразительную пропускную способность встроенной памяти — 43,2 PB/s» и оснащён новым интерфейсом wafer I/O, использующим RDMA. Cerebras с гордостью заявила, что скорость генерации Token у системы CS-4 в 30 раз выше, чем у GPU систем в текущем производственном окружении.

Кроме того, аналитик добавил, что продуктовая дорожная карта Cerebras впечатляет: производительность ежегодно удваивается, а к 2027 году предполагается двадцатикратное увеличение пропускной способности. Он отметил: «Cerebras сосредоточена на диссоциированном выводе данных, позиционируя свой Wafer-Scale Engine как сверхскоростной декодирующий движок для быстрой генерации Token и совместной работы с вычислительно интенсивными системами, такими как AWS Trainium или AMD Helios. По заявлению Cerebras, ее решение с диссоциированным выводом обеспечивает до 10 раз большую скорость по сравнению с GPU, а производительность — в 5 раз выше по сравнению с конфигурациями только на WSE.»

В заключение аналитик сообщил, что Arista Networks (ANET.US) стала «ключевым» сетевым партнером Cerebras, и ожидается, что с течением времени это сотрудничество поможет Arista расширить свои клиентские сценарии использования.

Как стало известно, во вторник во время Supernova Day Cerebras официально представила новое поколение AI-систем CS-4 для уровня стойки, заявив, что это «самый быстрый AI-ускоритель в отрасли». Данная система ориентирована на задачи вывода в работе с большими моделями и напрямую конкурирует с GPU-серверами Nvidia. Кроме того, Cerebras объявила о партнерстве с компаниями OpenAI, AMD, Arista Networks, AWS, Figma, Cognition и CrowdStrike.

CS-4 — первый продукт новой платформенной архитектуры Nexus уровня стойки от Cerebras, работает на трех новых wafer scale процессорах Wafer Scale Engine 3 Turbo (WSE-3T). WSE-3T — самый крупный на сегодняшний день AI-процессор: каждый чип содержит 4 триллиона транзисторов и 900 тысяч AI-оптимизированных ядер, занимает 46 225 мм² кремния и имеет 44 GB SRAM. Система CS-4 обеспечивает 750 PFLOPs AI-мощности, пропускную способность памяти 129,6 PB/s и I/O скорость 7,2 Tbps. AI-мощность одного WSE-3T-chip удвоена по сравнению с прошлым поколением: с 125 PFLOPS до 250 PFLOPS, а пропускная способность памяти выросла с 21,6 PB/s до 43,2 PB/s.

Cerebras заявила, что CS-4 устанавливает новый отраслевой стандарт по скорости вывода данных. В прямом сравнительном тесте на модели GPT-OSS-120B CS-4 генерирует более 4 400 Token на пользователя в секунду, что в 30 раз превышает показатели GPU-решений. Система поддерживает работу с моделями размером более 50 триллионов параметров. В сравнении с предыдущим CS-3, CS-4 вдвое быстрее, а пропускная способность на ватт увеличилась в 10 раз, что существенно повышает экономическую эффективность дата-центров.