Token 30 kali lipat tantang kecepatan GPU! BNP Paribas memuji Cerebras (CBRS.US) CS-4 yang membuka era “wafer-level + inference terpisah”

Aplikasi Zhihong Finance APP memperoleh informasi bahwa setelah perusahaan chip kecerdasan buatan (AI) Cerebras Systems (CBRS.US) mengadakan acara Supernova Day pada hari Selasa, BNP Paribas menyatakan bahwa daftar mitra dan pengumuman terkait yang dipublikasikan oleh perusahaan tersebut meninggalkan kesan mendalam.

Analis BNP Paribas, Karl Ackerman, menulis dalam sebuah laporan kepada klien: “Seperti halnya LPU dari NVIDIA (NVDA.US), kemitraan baru Cerebras dengan OpenAI, Amazon (AMZN.US) AWS, dan AMD (AMZ.US) menyoroti permintaan pasar yang terus berkembang untuk perbaikan pada proses inferensi pada tahap decoding yang sangat sensitif terhadap latensi.”

Analis selanjutnya mengatakan bahwa untuk inferensi cepat, engine wafer-scale berbasis SRAM CS-4 yang baru diumumkan menawarkan “lebar pita memori on-chip yang luar biasa sebesar 43,2 PB/s”, dan dilengkapi dengan antarmuka wafer I/O baru yang memanfaatkan RDMA. Cerebras dengan bangga menyatakan bahwa kecepatan sistem CS-4 dalam menghasilkan Token 30 kali lebih cepat dari sistem GPU yang saat ini digunakan di lingkungan produksi.

Selain itu, analis mengatakan bahwa roadmap produk Cerebras yang meningkatkan performa dua kali lipat setiap tahun dan berencana menaikkan throughput hingga 20 kali lipat pada tahun 2027 sangat mengesankan. Ia menyebut: "Cerebras fokus pada inferensi terpisah dengan menjadikan engine wafer-scale mereka sebagai decoder berkecepatan tinggi untuk menghasilkan Token dengan cepat, dan bekerja bersama sistem penghitungan intensif seperti AWS Trainium atau AMD Helios. Cerebras menyatakan bahwa sistem inferensi terpisah mereka diperkirakan hingga 10 kali lebih cepat dari GPU, serta memiliki peningkatan performa lima kali lipat dibanding konfigurasi yang hanya menggunakan WSE.”

Terakhir, analis menyampaikan bahwa Arista Networks (ANET.US) telah menjadi mitra jaringan “utama” Cerebras, dan diperkirakan kemitraan ini akan membantu Arista memperluas skenario aplikasi pelanggan baru seiring waktu.

Diketahui, pada acara Supernova Day hari Selasa, Cerebras secara resmi meluncurkan sistem AI generasi baru tingkat rak Cerebras CS-4, mengklaim sebagai “akselerator AI tercepat di industri”. Sistem ini ditujukan untuk jalur inferensi model besar, secara langsung menjadi kompetitor produk server GPU NVIDIA. Selain itu, Cerebras juga mengumumkan kemitraan dengan OpenAI, AMD, Arista Networks, AWS, Figma, Cognition, dan CrowdStrike pada acara tersebut.

CS-4 adalah produk pertama dari arsitektur platform rak tingkat Nexus generasi baru Cerebras, didukung oleh tiga prosesor wafer-scale engine 3 Turbo (WSE-3T) yang sepenuhnya baru. WSE-3T adalah prosesor AI terbesar hingga saat ini, dengan setiap chip mengintegrasikan 4 triliun transistor dan 900 ribu inti AI yang dioptimalkan, meliputi area silikon sebesar 46.225 mm², serta menyematkan SRAM 44GB. Sistem CS-4 menyediakan daya komputasi AI 750 PFLOPs, lebar pita memori 129,6 PB per detik, dan throughput I/O 7,2 Tbps per detik. Daya komputasi AI satu chip WSE-3T meningkat dua kali lipat dari generasi sebelumnya, yakni dari 125 PFLOPS menjadi 250 PFLOPS, sedangkan lebar pita memori naik dari 21,6 PB/s menjadi 43,2 PB/s.

Cerebras mengklaim CS-4 menetapkan standar baru untuk kecepatan inferensi di industri. Dalam pengujian langsung pada model GPT-OSS-120B, CS-4 dapat menghasilkan lebih dari 4.400 Token per pengguna per detik, hingga 30 kali lebih cepat dari solusi berbasis GPU. Sistem ini dapat mendukung model dengan lebih dari 50 triliun parameter. Dibandingkan dengan CS-3 generasi sebelumnya, CS-4 dua kali lebih cepat dan throughput per watt meningkat 10 kali lipat, sehingga meningkatkan efisiensi ekonomi pusat data secara signifikan.