30倍Token速度挑戰GPU王座!法國巴黎銀行盛讚Cerebras (CBRS.US) CS-4開啟「晶圓級+解耦式推理」新紀元
在人工智慧(AI)晶片公司Cerebras Systems於星期二舉辦Supernova Day活動後,法國巴黎銀行表示,該公司公布的合作夥伴及相關公告讓他們印象深刻。
據智通財經APP報導,在人工智能(AI)晶片公司Cerebras Systems(CBRS.US)於週二舉行Supernova Day活動後,法國巴黎銀行表示,該公司公佈的合作夥伴與相關公告給其留下了深刻印象。
法國巴黎銀行分析師Karl Ackerman在給客戶的報告中寫道:「如同NVIDIA(NVDA.US)的LPU,Cerebras與OpenAI、Amazon(AMZN.US)AWS以及AMD(AMZ.US)達成的新合作關係,凸顯市場對改善推理過程中對延遲高度敏感的解碼環節的需求正在不斷增長。」
分析師進一步表示,在快速推理方面,最新發表的基於SRAM的CS-4晶圓級引擎(Wafer-Scale Engine)提供了「驚人的43.2 PB/s片上記憶體頻寬」,並配備一種利用RDMA的新型晶圓I/O介面。Cerebras自豪表示,CS-4系統生成Token的速度比現有生產環境中的GPU系統快30倍。
此外,分析師表示,Cerebras每年將效能提升一倍,並計劃在2027年前將吞吐量提升至20倍的產品路線圖令人稱道。分析師稱:「Cerebras正專注於解耦式推理,將其晶圓級引擎定位為超高速解碼引擎,以實現快速Token生成,並與AWS Trainium或AMD Helios等計算密集型系統協同運作。Cerebras表示,其解耦式推理系統預計將比GPU快最多10倍,且相較僅採用WSE的配置,效能提升5倍。」
最後,分析師表示,Arista Networks(ANET.US)已成為Cerebras的「關鍵」網路合作夥伴,並預計隨著時間推進,該合作關係將協助Arista拓展新客戶應用場景。
據悉,Cerebras於週二的Supernova Day活動上正式推出新一代機架級AI系統Cerebras CS-4,宣稱其為「業界最快的AI加速器」。該系統專為大型模型推理賽道打造,並直接對標NVIDIA的GPU伺服器產品。此外,Cerebras在活動中還宣布與OpenAI、AMD、Arista Networks、AWS、Figma、Cognition及CrowdStrike等公司的合作。
CS-4是Cerebras新一代Nexus機架級平台架構的首款產品,搭載三顆全新Wafer Scale Engine 3 Turbo(WSE-3T)晶圓級處理器。WSE-3T是迄今為止規模最大的AI處理器,每顆晶片整合4兆個電晶體及90萬個AI優化核心,覆蓋46,225平方毫米矽面積,內建44GB SRAM。CS-4系統提供750 PFLOPs的AI算力、每秒129.6 PB的記憶體頻寬,以及每秒7.2 Tbps的I/O吞吐量。單顆WSE-3T晶片的AI算力由上一代的125 PFLOPS提升至250 PFLOPS,記憶體頻寬由21.6 PB/s提升至43.2 PB/s。
Cerebras宣稱CS-4在推理速度上樹立新的產業標竿。在GPT-OSS-120B模型的直接對比測試中,CS-4每用戶每秒可生成超過4,400個Token,最高達GPU方案的30倍。該系統可支持超過50兆參數的模型。與前一代CS-3相比,CS-4速度提升2倍,每瓦吞吐量提升10倍,顯著改善數據中心的經濟效益。
免責聲明:文章中的所有內容僅代表作者的觀點,與本平台無關。用戶不應以本文作為投資決策的參考。
您也可能喜歡
網易美股盤前一度下跌6%

莫德納盤前下跌超過13%
SK海力士(SKHY.US)40兆回購「震撼市場」 JPMorgan:2027年或再發放1300億美元「大禮包」
在SK Hynix(SKHY.US)週三實施最新的大規模股票回購計劃後,JPMorgan指出,該公司有望於明年之前向股東額外提供至少130 billions美元(約合180萬億韓元)的回報。

