Il Quotidiano Economico Coreano: Quando le CPU AI divorano la DRAM — la “carenza” di memoria continuerà per un altro anno!

Il settore della memoria ha raggiunto risultati da record, trainato dall'aumento vertiginoso dei prezzi della DRAM commerciale, che sono saliti di oltre il 100%. Con i processori centrali (CPU) progettati specificamente per l'intelligenza artificiale ora disponibili, le previsioni indicano che la carenza potrebbe prolungarsi di un altro anno.

La recente “AI CPU” lanciata da Intel è destinata a supportare fino a quattro volte la quantità di DRAM commerciale rispetto alla generazione precedente.DRAM. Unita alla crescente domanda di DRAM ad alta capacità da parte delle GPU, gli osservatori prevedono che le capacità di fornitura di memoria di Samsung Electronics e SK Hynix non riusciranno a soddisfare la richiesta.Secondo fonti del settore del 2 giugno,i produttori di CPU stanno cercando di integrare fra 300 e 400GB di DRAM nelle AI CPU. Questa quantità è quattro volte superiore rispetto ai prodotti CPU tipici (96–256GB), un dato impressionante.Le CPU emergono come “coordinatori dell’AI”La domanda di DRAM ad alta capacità per le AI CPU è strettamente legata alla transizione del settore AI verso strutture basate su inference center. Mentre in passato l’inferenza AI era limitata a domande e risposte semplici, oggi le CPU fungono da “coordinatori” che gestiscono vari agenti AI.La chiave del processo è la “memoria contestuale”. Per coordinare il workflow facendo riferimento agli output di ciascun agente AI, la CPU deve poter memorizzare i contenuti. Questo rende fondamentale espandere la memoria, ovvero lo spazio di archiviazione.Finora i data center AI hanno costruito le infrastrutture di calcolo attorno alle GPU dotate di memoria ad alta larghezza di banda (HBM), puntando sui vantaggi delle GPU nell’addestramento AI tramite l’elaborazione di grandi quantità di dati. Il focus è sempre stato sul “training AI”. Di conseguenza, le configurazioni dei server seguivano il modello 8 GPU per 1 CPU. Tuttavia, con il settore che si sposta sull’inferenza, si stanno diffondendo configurazioni server con un rapporto significativamente maggiore di CPU.Durante una recente call sugli utili, i dirigenti di Intel hanno spiegato: “Nelle infrastrutture AI per l’inferenza, la struttura computazionale si è spostata verso un rapporto 1:4 tra CPU e GPU, una tendenza che si sta ulteriormente spostando verso 1:1.”Dopo le GPU, anche le CPU entrano nella corsa alla memoria — la domanda esplode a valangaLa corsa alla capacità di memoria si è estesa dalle GPU alle CPU, espandendosi rapidamente. Il prossimo chip AI di NVIDIA, “Vera Rubin”, gestisce 288GB tramite 8 stack di HBM, mentre la prossima GPU di AMD, la MI400, offre una capienza ancora maggiore di 432GB.Il chip personalizzato lanciato di recente da Google — l’ottava generazione diTensor Processing Unit (TPU 8i) — sarà anch’esso dotato di 288GB di HBM. Considerando inoltre la “Xeon” AI CPU di Intel e la “EPYC” di AMD che arriveranno a impiegare fino a 400GB di DDR5 ad alta capacità, si prevede che la carenza di memoria continuerà ancora a lungo.La vivacità del mercato è già visibile nei prezzi spot. Secondo i dati di Kiwoom Securities, sebbene ad aprile il prezzo della vecchia DDR4 (16GB) sia sceso del 16% in un mese, il prezzo spot della DDR5 (16GB) utilizzata per le AI CPU è aumentato del 2,8% nello stesso periodo, mantenendo un premio di prezzo.Una fonte del settore afferma:“Attualmente, il mercato della DRAM è considerato in deficit di circa il 10%. Al di là della HBM, la domanda di DRAM commerciale è esplosa, quindi è molto probabile che il super ciclo di crescita venga esteso dal 2026 precedentemente previsto al 2027.”