Morgan Stanley: Süni intellektin yaddaş çatışmazlığı bir neçə il davam edəcək – Böhrandan çıxış üçün üç əsas yol, yaddaş və heterojen hesablama gücündə struktur imkanlar yaranır

Zhito Maliyyə APP məlumatına görə, Morgan Stanley tərəfindən dərc olunan yarımkeçiricilər sənayesi haqqında tədqiqat hesabatında qeyd edilir ki, DRAM yaddaşı çatışmazlığı bu AI sənaye dövrü boyunca davam edəcək və AI hesablama gücünün genişlənməsi yeni disk istehsalı zavodlarının tikilib istehsalata başlanmasını gözləməyəcək. Sənaye, yaddaş tıxanıqlığını aradan qaldırmaq üçün hardware azaldılması, təhlil arxitekturasının ayrılması və CXL yaddaş poollaşdırılması kimi üç əsas texnoloji yollar vasitəsilə məhdudiyyəti aşır və təklif məhdudluğu fonunda hesablama gücünün qurulmasını davam etdirir. Bu firma Micron (MU.US), SanDisk (SNDK.US) kimi yaddaş sahəsində lider şirkətlərə, həmçinin CXL əlaqəsi və heterojen təhlil sahəsində artım imkanlarına ümid edir və Astera Labs (ALAB.US), Marvell (MRVL.US), Cerebras (CBRS.US) və Nvidia (NVDA.US)-ı tövsiyə edir.

Morgan Stanley qeyd edir ki, hazırda AI yaddaş çatışmazlığı qısa müddətli bir narahatlıq deyil, hesablama gücü artımının yaddaş təklifinin sürətini xeyli üstələyə bilməməsi struktur çatışmazlığıdır. Ən qabaqcıl böyük modelin ölçüsü hər 6 ayda iki dəfə artır, əsas modellərin kontekst pəncərəsi illik artımı 5-6 dəfədir, üstəlik təhlil paralel tələbi də davamlı şəkildə yüksəlir, yaddaş tutumu və bant genişliyi ehtiyacı kəskin artır. Lakin DRAM disk istehsalı zavodlarının tikinti dövrü bir neçə il davam edir və təklif elastikliyi olduqca aşağıdır, çatışmazlıq vəziyyəti bir neçə il davam edəcək. Nvidia CEO-su Jensen Huang açıq şəkildə qeyd edib ki, sənaye düşüncə tərzini dəyişməli, yaddaş məhdudiyyətinə arxitektura yenilikləri vasitəsilə cavab verməli, təkcə istehsal gücünün genişlənməsini gözləməməlidir.

HBM və əsas yaddaş təklifinin sıxlığı ilə üzləşən sənaye, ən birbaşa yanaşma olaraq, hər bir avadanlığın yaddaş spesifikasiyasını seçici şəkildə azaltmaq (De-speccing) üsulunu seçir. Nvidia Rubin arxitekturasını misal göstərsək, bir serverdə LPDDR5 tutumu əvvəl planlanan 54TB-dan 28TB-a endirilib, bir GPU HBM tutumu isə 288GB-dan 192GB-a düşür, yaddaş təbəqəsinin yüksəkliyini azaltmaqla bütöv maşının çıxışını təmin edir. Morgan Stanley bildirir ki, spesifikasiyanı azaltmaq yaddaş tıxanıqlığını aradan qaldırmır, yalnız təzyiqi yaddaş səviyyələri arasında paylayır: Sürətli lokal yaddaşın azalması ilə KV cache və s. qeyri-yüksək tezlikli verilənlər NAND yaddaşa yönəldilir, eyni zamanda GPUlar arası məlumat mübadiləsi artır və şəbəkə əlaqəsinin bant genişliyi ehtiyacı yüksəlir, mahiyyətcə bu, daha sürətli şəbəkə əlaqəsi və daha aşağı xərcli yaddaş resursları ilə qıt olan yüksək bant genişliyi yaddaşı əvəz edir.

İkinci çıxış yolu təhlil arxitekturasının ayrılmasıdır (Disaggregation). AI təhlili, əhəmiyyətli fərqləri olan prefill (əvvəlcədən dolama) və decode (dekodlama) mərhələsindən ibarətdir: Prefill əsasən hesablama gücü istehlak edir, Decode isə yaddaş bant genişliyindən yüksək asılıdır. Ənənəvi arxitektura eyni sürətləndirici ilə hər iki tapşırığı yerinə yetirir, resursların istifadəsi isə aşağıdır. Hazırda sənaye heterojen təhlil istiqamətində irəliləyir və iki mərhələni fərqli hardware üzərinə bölür: hesablama gücü tələb edən prefill ümumi GPU tərəfindən, yaddaş bant genişliyi tələb edən decode isə böyük tutuma malik on-chip SRAM ilə təchiz olunmuş xüsusi sürətləndirici çip tərəfindən icra edilir.

Tipik nümunələrə Cerebras-ın disk səviyyəli mühərriki və Nvidia-nın aldığı Groq LPU arxitekturası daxildir; hər ikisi decode mərhələsində ənənəvi GPU-lardan xeyli daha yüksək yaddaş bant genişliyi səmərəliliyi təmin edir. Morgan Stanley hesab edir ki, heterojen təhlil AI infrastrukturunun mühüm inkişaf istiqaməti olacaq və decode mərhələsində ixtisaslaşmış hesablama şirkətləri aydın artım bazarı əldə edəcək.

Üçüncü yol isə CXL texnologiyasının yaddaş sistemini yenidən qurmasıdır. CXL (Compute Express Link) yüksək sürətli əlaqə vasitəsilə yaddaşın genişlənməsi, paylaşılması və poollaşdırılmasını təmin edir, yaddaşı bir prosessora bağlamaqdan çıxarır və yaddaş tutumu məhdudiyyətini aradan qaldırmaq üçün əsas texnologiya yoludur. Morgan Stanley-in hesablamalarına görə, AI tələbi CXL və əlaqəli yaddaş əlavə çiplərinə olan bazarın 2030-cu ildə təxminən 6 milyard dollar səviyyəsinə çatmasına səbəb olacaq, bu, ənənəvi CPU yaddaş genişlənməsi bazarını xeyli üstələyir. Onun əsas dəyəri təbəqələşmiş yaddaş arxitekturası qurmaqda yatır: Ən tezlikli verilənlər HBM-də saxlanılır, orta tezlikli verilənlər CXL yaddaş pooluna, aşağı tezlikli və soyuq verilənlər isə NAND-a yönəldilir və xərclər verilənlərə giriş tezliyi ilə uyğunlaşdırılır.

İnvestisiya əsas istiqamətləri üzrə: Morgan Stanley üç əsas istiqaməti bir daha vurğulayır: Birincisi, Micron və SanDisk-ə üstünlük verməyə davam etmək, spesifikasiyanın azalması təklifin çatışmazlığından, yox, tələbin zəifləməsindən qaynaqlanır və AI yaddaş tələbi uzun müddət yüksələcək, təklifdəki boşluq davam edəcək, istehsal gücünü udacaq; ikincisi, CXL və scale-up əlaqə liderləri olan Astera Labs, Marvell-ə yönəlmək; üçüncüsü, heterojen təhlildən faydalanan Cerebras və Groq-u alaraq heterojen planını tamamlamağa çalışan Nvidia-ya diqqət yetirmək.

Risk xəbərdarlığı: AI hesablama gücü tələbinin artım sürəti gözlənildiyi kimi olmaya bilər; CXL texnologiyasının tətbiqi gözləniləndən yavaş gedə bilər; yaddaş istehsal gücünün artımı gözləniləndən çox ola bilər.