Tianfeng Securities : La révolution du stockage par l’IA est arrivée, « remplacer le calcul par le stockage » ouvre une nouvelle ère pour le stockage

Selon un rapport de recherche de Jinse Finance, Tianfeng Securities indique que, pour surmonter le goulot d'étranglement de la puissance de calcul et la contrainte du « mur de stockage », la technologie disruptive appelée « remplacer le calcul par le stockage » a vu le jour. Cette technologie transfère les données vectorielles (telles que KVCache) utilisées lors de l’inférence AI de la mémoire coûteuse DRAM et HBM vers des SSD de grande capacité et à meilleur rapport qualité-prix, réalisant ainsi une extension stratégique de la couche de stockage de la mémoire vers les SSD, plutôt qu’un simple remplacement. Sa valeur essentielle réside dans la réduction significative de la latence du premier Token, l’augmentation du débit d’inférence et l’optimisation considérable du coût de bout en bout de l’inférence, offrant ainsi une voie réalisable pour le déploiement à grande échelle de l’IA. La révolution du stockage AI est arrivée, la technologie « remplacer le calcul par le stockage » génère des opportunités clés, réduit considérablement la consommation de puissance de calcul et accélère l’inférence AI, entraînant une croissance de la demande de SSD supérieure à la courbe traditionnelle.