持续学习的AI仍在扩大存储半导体市场

尽管出现AI放缓论，持续学习的AI仍在扩大存储半导体市场 1/ 尽管近期出现AI发展速度应当放缓的论调，让人工智能不断学习新信息的持续学习技术，正成为存储半导体市场的新增长动力。 2/ 全球投资银行花旗预计，明年全球HBM比特需求将较今年增长62%，达到752亿Gb。 3/ 花旗将持续学习列为HBM需求激增的主要原因之一，并分析认为，随着训练与推理反复进行，不仅HBM，服务器用DRAM与企业级SSD的需求也将同步增长。 4/ 目前，大多数生成式AI采用预先训练后再回答的方式，新信息不会自动纳入长期知识，因此产生效率问题。 5/ 在持续学习中，训练与推理之间的界限变得模糊，目标是让AI在提供服务的过程中也能学习新数据和经验，并与现有知识相结合。 6/ 在不断学习新信息的同时，还必须访问现有的海量数据，因此需要更大的存储容量，除HBM外，同时使用服务器用DRAM和基于NAND的eSSD的方式也变得重要。 7/ 由于推理过程中也会进行学习，仅靠带宽难以解决瓶颈，因此对PIM等在存储器附近进行计算的技术的需求也可能增加。 8/ 三星电子提出了将HBM直接堆叠在AI加速器上的zHBM，SK海力士则介绍了PIM、SALT-KV和HBF结构等，试图突破现有GPU-HBM结构的局限。