La inteligencia artificial que sigue aprendiendo continúa expandiendo el mercado de semiconductores de almacenamiento.

A pesar de los debates sobre una desaceleración de la IA, la IA de aprendizaje continuo sigue expandiendo el mercado de semiconductores de memoria1/ A pesar de los recientes argumentos de que el desarrollo de la IA debería desacelerarse, la tecnología de aprendizaje continuo, que permite que la inteligencia artificial siga aprendiendo nueva información, se está convirtiendo en un nuevo motor de crecimiento para el mercado de semiconductores de memoria.2/ Según estimaciones de Citibank, el próximo año la demanda global de bits HBM aumentará un 62% en comparación con este año, alcanzando los 75,2 mil millones de Gb.3/ Citibank considera al aprendizaje continuo como una de las principales causas del rápido aumento de la demanda de HBM y analiza que, a medida que el entrenamiento y el razonamiento se realicen de forma repetida, no solo habrá un crecimiento en la demanda de HBM, sino también de DRAM para servidores y SSDs empresariales.4/ Actualmente, la mayoría de las IA generativas utilizan un método de entrenamiento previo, respondiendo posteriormente, por lo que la nueva información no se incorpora automáticamente al conocimiento de largo plazo, provocando problemas de eficiencia.5/ Con el aprendizaje continuo, la línea divisoria entre entrenamiento y razonamiento se vuelve borrosa, y el objetivo es lograr que la IA pueda aprender nueva información y experiencias durante el proceso de prestación de servicios, integrándolas con el conocimiento existente.6/ Mientras se aprende información nueva continuamente, es necesario acceder a grandes volúmenes de datos existentes, por lo que se requiere una mayor capacidad de almacenamiento; además de HBM, el uso simultáneo de DRAM para servidores y eSSD basados en NAND también se vuelve importante.7/ Dado que durante el razonamiento también se realiza aprendizaje, el ancho de banda por sí solo no puede resolver los cuellos de botella; por ello, podría aumentar la demanda de tecnologías como PIM, que realizan cálculos cerca de la memoria.8/ Samsung Electronics ha propuesto el zHBM, que apila directamente HBM sobre el acelerador de IA, mientras que SK Hynix ha presentado arquitecturas como PIM, SALT-KV y HBF, buscando superar las limitaciones de la estructura actual GPU-HBM.