Nvidia detalla el CPU Vera de próxima generación especializado en IA y afirma que su velocidad es más del doble que la de otros CPUs.

Según informó Jinse Finance, el 22 de julio NVIDIA publicó que los resultados de las pruebas de referencia realizadas por DeepInfra muestran que la CPU NVIDIA Vera es más de dos veces más rápida que otras CPUs, y puede soportar una mayor cantidad de agentes de IA concurrentes. DeepInfra, una plataforma en la nube que participa como experimentadora temprana del ecosistema abierto de IA de NVIDIA, diseñó y ejecutó de manera independiente pruebas de referencia basadas en su infraestructura de agentes de IA de producción. DeepInfra procesa cerca de 5 mil billones de tokens por semana, de los cuales aproximadamente el 30% están impulsados por el sistema de agentes. Su plataforma en la nube está diseñada específicamente para el procesamiento de IA de alto rendimiento. Las pruebas revelan que, manteniendo la misma calidad de servicio, puede soportar hasta 1,6 veces más agentes de IA concurrentes y una velocidad de colaboración de hasta 2,2 veces, mejorando al mismo tiempo la utilización de la infraestructura y la rentabilidad. Estos resultados demuestran que la CPU NVIDIA Vera puede lograr la eficiencia de costos, baja latencia y alto rendimiento necesarios para agentes de inteligencia artificial en producción.
A medida que los agentes de IA asumen tareas de razonamiento, planificación, uso de herramientas y flujo de datos cada vez más complejas, el rendimiento de la CPU es cada vez más crítico para las tareas de coordinación que giran en torno a cada llamada al modelo. Como parte de la estrategia de diseño conjunto de factorías de IA de NVIDIA, Vera CPU está específicamente diseñada para cargas de trabajo basadas en agentes. Las pruebas de referencia de DeepInfra destacan cómo la CPU NVIDIA Vera ayuda a los proveedores de servicios en la nube a maximizar la utilización de la infraestructura, aumentar la eficiencia de los costos y soportar más agentes de IA concurrentes manteniendo la misma calidad de servicio.