A Nvidia detalhou o Vera CPU, de próxima geração para IA, afirmando que sua velocidade é mais de duas vezes superior em relação a outros CPUs.

Jinse Finance noticiou que, em 22 de julho, a NVIDIA publicou que, segundo os resultados dos testes de benchmark da DeepInfra, a CPU NVIDIA Vera é mais de duas vezes mais rápida do que outras CPUs e consegue suportar um número maior de agentes de IA simultâneos. A plataforma de cloud DeepInfra é uma das primeiras participantes do ecossistema de IA aberta da NVIDIA, tendo concebido e executado de forma independente testes de benchmark baseados na sua infraestrutura de agentes de IA de produção. A DeepInfra processa quase 5 trilhões de tokens semanalmente, dos quais cerca de 30% são impulsionados por sistemas de agentes. A sua plataforma de cloud foi projetada especificamente para inferência de IA de alta vazão. Os resultados dos testes de benchmark indicam que, mantendo a mesma qualidade de serviço, pode-se suportar até 1,6 vezes mais agentes de IA simultâneos e alcançar uma velocidade colaborativa até 2,2 vezes superior, além de melhorar a utilização da infraestrutura e a eficiência de custos. Estes resultados demonstram que a CPU NVIDIA Vera pode proporcionar a eficiência de custos, baixa latência e throughput necessárias para agentes de inteligência artificial em produção.

À medida que os agentes de IA assumem tarefas mais complexas de raciocínio, planejamento, uso de ferramentas e fluxo de dados, a performance da CPU torna-se cada vez mais importante para o trabalho de coordenação que ocorre em cada chamada de modelo. Como parte da estratégia de concepção conjunta extrema das AI Factories da NVIDIA, a CPU Vera foi desenvolvida especificamente para cargas de trabalho de agentes. Os testes de benchmark da DeepInfra destacam como a CPU NVIDIA Vera pode ajudar provedores de serviços em nuvem a maximizar a utilização da infraestrutura, melhorar a eficiência de custos e suportar mais agentes de IA simultâneos mantendo a mesma qualidade de serviço.