قدمت Nvidia شرحًا مفصلًا لوحدة المعالجة المركزية المخصصة للذكاء الاصطناعي من الجيل القادم Vera، مؤكدة أن سرعتها تزيد أكثر من ضعفي سرعة المعالجات الأخرى.

أفادت Jinse Finance أنه في 22 يوليو، نشرت NVIDIA مقالاً ذكرت فيه أن نتائج اختبارات الأداء لدى DeepInfra أظهرت أن سرعة وحدة معالجة المركزية NVIDIA Vera تزيد عن ضعف سرعة المعالجات المركزية الأخرى، كما أنها قادرة على دعم عدد أكبر من وكلاء الذكاء الاصطناعي المتزامنين. تعد منصة السحابة DeepInfra من أوائل المشاركين في تجربة نظام NVIDIA المفتوح للذكاء الاصطناعي، حيث صممت ونفذت بشكل مستقل اختبارات أداء استنادًا إلى بنية تحتية لوكلاء الذكاء الاصطناعي الإنتاجيين. تعالج DeepInfra ما يقرب من 5 تريليون رمز أسبوعياً، يتم تحفيز حوالي 30% منها بواسطة نظام الوكلاء. تم تصميم منصتها السحابية خصيصًا لاستدلال الذكاء الاصطناعي عالي التدفق. أظهرت اختبارات الأداء أنه بجودة خدمة متساوية، يمكن دعم ما يصل إلى 1.6 ضعف عدد وكلاء الذكاء الاصطناعي المتزامنين، مع سرعة تعاون تصل إلى 2.2 ضعف، بالإضافة إلى تعزيز معدل استخدام وكفاءة البنية التحتية من حيث التكلفة. تشير هذه النتائج إلى أن معالج NVIDIA Vera قادر على تحقيق الكفاءة في التكلفة، وانخفاض زمن الاستجابة، وقدرة الإنتاجية المطلوبة لوكلاء الذكاء الاصطناعي الإنتاجيين. مع تولي وكلاء الذكاء الاصطناعي مهام أكثر تعقيدًا من حيث الاستدلال والتخطيط واستخدام الأدوات وتدفق البيانات، تصبح كفاءة وحدة المعالجة المركزية عاملاً أكثر أهمية في تنسيق العمليات المصاحبة لكل استدعاء للنماذج. وكجزء من استراتيجية التصميم المشترك المتقدمة لشركة NVIDIA لإنشاء مصانع الذكاء الاصطناعي، تم تصميم وحدة Vera CPU خصيصًا لأعباء العمل الوكيلة. أكدت اختبارات الأداء لدى DeepInfra كيف يمكن لوحدة المعالجة المركزية NVIDIA Vera مساعدة مقدمي خدمات الحوسبة السحابية على تعزيز استخدام البنية التحتية، وتحسين كفاءة التكلفة، ودعم عدد أكبر من وكلاء الذكاء الاصطناعي المتزامنين بنفس جودة الخدمة.