Nvidia 詳細介紹下一代 AI 專用 Vera CPU，稱其速度為其他 CPU 的兩倍以上

金色財經報導，7月22日，NVIDIA 發文稱，DeepInfra 的基準測試結果顯示，NVIDIA Vera CPU 的速度是其他 CPU 的兩倍多，並且能夠支援更多並發的 AI 代理。雲平台 DeepInfra 是 NVIDIA 開放 AI 生態系統的早期體驗參與者，獨立設計並運行了基於其生產型 AI 代理基礎設施的基準測試。DeepInfra 每週處理近 5 萬億個代幣，其中約 30% 由代理系統驅動。其雲平台專為高通量 AI 推理而建。基準測試顯示，在相同服務品質下，支援最多 1.6 倍的並發 AI 代理，協同速度高達 2.2 倍，同時提升基礎設施利用率和成本效益。這些結果表明，NVIDIA Vera CPU 能夠實現生產代理人工智能所需的成本效益、低延遲和吞吐量。隨著 AI 代理承擔更複雜的推理、規劃、工具使用和資料流動，CPU 性能在圍繞每次模型調用的協調工作中變得越來越重要。作為 NVIDIA 對 AI 工廠極端聯合設計策略的一部分，Vera CPU 專為代理性工作負載設計。DeepInfra 的基準測試強調了 NVIDIA Vera CPU 如何協助雲服務供應商提升基礎設施利用率、提高成本效益，並在相同服務品質下支援更多並發的 AI 代理。