Nvidia подробно рассказала о следующем поколении специализированного AI Vera CPU, заявив, что его скорость более чем в два раза превышает скорость других CPU.
Согласно сообщению Jinse Finance, 22 июля компания NVIDIA опубликовала материал, в котором говорится, что согласно результатам тестирования DeepInfra, процессор NVIDIA Vera CPU более чем в два раза быстрее других процессоров и способен поддерживать большее количество одновременных AI-агентов. Облачная платформа DeepInfra является одним из первых участников открытой AI-экосистемы NVIDIA, самостоятельно разработала и провела тесты на базе своей инфраструктуры производственных AI-агентов. DeepInfra обрабатывает почти 5 триллионов токенов в неделю, примерно 30% из которых обрабатываются агентской системой. Облачная платформа специально создана для высокопроизводительных AI-инференций. Тесты показали, что при том же уровне качества обслуживания поддерживается до 1,6 раза больше одновременных AI-агентов, совокупная скорость выше до 2,2 раза, а также увеличивается использование инфраструктуры и эффективность затрат. Эти результаты демонстрируют, что процессор NVIDIA Vera CPU способен обеспечить необходимое для производственных агентских AI рентабельность, низкую задержку и пропускную способность. По мере того, как AI-агенты берут на себя более сложные задачи по выводу, планированию, использованию инструментов и обработке данных, производительность процессора становится всё более важной для координации задач вокруг каждого запроса к модели. В рамках стратегии NVIDIA по комплексному проектированию AI-фабрик процессор Vera CPU специально разработан для работы с агентскими нагрузками. Тесты DeepInfra подчеркивают, как NVIDIA Vera CPU помогает облачным провайдерам повышать загрузку инфраструктуры, улучшать эффективность затрат и поддерживать больше одновременных AI-агентов при том же уровне сервиса.
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
Экономисты Федерального резервного банка Сан-Франциско оценивают среднесрочную нейтральную процентную ставку на уровне 1,5%, что указывает на «мягкую» политику Федеральной резервной системы.
Последние исследования экономиста Федерального резервного банка Сан-Франциско Васко Кур дии оценивают среднесрочную нейтральную ставку процента в экономике США примерно в 1,5%.
BHP и профсоюз Port Hedland не смогли договориться о зарплате, переговоры о возобновлении работы назначены на 25 августа.
Согласно сообщениям, гигант горнодобывающей промышленности BHP.US и представители профсоюза его железорудного бизнеса в Port Hedland, Западная Австралия, не смогли достичь соглашения по зарплатным переговорам. Стороны планируют возобновить обсуждения 25 августа.
Опрос управляющих фондами Bank of America: доля акций достигла пятилетнего максимума, но Hartnett предупреждает — пора выходить.
Опрос показал, что настроенные на рост глобальные инвесторы увеличили свои вложения в акции до самого высокого уровня за последние пять лет, тогда как число пессимистов крайне невелико.
Цены на крипто
Далее
