Nebius (NBIS.US) приобретает израильский стартап Inferize для усиления бизнеса AI-вычислений, сумма сделки может достигать 150 миллионов долларов.
AI-облачный инфраструктурный сервис-провайдер Nebius объявил о приобретении израильского стартапа в области искусственного интеллекта Inferize, что позволит ещё больше усилить его возможности в инфраструктуре AI-выводов.
По данным приложения Zhihui Finance, облачный провайдер AI-инфраструктуры Nebius (NBIS.US) объявил о приобретении израильского AI-стартапа Inferize, что позволит еще больше усилить его возможности в сфере инфраструктуры AI-инференса. Inferize специализируется на сокращении времени простоя графических процессоров (GPU) и ускорении развертывания крупных AI-моделей. Согласно оценкам израильского технологического издания Calcalist, сумма сделки составляет от 100 до 150 миллионов долларов США, однако Nebius не раскрыл точные финансовые условия.
Ключевым моментом этой сделки является повышение эффективности использования ресурсов GPU, особенно в условиях быстро меняющегося спроса на AI-инференс, что поможет Nebius оперативнее перераспределять вычислительные мощности и снижать время простоя дорогостоящего оборудования.
Решение узких мест эффективности AI-инференса Снижение простоя GPU
Ключевая технология Inferize направлена главным образом на решение проблемы “холодного старта” при развертывании AI-моделей. “Холодный старт” означает, что до начала обработки пользовательских запросов AI-модели необходимо загрузить модель и инициализировать соответствующие ресурсы. Когда инициализируется новый экземпляр для инференса, GPU может быть вынужден ожидать завершения загрузки модели перед началом вычислений, что создает кратковременный простой ресурсов.
Эта проблема особенно остро проявляется при резком увеличении спроса на AI-инференс. По мере роста числа запросов пользователей облачные провайдеры должны быстро запускать больше новых экземпляров для инференса, однако если загрузка модели занимает слишком много времени, вновь подключенные GPU не могут быть немедленно использованы, что негативно влияет на скорость реакции сервиса и общую эффективность использования вычислительных мощностей.
Технологии Inferize нацелены на сокращение этого промежутка ожидания, чтобы новые ресурсы для инференса могли быстрее включаться в работу и расширение вычислительных мощностей более точно соответствовало реальным изменениям спроса.
Для Nebius это означает возможность гибко удовлетворять запросы клиентов, повышая эффективность использования уже имеющейся инфраструктуры, не требуя постоянно содержать большие объемы резервных GPU.
По словам технического директора Nebius Danila Shtan, для эффективного запуска AI-инференс-сервисов нужны не только более быстрые GPU и оптимизированные модели, но и способность всей системы своевременно реагировать на изменения спроса, включая быстрое предоставление дополнительных вычислительных ресурсов при его росте. Он подчеркнул, что Inferize принесла не только технологии ускорения этого процесса, но и опытную инженерную команду, специализирующуюся на GPU-системах.
Nebius планирует интегрировать инженеров Inferize в свою команду по инференс-бизнесу и объединить соответствующие технологии с собственной AI-инференс-платформой Token Factory, чтобы повысить способность платформы отвечать на запросы клиентов и максимально задействовать существующую инфраструктуру для выполнения реальных вычислительных задач.
Shtan также добавил, что вклад команды Inferize в будущем не будет ограничиваться только этой начальной интеграцией технологий.
Снижение издержек резервных мощностей Повышение эффективности эксплуатации AI-инфраструктуры
Соучредитель и генеральный директор Inferize Guy Bortnikov в свою очередь отметил, что для оперативного реагирования на клиентские запросы облачные провайдеры обычно вынуждены поддерживать определенный резерв GPU, а эти находящиеся в режиме ожидания вычислительные ресурсы сами по себе означают дополнительные расходы. По его словам, миссия Inferize заключается именно в снижении этих затрат, а присоединение к Nebius позволит внедрить соответствующие технологии непосредственно в работающую AI-облачную платформу.
В бизнесе AI-инференса эффективность распределения вычислительных ресурсов напрямую влияет на эксплуатационные издержки инфраструктуры. Поскольку оборудование GPU довольно дорогостоящее, если компаниям приходится надолго держать большую часть вычислительных ресурсов в резерве для возможных пиковых нагрузок, это сказывается на общей окупаемости инвестиций.
За счет сокращения времени запуска моделей и ускорения ввода ресурсов в эксплуатацию, Nebius рассчитывает повысить гибкость своих сервисов и уменьшить зависимость от резервных емкостей GPU.
Стоит отметить, что ранее Bortnikov также был соучредителем компании Granulate, разрабатывающей ПО для оптимизации вычислительной инфраструктуры. Основное направление этой компании — повышение эффективности использования ресурсов, и в 2022 году она была приобретена Intel (INTC.US). Этот опыт также свидетельствует о компетенциях команды Inferize в сфере оптимизации вычислительной инфраструктуры.
Серийные приобретения AI-компаний: Nebius продолжает усиливать платформу инференса
Поглощение Inferize стало одной из череды недавних сделок Nebius в области AI-инференса и оптимизации моделей. Ранее Nebius уже завершил приобретение Eigen AI стоимостью 643 миллиона долларов. Кроме того, компания не так давно выкупила AI-технологическую компанию Clarifai, но детали этой сделки не разглашались.
Все эти приобретения направлены на усиление способностей Nebius в сфере инференса и оптимизации AI-моделей, что позволит дополнительно совершенствовать услуги по предоставлению AI-инфраструктуры.
В отличие от инвестиций, фокусирующихся на предоставлении мощностей для обучения моделей, AI-инференс уделяет больше внимания эффективности работы моделей в реальных условиях: скорости обработки запросов, управлению вычислительными ресурсами, развертыванию моделей и стоимости единицы мощности.
По мере интеграции новых технологий Nebius расширяет свой бизнес не только как поставщик GPU-ресурсов, но и как провайдер технологий и сервисов, реально повышающих эффективность функционирования AI-моделей.
Поглощение Inferize еще больше укрепит технологические возможности Nebius в области динамического распределения мощностей и быстрого развертывания моделей. Тем не менее, насколько интеграция этих разработок позволит снизить издержки и повысить эффективность, покажет только дальнейшая практика эксплуатации.
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
Запущено всего 23 дня и уже вызвало взрыв среди потребительских агентов! Morgan Stanley подробно анализирует 6 ключевых вопросов Muse
Morgan Stanley считает, что в краткосрочной перспективе Muse должна сосредоточиться на росте числа пользователей, а в долгосрочной перспективе возможна монетизация за счет потребительских транзакций, корпоративных сервисов и API. Высокая стоимость вычислительных мощностей является давлением, но также может стать барьером для конкурентов. Существующие запасы CPU у Meta достаточны для дальнейшего расширения. В то же время сотрудничество с Amazon повлияет на доступ Agent к электронной торговле, а корпоративный рынок предоставит новые источники дохода. Текущая оценка уже частично отражает ожидания, а ключевым фактором в дальнейшем остается реализация стратегии монетизации.
Прилив искусственного интеллекта сталкивается с испытанием "финансовой линии отсечения"? Известный стратег с Уолл-стрит предупреждает: доллар и доходность американских облигаций не достигли пика, склонность к риску вряд ли восстановится
Майкл Хартнетт из Bank of America заявил, что инвесторы будут избегать более рискованных сделок до тех пор, пока не появятся признаки пика недавнего роста доллара. В своем отчете этот стратег также отметил, что рыночная нестабильность может сохраняться до тех пор, пока доходность по облигациям не снизится с самого высокого уровня за более чем двадцать лет. Он советует инвесторам "покупать на спаде" сильно пострадавшие активы и рекомендует увеличить долю облигаций в портфеле.
Число новых рабочих мест в сентябре, вероятно, снизится до 90 тысяч: настоящий «взрыв» сегодняшнего отчёта по занятости может быть в том, будут ли данные за август существенно пересмотрены в сторону уменьшения.
Уолл-стрит в целом ожидает, что в сентябре число новых рабочих мест снизится до 90 тысяч, а уровень безработицы останется на уровне 4,1%. Сильные данные августа в значительной степени были обусловлены необычными сезонными факторами, и степень их корректировки напрямую повлияет на восприятие сентябрьских показателей. После того как недавние заявления представителей Федеральной резервной системы резко снизили вероятность повышения ставки в октябре до 25%, внимание рынка переключилось на долгосрочные процентные ставки. В настоящее время системные фонды держат примерно 390 млрд долларов в коротких позициях по мировым облигациям; если данные по занятости неожиданно окажутся слабыми, это вызовет сильные рыночные потрясения.
Розничные покупки демонстрируют "сжатие круга"! Потоки капитала JPMorgan показывают, что Nvidia и Sandisk привлекают инвестиции вопреки тенденциям, а ETF на американские облигации вновь становятся интересны розничным инвесторам
Частные инвесторы сосредоточивают выбор акций на нескольких компаниях, связанных с вычислительными мощностями, хранением данных и крупными технологическими компаниями. На рынке облигаций появляется другая отчетливая тенденция: несмотря на давление на цены долгосрочных американских государственных облигаций и сохранение высоких доходностей, за неделю долгосрочный государственный ETF был куплен на сумму 260 миллионов долларов.
Цены на крипто
Далее
