Nebius (NBIS.US) acquiert la startup israélienne Inferize pour renforcer ses activités d’IA et de raisonnement ; le montant de la transaction pourrait atteindre 150 millions de dollars.

Selon les informations de l'application financière Zhihui Finance, le fournisseur d'infrastructure cloud d'IA Nebius (NBIS.US) a annoncé l'acquisition de la start-up israélienne d'intelligence artificielle Inferize, renforçant ainsi ses capacités en matière d’infrastructure de calcul pour l'inférence IA. Inferize se concentre sur la réduction de l’inactivité des processeurs graphiques (GPU) et l’accélération du déploiement de grands modèles d’IA. D’après le média technologique israélien Calcalist, le montant de la transaction est estimé entre 100 et 150 millions de dollars, bien que Nebius n'ait pas révélé les détails financiers précis.

Le cœur de cette acquisition vise à améliorer l'efficacité d'utilisation des ressources GPU, en particulier lorsque la demande en inférence IA fluctue rapidement, permettant à Nebius d’allouer plus rapidement ses ressources de calcul et de réduire les périodes d’inactivité coûteuses de ses équipements de puissance de calcul.

Cibler le goulot d’étranglement de l’inférence IA et réduire le temps d’inactivité des GPU

La technologie centrale d’Inferize se concentre principalement sur le problème du « démarrage à froid » lors du déploiement de modèles d’IA. Le démarrage à froid fait référence au processus nécessaire de chargement du modèle et d’initialisation des ressources associées avant que le modèle d’IA ne commence à traiter les requêtes des utilisateurs. Lorsque de nouvelles instances d’inférence sont lancées, les GPU doivent parfois attendre la fin du chargement du modèle avant de pouvoir exécuter les calculs, ce qui entraîne une courte inactivité des ressources.

Ce problème se retrouve particulièrement accentué lors d’une hausse soudaine de la demande d’inférence IA. Lors d’un pic de requêtes utilisateurs, les fournisseurs de services cloud doivent lancer rapidement davantage d’instances d’inférence, mais si le chargement des modèles prend du temps, les nouvelles ressources GPU ne sont pas directement disponibles, ce qui affecte la rapidité de réponse du service et le niveau global d'utilisation de la puissance de calcul.

La technologie d'Inferize vise à raccourcir ce temps d’attente, permettant aux ressources d’inférence nouvellement ajoutées d’entrer en fonction plus rapidement et d’ajuster l’extension de la puissance de calcul de façon plus proche à la variation de la demande réelle.

Pour Nebius, cela signifie que l'entreprise pourra répondre aux attentes des clients de façon plus flexible, améliorer l’utilisation de son infrastructure existante, tout en évitant de devoir conserver durablement un grand nombre de GPU inactifs en tant que ressources de réserve.

Danila Shtan, directeur technique de Nebius, a indiqué que le fonctionnement efficace de services d’inférence IA requiert non seulement des GPU plus rapides et des modèles optimisés, mais aussi un système capable de réagir rapidement aux variations de la demande, en fournissant par exemple rapidement des capacités de calcul supplémentaires lorsque les besoins clients augmentent. Il précise qu’Inferize apporte non seulement la technologie pour accélérer ce processus, mais aussi une équipe d’ingénieurs très expérimentée dans le domaine des systèmes GPU.

Nebius prévoit d’intégrer les ingénieurs d’Inferize à l’équipe en charge des activités d’inférence ainsi que d’incorporer la technologie correspondante à sa plateforme d’inférence IA Token Factory, afin d’accroître la réactivité de la plateforme face à la demande client et de confier davantage de tâches de calcul réelles à l’infrastructure existante.

Shtan précise également que la contribution de l’équipe d’Inferize ne se limitera pas à cette première intégration technologique.

Réduire le coût des ressources de réserve et améliorer l’efficacité d’exploitation de l’infrastructure IA

Guy Bortnikov, cofondateur et PDG d’Inferize, déclare que, pour répondre à tout moment à la demande des clients, les fournisseurs de services cloud doivent maintenir une échelle significative de GPU de réserve, ce qui engendre des coûts supplémentaires du fait de la mise en veille de ces équipements de calcul. Il précise que la mission principale d’Inferize est justement de réduire ces coûts, et que rejoindre Nebius permettra d’appliquer directement leur technologie sur une plateforme cloud IA opérationnelle.

Dans les activités d’inférence IA, l'efficacité de la gestion des ressources de calcul est directement liée au coût d’exploitation de l’infrastructure. Etant donné que les GPU sont onéreux, le fait de devoir maintenir beaucoup de puissance de calcul inutilisée pour parer à d’éventuels pics de demande pourrait affecter le retour sur investissement global.

En réduisant le temps nécessaire au démarrage des modèles et en accélérant la mise en fonction des ressources de calcul, Nebius devrait pouvoir améliorer la flexibilité du service tout en diminuant sa dépendance aux capacités de GPU de réserve.

Il convient de noter que Bortnikov a également cofondé précédemment Granulate, une entreprise spécialisée dans l’optimisation logicielle de l’infrastructure de calcul. Cette société développe des technologies visant à améliorer le fonctionnement des ressources informatiques et a été acquise par Intel (INTC.US) en 2022. Ce parcours illustre l’expérience de l’équipe d’Inferize dans le domaine de l’optimisation des infrastructures de calcul.

Multiplication des acquisitions de sociétés d’IA : Nebius poursuit le renforcement de sa plateforme d’inférence

Cette acquisition d’Inferize s’inscrit dans une série d’opérations récentes menées par Nebius dans les domaines de l’inférence IA et de l’optimisation des modèles. Auparavant, Nebius avait bouclé le rachat d’Eigen AI pour 643 millions de dollars. De plus, la société a récemment acquis l’entreprise technologique Clarifai, sans toutefois révéler les détails financiers de cette opération.

Toutes ces acquisitions visent à renforcer les capacités de Nebius en matière d’inférence IA et d’optimisation de modèles, et à perfectionner encore l’offre d’infrastructure IA de l’entreprise.

Contrairement aux investissements en infrastructure principalement axés sur les exigences de calcul pour l’entraînement des modèles d’IA, l’inférence IA met davantage l’accent sur l'efficacité de fonctionnement des modèles en usage réel : rapidité de gestion des requêtes, allocation des ressources de calcul, déploiement des modèles et coût de la puissance informatique unitaire.

À mesure que Nebius intègre ces technologies, son positionnement évolue, passant de la simple fourniture de ressources GPU vers des solutions et services visant à accroître l’efficacité réelle de fonctionnement des modèles d’IA.

L’acquisition d’Inferize vient ainsi compléter les capacités de Nebius en matière d’allocation dynamique de puissance de calcul et de déploiement rapide de modèles. Toutefois, l’ampleur réelle des économies de coûts et des gains d’efficacité qui résulteront de l’intégration technologique reste à confirmer à la lumière des performances opérationnelles à venir.