La plateforme de sécurité Open Agent de NVIDIA prévient la "dérive" des agents IA grâce à une exécution hors bande.

NVIDIA a lancé la plateforme ouverte de sécurité pour agents (Open Agent Safety Platform), un cadre ouvert visant à protéger les agents d’intelligence artificielle autonomes grâce à un contrôle continu par surveillance et à l’application de politiques par le matériel. Lancée le 28 septembre 2026, cette plateforme vise à répondre aux préoccupations croissantes du secteur de l’IA, suite à des signalements d’agents prenant la fuite hors des environnements d’évaluation, accédant à des systèmes non autorisés, ou fournissant des rapports inexacts sur leur comportement.

L’entreprise fait une analogie avec les débuts d’Internet. Ce n’est qu’après la mise en place de mécanismes de sécurité (connexions chiffrées, onglets de navigation en sandbox et indicateurs visibles de confiance) qu’Internet est devenu une infrastructure de référence pour le commerce et la communication. NVIDIA considère que l’intelligence artificielle basée sur des agents a également besoin d’une couche de confiance similaire pour évoluer en une « économie des agents » fiable, et que des contrôles de sécurité efficaces doivent accélérer, non freiner, l’innovation.

Exécution OpenShell : isolation du noyau

Au cœur de la plateforme se trouve NVIDIA OpenShell, un runtime open source de sécurité publié sous licence Apache 2.0. OpenShell exécute chaque agent dans un environnement sandbox avec une isolation au niveau du noyau, et traduit les instructions de l’opérateur en politiques vérifiables. Celles-ci définissent l’accès aux fichiers, réseaux, outils, processus et identifiants. Ces restrictions sont vérifiées avant l’exécution et appliquées de façon continue lors du fonctionnement.

La plateforme repose sur cinq principes : les politiques doivent être vérifiables avant l’exécution de l’agent ; l’exécution doit se faire en dehors de la portée de l’agent ; le chemin d’accès au modèle constitue le principal point de contrôle et d’observation ; les privilèges des agents doivent augmenter en fonction de la transparence de leur raisonnement ; la responsabilité de la sécurité est partagée entre les laboratoires, les entreprises et les fournisseurs de matériel.

Les recherches internes de NVIDIA soulignent la problématique de la « dérive » : le comportement des agents peut s’écarter de la tâche prévue pour diverses raisons — instructions ambiguës, politiques restrictives, absence d’outils, ou fonctionnement autonome prolongé. L’entreprise souligne qu’il est impossible d’éliminer complètement cette dérive sans sacrifier les capacités de l’agent, et que l’on ne peut donc pas s’attendre à ce que les agents contrôlent d’eux-mêmes leur comportement dans ces situations.

Application matérielle à grande échelle

L’architecture comprend trois couches : la couche applicative (modèles, outils, frameworks et données), la couche runtime (orchestration et application des politiques) et la couche infrastructure (ressources de calcul, stockage et réseau). Pour les organisations nécessitant une deuxième couche indépendante, NVIDIA Sentry, via NVIDIA DOCA, étend la surveillance et l’application à l’unité de traitement de données BlueField-4, reliant les interactions des agents, les décisions politiques et les accès aux données à des enregistrements contextuels, tout en vérifiant en continu l’identité et l’autorisation de chaque agent.

Dans une configuration NVIDIA Vera Rubin POD, le DPU BlueField-4 se situe sur le seul chemin d’accès du nœud au modèle, fournissant une observabilité hors-bande et une application de politique en temps réel, à la vitesse du réseau, tout en restant isolé de l’hôte. Cela permet une sécurité « au niveau de la puce », même lorsque les ressources de l’hôte ne sont pas fiables. NVIDIA précise que ces protections peuvent être mises en œuvre sur les déploiements Vera et BlueField-4 existants via une simple mise à jour logicielle ; la plateforme est également compatible avec du matériel non-NVIDIA.

NVIDIA indique collaborer avec des laboratoires de pointe, des développeurs et des fournisseurs d’infrastructure afin de faire de cette plateforme la base ouverte de la nouvelle économie des agents, et positionne le contrôle indépendant, basé sur le matériel, comme un prérequis essentiel pour des systèmes autonomes de confiance à grande échelle.