Que signifie l’« autorégulation de l’IA » de Trump ? Huang remporte une grande victoire, en coulisses il prend la tête pour interroger Anthropic Amodei

Le 30 septembre, Trump, accompagné d'une vingtaine de hauts dirigeants de l’IA, a quitté la Maison Blanche après un déjeuner dans la salle Est, pour annoncer aux journalistes un « Accord volontaire sur l’IA ».

Les signataires sont six entreprises : Anthropic, OpenAI, Google, Meta, xAI et Nvidia.

Trump a déclaré que ce texte « ressemble presque à une Constitution », et qu’il constitue « une forme de protection » pour faire face aux risques de l’IA. Cependant, selon le Financial Times, ce document de deux pages a été rédigé dans la précipitation dans la salle Est, au point de contenir même une faute d’orthographe.

Il est à noter qu’en apparence, il s’agit d’un document de deux pages sur la sécurité de l’IA, sans force juridique ; mais si l’on observe les exigences précises de l’accord, les alternatives écartées, ainsi que les récentes décisions produits de Nvidia, le message plus important est le suivant : la Maison Blanche et les grandes entreprises du secteur n’ont pas choisi de « ralentir l’IA », mais tentent plutôt d’intégrer les exigences de sécurité aux investissements croissants dans les infrastructures de l’IA.

Les exigences de « conformité sécuritaire », telles que les tests, l’audit et le monitoring de l’IA, nécessiteront davantage de puissance de calcul et engendreront de nouveaux besoins en matière d’inférence et d’interconnexion optique. Nvidia pourrait en être le grand gagnant. Jensen Huang s’est même allié à Mark Zuckerberg pour rejeter une régulation stricte, allant jusqu’à questionner Dario Amodei, PDG d’Anthropic, sur ses prises de parole publiques jugées excessivement alarmistes sur les risques de l’IA.

Que contient l’accord ?

Selon le texte original de l’accord, les six signataires doivent respecter trois obligations principales :

Premièrement, mettre en place un mécanisme de « contrôles et audits à plusieurs niveaux ». Concrètement, cela implique de déployer des systèmes de contrôle interne robustes, de surveiller en continu les menaces en cybersécurité et biosécurité émanant des modèles avancés, et de s’assurer que les modèles ne pénètrent pas « de manière inattendue » d’autres systèmes.

Deuxièmement, collaborer avec des organismes d’audit externes indépendants. Les signataires doivent accepter de se soumettre à des évaluations tierces pour vérifier l’efficacité réelle de leurs mesures de contrôle interne.

Troisièmement, créer un comité indépendant au niveau du conseil d’administration spécifiquement chargé de superviser les deux mécanismes ci-dessus.

Ces trois obligations mènent à une conséquence commune : chaque lancement de modèle doit passer par un cycle complet de tests, de monitoring et de vérification externe.

En quoi cela apporte-t-il réellement de la nouveauté ?

En réalité, très peu.

Selon les rapports, Anthropic, OpenAI et Google DeepMind réalisaient déjà des évaluations des capacités de leurs modèles avancés avant publication. Sauf Nvidia, toutes les autres entreprises avaient d’ailleurs signé des promesses similaires après le sommet de l’IA de Séoul en 2024. Les médias notent que « cet accord pourrait forcer certains signataires qui n’avaient pas encore ouvert l’accès à des évaluations indépendantes – notamment Nvidia – à s’aligner sur ces exigences d’audit externe. En d’autres termes, l’impact est limité pour les laboratoires leaders, mais impose de nouvelles contraintes aux autres entreprises. »

L’avis de Mackenzie Arnold, directrice générale pour la politique juridique américaine chez LawAI, est sans détour : « C’est surtout un effet d’affichage. Il n’accorde à aucun organisme… le pouvoir d’établir des standards contraignants. »

De plus, l’accord n’a aucune force juridique. Trump lui-même le qualifie « d’obligation morale » – ce qui en dit long.

Les critiques sont plus tranchés. Sacha Haworth, du Tech Oversight Project, déclare que cet accord permet aux CEO de « s’auto-évaluer et d’éviter de véritables garde-fous pour la sécurité de l’IA ».

Cependant, l’avocat conservateur Joel Thayer avance un autre point de vue : « On ne peut pas affirmer publiquement que l’on fera quelque chose et ne pas le faire dans les faits. C’est tromper les consommateurs. » Il a également remarqué la présence du président de la Federal Trade Commission (FTC), Andrew Ferguson, lors du déjeuner. « Ces promesses publiques… relèvent tout à fait du champ d’application de la FTC. »

Dès le lendemain de la publication de l’accord, la FTC a étendu son enquête sur les entreprises d’IA, incluant notamment Anthropic et OpenAI.

« Sécurité » ne signifie pas « ralentir » : voilà la réelle victoire de Jensen Huang

Le réflexe du marché face à la « régulation sécuritaire » est généralement de tabler sur un ralentissement – logique voulant que les tests ralentissent les lancements, ce qui réduirait la demande en puissance de calcul.

Luke Lango, analyste chez InvestorPlace, pense que cette logique s’inverse. L’accord de la Maison Blanche ne demande pas aux entreprises de ralentir le développement de leurs modèles, mais met l’accent sur l’évaluation interne, l’audit externe et la gestion des risques.

Ainsi, la « sécurité de l’IA » se traduit, à l’échelle de la filière, par une autre lecture : le mécanisme de sécurité peut signifier plus de tests, de monitoring et d’exécution des modèles, sans pour autant réduire la consommation de ressources de calcul. Si chaque lancement de modèle implique un cycle obligatoire de tests, de surveillance et de contrôle croisé, la « conformité sécuritaire » devient alors une dépense récurrente en calcul, et non un frein à l’investissement.

Le 28 septembre, Nvidia et plus de cent partenaires ont lancé l’Open Agent Safety Platform, qui combine le contrôle d’accès open source et une couche de monitoring indépendante fonctionnant sur des puces séparées – une couche permettant de surveiller l’IA sans l’intégrer dans le système lui-même. La position de Jensen Huang est simple : le potentiel de l’IA ne peut être réalisé que si la sécurité et les capacités évoluent de pair.

Nvidia s’est engagé à investir deux milliards de dollars dans l’entreprise optique Lumentum pour accroître sa capacité et renforcer la R&D en optique pour centres de données – une démarche concrète qui traduit directement le discours sur la sécurité en contrats matériels.

Lango souligne en outre une transformation de la structure de la demande : le passage du pré-apprentissage intensif en GPU vers les phases d’inférence et de test. Ces phases reposent davantage sur l’efficacité des transferts de données et sur la gestion multi-tâches que sur la puissance brute. Il anticipe que cette mutation dominera l’évolution de la demande sur les 6 à 12 prochains mois.

Selon Lango, l’auto-régulation ne mettra pas fin au cycle de dépenses de capital de l’IA ; elle changera simplement la destination des investissements – d’abord pour le pré-apprentissage GPU, puis pour les phases d’inférence, de test et les infrastructures d’interconnexion. Comme l’a déclaré Amodei après la réunion, les mécanismes précis de gestion des risques « restent à définir ».

Trois segments bénéficiaires selon Lango :

Marvell : spécialisé dans l’interconnexion de réseaux de centres de données.

Arm : en mars de cette année, sortie de sa première puce AGI CPU, intégrant jusqu’à 136 cœurs Neoverse V3, fabriquée en 3 nm par TSMC ; Arm indique que les performances par rack dépassent deux fois celles des plateformes x86.

Lumentum : spécialiste de l’interconnexion optique de centres de données. Avec la multiplication des GPU et la hausse de la densité de communication, les data centers accélèrent le passage du cuivre à l’optique.

Les affrontements en coulisses : Jensen Huang remet Amodei à l’ordre du jour

Devant les caméras, chaque CEO se tenait aux côtés de Trump, affichant une unité sectorielle.

En coulisses, ce fut plus frontal.

Selon le Wall Street Journal, après le déjeuner, lors d’une réunion restreinte dans la salle Roosevelt, plusieurs dirigeants – dont Jensen Huang, CEO de Nvidia – ont directement demandé à Dario Amodei, CEO d’Anthropic : pourquoi tenir publiquement des propos aussi alarmistes sur les capacités et les risques de l’IA ?

La réponse d’Amodei : il est important d’informer honnêtement le public sur les capacités des modèles, sans minimiser les risques.

Cette discussion a eu lieu alors que les dirigeants et les conseillers de la Maison Blanche arrêtaient ensemble les principes de l’accord.

Amodei avait à plusieurs reprises critiqué publiquement la Maison Blanche et ses concurrents pour avoir minimisé les questions de sécurité, avertissant que l’IA pouvait être utilisée pour lancer des cyberattaques ou provoquer du chômage massif – ce qui a fait de lui une cible à Washington comme dans la Silicon Valley.

Lors du déjeuner, alors qu’Amodei soulevait à nouveau des préoccupations de sécurité, la réponse de Mark Zuckerberg fut claire : la meilleure manière d’y répondre est de faire appliquer ces principes, collectivement, au niveau de l’industrie.

Zuckerberg et Jensen Huang : véritables artisans de l’accord

Ce déjeuner à la Maison Blanche n’est pas le fruit du hasard.

Selon le Wall Street Journal, l’origine réside dans un dîner d’État de la semaine précédente – où Zuckerberg s’est retrouvé assis à côté du Speaker de la Chambre, Mike Johnson ; ils ont alors discuté de la politique de l’IA. Ensuite, Zuckerberg et Jensen Huang ont commencé à organiser la coordination entre les CEO, tandis que Trump et Johnson planifiaient le déjeuner.

Zuckerberg a joué un rôle décisif dans la finalisation de cet accord, multipliant les échanges avec Trump et le secrétaire au Commerce, Howard Lutnick, qui supervise une division gouvernementale clé en matière de tests IA.

Avec Jensen Huang, il a également orchestré un événement majeur : le rejet du modèle de régulation stricte.

Cet été, Anthropic, OpenAI et Google avaient proposé un dispositif d’autorégulation sectorielle, inspiré du FINRA (Financial Industry Regulatory Authority). Mais selon des rapports antérieurs, Zuckerberg, Jensen Huang et Elon Musk ont fait valoir auprès de Trump qu’un tel système renforcerait trop le pouvoir des grandes entreprises de l’IA ; le projet a alors été abandonné.

Au final, c’est donc un accord volontaire, plus souple et allégé, qui a vu le jour.

Fait notable, le projet FINRA rejeté comportait des dispositifs proches de ceux présents dans l’accord final – notamment des processus internes robustes d’examen et de test externe. Les deux modèles se ressemblent techniquement, la vraie divergence portant sur : à qui revient le contrôle du dispositif. Le choix de Jensen Huang et Zuckerberg est clair : à l’industrie elle-même.

La situation d’Anthropic : entre restauration des relations et préparation à l’introduction en bourse

Amodei a déclaré aux journalistes ce jour-là : « Si l’industrie et le gouvernement collaborent, nous pouvons gagner la bataille de la sécurité. » Trump l’a félicité : « Il est formidable. » Les deux venaient de dîner à la Maison Blanche, c’était leur première rencontre en personne.

Mais la situation d’Anthropic reste délicate.

D’après les médias, la société prépare son introduction en bourse, visant une valorisation d’environ 2 000 milliards de dollars. Parallèlement, elle a connu récemment deux conflits ouverts avec le gouvernement : deux modèles déconnectés plus de deux semaines pour raisons de sécurité, et son placement sur liste noire du Pentagone pour leur utilisation dans le domaine militaire de l’IA.

Le contexte immédiat de l’accord est précisément la série d’attaques de réseaux IA ayant suivi la sortie des modèles d’Anthropic, tels que Mythos.