La puce AMD MI450 personnalisée par Meta voit sa puissance de calcul réduite de moitié et sa mémoire considérablement diminuée, SemiAnalysis : c’est la tristesse de la culture d’entreprise de Meta.

Les séries d'erreurs de Meta dans le domaine de l'infrastructure IA révèlent, au prix de plusieurs milliards de dollars, des problèmes profonds au sein de sa culture organisationnelle.

Selon les dernières révélations du cabinet d'études sur l'industrie des puces, SemiAnalysis, Meta exige qu'AMD lui développe un MI450X personnalisé avec des caractéristiques considérablement réduites : l'unité de calcul divisée par deux, le nombre de couches de mémoire HBM réduit de 12 à 8, et la capacité mémoire diminuée d’environ deux tiers. SemiAnalysis qualifie directement cette décision de "catastrophique" et appelle publiquement AMD à contourner l’équipe infrastructure de Meta afin de négocier directement avec le super laboratoire d'intelligence Meta, TBD Lab, pour garantir l'achat de MI450X standard.

Ce n’est pas un cas isolé. SemiAnalysis souligne que, depuis le rachat de Rivos pour plus de 2,5 milliards de dollars, en passant par le serveur H100 sur mesure Grand Teton puis la solution customisée GB200 Ariel, l’équipe infrastructure de Meta démontre un schéma décisionnel systématiquement sur-ingénierisé, avec manque de co-conception hardware/software et une domination du politique à court terme sur la rationalité technique à long terme. "L'équipe infrastructure de Meta a besoin d’un renouveau culturel," écrit SemiAnalysis.

Le AMD MI450X est l’un des GPU les plus avancés du marché : gravure en 2 nm, technologie d'emballage hybride, empilement HBM4 sur 12 couches, et la plus grande taille de masque CoWoS du marché, représentant le summum actuel en densité de packaging et de stockage.

Or d'après SemiAnalysis, la version personnalisée commandée par Meta va réduire de moitié la surface de silicium pour le calcul, abaisser l'empilement HBM de 12-Hi à 8-Hi, comprimant ainsi simultanément puissance de calcul et bande passante mémoire, deux indicateurs-clés. L'équipe infrastructure de Meta justifie ce choix par la conception orientée charge de travail pour les systèmes de recommandation (RecSys), visant à augmenter le ratio de calcul CPU/GPU.

Le problème est que cette décision a été prise avant la création de TBD Lab, qui est le noyau de la recherche sur les modèles de Meta et n’a aucun intérêt pour cette puce. SemiAnalysis déclare clairement qu'en comparaison du Vera Rubin d'Nvidia, la MI450 customisée n'attire pas du tout le TBD Lab : "TBD penchera fortement pour Rubin". Cela signifie que les expéditions d’AMD chez Meta seront fortement impactées par ce choix.

SemiAnalysis s’adresse dans son rapport directement à AMD : "AMD doit intervenir et collaborer directement avec l’équipe TBD pour leur garantir le MI450 standard, et non cette version castrée sans aucune utilité pour la GenAI."

L'une des erreurs de décision emblématiques qui entachent l’équipe infrastructure de Meta est l'acquisition de Rivos pour plus de 2,5 milliards de dollars en 2024.

D’après SemiAnalysis, peu de membres chez Meta comprenaient vraiment la logique stratégique derrière ce rachat, et les instigateurs de la transaction se sont faits discrets par la suite. L’opinion générale : Meta dispose de fonds, la course à la puce customisée s’intensifie, Rivos dispose de droits de propriété intellectuelle déjà licenciés à Meta, donc la direction a décidé d'absorber l’ensemble de l’entreprise.

Mais la structure de la transaction porte déjà en elle le germe de problèmes. L’équipe fondatrice de Rivos a insisté pour une vente groupée de tous les collaborateurs. Meta a donc acheté toute la société, puis a procédé à des licenciements massifs de départements jugés inutiles. L’article cite un ancien membre du département chip de Meta, disant que le rachat était piloté par Yee Jiun Song, responsable du département silicon, qui a rencontré des résistances internes, mais dont l’intérêt a vite décliné après la conclusion de la transaction. Les managers actuels traitent les ingénieurs de Rivos comme de la "main d’œuvre gratuite", chacun les annexant à leurs équipes, tandis que l’organisation initiale de Rivos s’est rapidement dissoute.

Sur le plan technique, la valeur principale du rachat – l’IP GPU SIMT de Rivos – s'est évaporée avec l’abandon du projet de chip "Olympus" censé intégrer cette technologie. Le projet successeur "Phoebe" devrait être testé au mieux en 2028, mais SemiAnalysis reste sceptique quant à sa réussite.

La fuite des talents est aussi alarmante. Selon SemiAnalysis, environ 30% des employés Rivos ont quitté lors des licenciements récents ; le cofondateur Mark Hayter est parti, et plusieurs anciens de Rivos ont rejoint la startup chip Nuvacore fondée par Gerard Williams après la première attribution d’RSU en mai 2024. SemiAnalysis anticipe que le CEO et cofondateur Puneet Kumar pourrait quitter Meta dans l'année ou deux suivant la finalisation de la distribution de ses actions.

L’obsession de Meta pour la personnalisation n’est pas récente. Son serveur H100 customisé Grand Teton ajoutait un plateau de commutateur supplémentaire aux serveurs standard HGX, avec quatre commutateurs Broadcom PCIe, 16 SSD et huit cartes réseau, pour fournir à chaque serveur plus de stockage direct destiné à sauvegarder les checkpoints d’entraînement.

Mais après mise en production, les équipes modèles ont utilisé ces ressources de stockage bien moins qu'attendu et ce design a finalement été abandonné. SemiAnalysis souligne que cela illustre le manque de co-conception hardware/software : l’équipe infrastructure a payé le coût en matériel et en consommation d’une fonctionnalité peu exploitée, tout en accroissant la dépendance à Broadcom, contredisant l’intention initiale de réduire la dépendance à Nvidia sur le réseau.

À l'ère Blackwell, Meta poursuit cette logique avec son schéma customisé "Ariel". Sur le GB200 standard, chaque CPU Grace est couplée à deux GPU B200 ; Ariel modifie cela en couple un-à-un, réduisant le nombre de GPU de moitié. Motif : augmenter le ratio CPU/RecSys.

Les calculs de SemiAnalysis montrent que le coût total de possession (TCO) de la solution Ariel NVL36x2 est 14% supérieur à celui du GB200 NVL72 standard, mais les ressources CPU et DRAM supplémentaires ne sont pas utiles aux équipes de modèles. Le choix de connexion inter-racks pour compenser la baisse de GPU génère problèmes de latence et fiabilité. Et après, la carte dorsale NVL72, initialement jugée fragile, s’est consolidée, prouvant que Meta avait surestimé le risque.

SemiAnalysis indique que les serveurs Meta GB300 sont revenus à la configuration standard, rejetant donc implicitement la solution Ariel.

SemiAnalysis attribue ces problèmes à la culture organisationnelle de l’équipe infrastructure de Meta.

Le cabinet indique que le cycle d’évaluation de performance sur six mois chez Meta élimine à chaque fois les 10 à 15% des collaborateurs les moins performants, poussant les équipes à privilégier les résultats rapides et visibles au détriment des investissements technologiques de long terme. Certains managers misent sur des projets à forte visibilité qui peuvent être livrés vite, puis passent aussitôt à autre chose – cette pratique est surnommée "window washing" en interne. Dans le même temps, peu de gens osent contester les décisions des supérieurs, ce qui empêche de rectifier rapidement les erreurs.

L’équipe supply chain a peu de pouvoir en matière de décisions techniques, ce qui aggrave ces problèmes. Selon SemiAnalysis, certains fournisseurs donnent désormais la priorité à Amazon ou Google, n’accordant plus suffisamment d’attention aux nouveaux projets Meta à cause de ses changements fréquents de direction.

SemiAnalysis compare ce phénomène à l’expansion de Reality Labs chez Meta : avant les licenciements massifs, des milliards étaient investis dans d'immenses équipes et projets R&D. Aujourd’hui, alors que Meta commence à vendre de la puissance de calcul à des clients externes, le coût de cette culture interne apparaît plus directement sur le marché.