Specjalna wersja chipu AMD MI450 od Meta z o połowę mniejszą mocą obliczeniową i znaczną redukcją pamięci, SemiAnalysis: To smutny rezultat kultury korporacyjnej Meta

Meta popełnia serię błędów decyzyjnych w obszarze infrastruktury AI, co ujawnia głębokie problemy kultury organizacyjnej i kosztuje dziesiątki miliardów dolarów.

Zgodnie z najnowszymi informacjami od branżowego instytutu badawczego SemiAnalysis, Meta żąda od AMD dostosowania chipu MI450X do ich potrzeb — poprzez znaczące ograniczenie jego specyfikacji: liczba jednostek obliczeniowych zostanie zredukowana o połowę, liczba warstw pamięci HBM zejdzie z 12 do 8, a pojemność pamięci skurczy się niemal o dwie trzecie. SemiAnalysis określiło tę decyzję jako „katastrofalną” i otwarcie wezwało AMD do pominięcia zespołu infrastrukturalnego Meta i bezpośredniego kontaktu z należącym do Meta superlaboratorium AI TBD Lab, by tam wdrożyć standardową wersję MI450X.

To zdarzenie nie jest odosobnione. SemiAnalysis podkreśla, że począwszy od wartej ponad 2,5 miliarda dolarów akwizycji Rivos, przez niestandardowe serwery H100 Grand Teton, aż po spersonalizowany projekt GB200 Ariel, zespół infrastrukturalny Meta konsekwentnie cechuje się nadmierną inżynierią, brakiem współprojektowania softu i hardu oraz polityką krótkoterminową, której priorytet jest stawiany ponad technologiczną racjonalność w długim horyzoncie czasowym. „Zespół infrastrukturalny Meta potrzebuje zmiany kultury,” napisała SemiAnalysis.

AMD MI450X jest jednym z najbardziej zaawansowanych GPU dostępnych na rynku: technologia 2nm, łączenie hybrydowe, 12 warstw pamięci HBM4 oraz największy rozmiar maski CoWoS, co stanowi obecny szczyt technologii obudowywania i gęstości pamięci.

Jednak według SemiAnalysis, zamówiona przez Meta wersja niestandardowa będzie miała zmniejszoną powierzchnię krzemu obliczeniowego o połowę oraz HBM zejdzie z 12-Hi do 8-Hi, co oznacza jednoczesne zmniejszenie kluczowych parametrów obliczeniowych i przepustowości pamięci. Zespół infrastrukturalny Meta argumentuje, że taka konfiguracja jest projektowana z myślą o obciążeniu recsys i ma zwiększyć proporcję obliczeń CPU do GPU.

Problem polega na tym, że decyzja ta została podjęta przed powstaniem TBD Lab, która jest głównym zespołem badawczym modeli AI w Meta i nie wykazuje żadnego zainteresowania tym chipem. SemiAnalysis jasno wskazuje, że w porównaniu z Vera Rubin od Nvidia, „okrojony” MI450 nie jest atrakcyjny dla TBD Lab — „TBD silnie preferuje Rubin”. Oznacza to, że dostawy AMD dla Meta będą poważnie ograniczone przez tę decyzję.

SemiAnalysis w raporcie wyjątkowo zwraca się bezpośrednio do AMD: „AMD musi interweniować i bezpośrednio współpracować z zespołem TBD, zapewniając im normalną wersję MI450, zamiast tej okrojonej wersji bez wartości dla GenAI.”

Kolejnym klasycznym przykładem błędnych decyzji infrastrukturalnych Meta jest przejęcie Rivos w 2024 roku za ponad 2,5 miliarda dolarów.

Według SemiAnalysis, wewnątrz Meta niewiele osób naprawdę rozumiało logikę strategiczną tej transakcji; osoby, które ją przeforsowały, teraz milczą. Powszechna opinia: Meta ma dużo pieniędzy, wyścig w customowych chipach nabiera tempa, wcześniej licencjonowano IP Rivos, więc zarząd zdecydował się na pełną akwizycję całej firmy.

Jednak struktura transakcji sama w sobie niesie pułapki. Założyciele Rivos domagali się sprzedaży całej załogi, więc Meta musiała kupić całą firmę, a następnie masowo zwalniać niepotrzebne działy. Według relacji byłych pracowników działu chipów w Meta, przejęcie prowadził szef krzemu Meta Yee Jiun Song, napotykając na opór wewnętrzny, lecz po zakończeniu transakcji stracił zainteresowanie. Obecni menedżerowie chipów traktują inżynierów Rivos jak „darmową siłę roboczą”, przypisując ich do własnych zespołów, co szybko rozłożyło dawną strukturę.

Pod względem technologicznym kluczowa wartość przejęcia — GPU SIMT IP firmy Rivos — zmarnowała się wraz ze skasowaniem projektu „Olympus”, który miał wykorzystywać tę technologię. Projektem zastępczym jest „Phoebe”, którego tape-out przewidziano najwcześniej na 2028 rok, lecz SemiAnalysis zaznacza, że szanse powodzenia są niepewne.

Utrata personelu jest również znacząca. SemiAnalysis informuje, że około 30% pracowników Rivos opuściło firmę w ostatnich zwolnieniach, współzałożyciel Mark Hayter już odszedł, a kilku byłych pracowników Rivos po pierwszej turze RSU przyznanych w maju tego roku dołączyło do chipowego startupu Nuvacore założonego przez Gerarda Williamsa. Ponadto, prezes i współzałożyciel Rivos, Puneet Kumar, prawdopodobnie odejdzie rok czy dwa lata po pełnym przyznaniu udziałów Meta.

Paranoja Meta wokół customizacji nie jest niczym nowym. Niestandardowe serwery H100 Grand Teton bazujące na HGX mają dodatkową tacę switcha z czterema Broadcom PCIe, 16 SSD i ośmioma kartami sieciowymi, by dostarczyć więcej bezpośredniej pamięci — do zachowania checkpointów treningowych.

Jednak po wdrożeniu modelowe zespoły wykorzystywały te zasoby w znacznie mniejszym stopniu niż zakładano, przez co projekt został porzucony. SemiAnalysis podkreśla, że to typowy przykład braku współprojektowania hardware i software w Meta: zespół infrastruktury ponosi wyższe koszty materiałów i zużycia energii na funkcje, które nie są używane, oraz zwiększa zależność od Broadcom, czego Meta pierwotnie chciała uniknąć, starając się ograniczyć uzależnienie od sprzętu sieciowego Nvidia.

W erze Blackwell, niestandardowy projekt Meta „Ariel” powiela ten schemat. Standard GB200 przewiduje dla każdego procesora Grace dwa GPU B200, natomiast Ariel zmienia to na konfigurację jeden do jednego, o połowę mniej GPU. Podobnie jak wcześniej, argumentem jest zwiększenie udziału CPU pod obciążenie recsys.

Szacunki SemiAnalysis pokazują, że całkowity koszt posiadania (TCO) rozwiązania Ariel NVL36x2 jest o 14% wyższy niż standardowego GB200 NVL72, a dodatkowe CPU i DRAM są akurat niepotrzebne zespołowi od wielkich modeli. By zrekompensować zmniejszoną liczbę GPU, wdrożono połączenia między-rackowe, co zwiększyło opóźnienia sieciowe i problemy z niezawodnością. Tymczasem pierwotnie uznawany za niestabilny backplane NVL72 stopniowo się ustabilizował — Meta pomyliła się w ocenie ryzyka technicznego.

SemiAnalysis zaznacza, że Meta wraca obecnie do standardowej konfiguracji serwerów GB300 — to samo w sobie jest negacją projektu Ariel.

SemiAnalysis przypisuje powyższe problemy kulturze organizacyjnej zespołu infrastruktury Meta.

Instytut podkreśla, że Meta prowadzi sześciomiesięczne cykle ocen pracowniczych, w których co rundę eliminowane jest 10-15% najgorszych pracowników, co sprawia, że zespół skupia się na widocznych, szybkich efektach, zamiast na długoterminowej strategii technologicznej. Niektórzy menedżerowie preferują promowanie szybkich, medialnych projektów, które po dostarczeniu są porzucane — zwane wewnątrz „window washing”. Jednocześnie mało kto jawnie kwestionuje decyzje przełożonych, przez co błędy nie są korygowane w porę.

Zespoły zaopatrzenia mają niewielki wpływ na decyzje inżynierskie, co pogłębia powyższe problemy. SemiAnalysis stwierdza, że niektórzy dostawcy z uwagi na zmienność kierunku Meta ograniczyli priorytet nowych projektów Meta, stawiając wyżej zamówienia Amazon czy Google.

SemiAnalysis porównuje tę sytuację do ekspansji Reality Labs pod Meta — zanim doszło do dużych zwolnień, dziesiątki miliardów dolarów zostały wydane na wielkie zespoły inżynieryjne i projekty badawcze. Obecnie, gdy Meta zaczyna sprzedawać moc obliczeniową zewnętrznym klientom, koszty wewnętrznej kultury będą jeszcze bardziej jawnie ujawnione na rynku.