Nvidia: Von „einmaligem Training“ großer Modelle zu „nachträglicher Verbesserung“ durch Agenten – der Bedarf an Rechenleistung verändert sich

Nvidia erweitert den zentralen Wert des nächsten Vera Rubin-Plattform-Angebots von den Kosten der Inferenz auf die Effizienz des Modelltrainings und setzt auf die neue Kennzahl "Intelligenz pro Dollar" (intelligence per dollar), um darauf zu wetten, dass das nachgelagerte Training in der Ära der Agentic AI der zentrale Bedarf an Rechenleistung bleibt.

Nvidia erläutert in seinem offiziellen Blog, dass mit dem Aufkommen von Agentic AI das nachgelagerte Training von einem einmaligen Abschluss zu einer fortlaufenden, zyklischen Kern-Workload geworden ist. Im Unterschied zu traditionellen generativen Modellen müssen Agentic-Modelle planen, Tools einsetzen und eigenständig Fehler während der Laufzeit korrigieren. Die Umgebung kann sich wöchentlich ändern – dies führt dazu, dass der Bedarf an Rechenleistung für das nachgelagerte Training kontinuierlich steigt. Nvidia gibt an, dass die Vera Rubin-Plattform speziell für diesen Workload entwickelt wurde und beim Training von Modellen im größten Maßstab nur ein Viertel der GPU-Anzahl der Vorgängergeneration Blackwell benötigt.

Diese Darstellung hat direkte Auswirkungen auf Nvidias Verkaufslogik für Rechenleistung: Der nachgelagerte Trainingszyklus hört niemals auf, was bedeutet, dass die Kundennachfrage nach GPU-Clustern sich von Projekten hin zu einem Normalbetrieb wandelt – das potenzielle Marktvolumen vergrößert sich entsprechend. Unternehmen wie Prime Intellect, Perplexity und Together AI, die bereits nachgelagerte Trainingsloads auf Nvidia-Plattformen ausführen, haben angekündigt, auf die Vera Rubin-Plattform umzuziehen oder diese zu erweitern.

Das nachgelagerte Training wird zur Kernantriebskraft der Agentic-Ära

Nvidia erläutert im Blog systematisch die strategische Bedeutung des nachgelagerten Trainings. Das Pre-Training verleiht dem Modell Sprachfluss, während die eigentliche "Intelligenz" – wie Programmierung, Planung mehrstufiger Aufgaben, Einsatz von Suchwerkzeugen und Fehlerbehebung – im nachgelagerten Training entsteht.

Das nachgelagerte Training nutzt Reinforcement Learning (RL): Das Modell generiert Versuche für eine Aufgabe (Vorwärtsdurchlauf), diese werden bewertet und die Modellgewichte werden anschließend angepasst (Rückwärtsdurchlauf). Nach Millionen von Iterationen verbessert sich die Modellleistung schrittweise. Nvidia betont, dass dieser Prozess extrem rechenintensiv ist: Tausende Umgebungen müssen parallel Rollouts generieren, und die Beschleuniger werden dauerhaft ausgelastet.

Nvidia positioniert "Intelligenz pro Dollar" als übergeordnete Kennzahl gegenüber "Kosten pro Token": Erstere misst die Effizienz des Betriebs einer Inferenzfabrik, letztere dagegen, ob der Aufbau und die fortlaufende Wartung eines einsatzbereiten Modells kosteneffizient ist. Beide Kennzahlen sind ineinander eingebettet — geringere Kosten pro Token senken auch die Kosten für die Modellintelligenz, während höhere Modellintelligenz den Wert jedes einzelnen Tokens steigert.

Nemotron Ultra liefert verifizierbare Benchmarks für nachgelagertes Training

Um die oben genannten Aussagen zu stützen, gibt Nvidia Details zum nachgelagerten Training des offenen Modells Nemotron 3 Ultra bekannt. Dieses Modell umfasst 550 Milliarden Parameter und nutzt eine Mixture-of-Experts (MoE)-Architektur, wobei das nachgelagerte Training vollständig auf dem NeMo RL-Framework läuft.

Im SWE-bench Verified, einem Benchmark-Testszenario für echte Programmieraufgaben, erzielt Nemotron 3 Ultra 71,7 %, das heißt, bei echten Fehlern aus Open-Source-Projekten liefert das Modell bei etwa sieben von zehn Fehlern eine gültige Reparaturlösung, die vom projektspezifischen Test bestanden wird. Nvidia erklärt, dass diese Benchmark-Ergebnisse validierbar und das nachgelagerte Trainingsverfahren vollständig öffentlich sind.

Nvidia betont zudem, dass die Blackwell-Plattform durch die Senkung der Kosten für einzelne Läufe das nachgelagerte Training mit hoher Frequenz in der Agentic-Ära wirtschaftlich möglich macht, und die Vera Rubin-Plattform diese Entwicklung weiter vorantreibt – sie unterstützt mehr Rollouts, mehr parallele Umgebungen und einen ununterbrochenen Trainingszyklus.

Leistungsfähige Kunden validieren die Plattform, Migrationspläne werden konkret

Mehrere Unternehmen, die bereits nachgelagerte Trainingsloads auf Nvidia-Plattformen ausführen, haben technische Details offen gelegt und ihre Absicht zum Umzug auf Vera Rubin bekundet.

Prime Intellect führt fortlaufend nachgelagertes Training für moderne offene Modelle auf der Blackwell-Plattform durch und orchestriert Inferenz mit NVIDIA Dynamo. Das Unternehmen hat sein Sandbox-Infrastruktur mit NVIDIA Vera CPU integriert; in Vergleichstest mit x86-Architektur erzielt die Vera CPU bei echten RL-Sandbox-Workloads eine durchschnittliche Durchsatzsteigerung von 30 %. Prime Intellect plant, mit Vera Rubin die Skalierung von Reinforcement-Learning-Umgebungen zu erhöhen und den Trainings-Inferenz-Zyklus zu beschleunigen.

Perplexitys RL-Trainingstack läuft asynchron über Hunderte von Nvidia-GPUs. Die auf RDMA basierende Gewichtstransfer-Engine synchronisiert Billionen-Parameter-Modelle zwischen Trainings- und Inferenzknoten innerhalb von zwei Sekunden. Das nachgelagerte Qwen3 235B-Modell wird anschließend auf dem NVIDIA GB200 NVL72-System bereitgestellt.

Together AI stellt nachgelagerte Trainingsfunktionalitäten als Service zur Verfügung, inklusive Supervised Fine-Tuning, Reinforcement Learning und direkter Präferenzoptimierung, und liefert diese über API und SDK. Der Service läuft derzeit auf Nvidia-Plattformen und Together AI strebt die Integration der Vera Rubin-Plattform an.