Nvidia: dalla formazione "una tantum" dei grandi modelli all'Agent del "miglioramento post-formazione", la domanda di potenza di calcolo sta cambiando

Nvidia sta ampliando la proposta di valore della prossima generazione della piattaforma Vera Rubin, spostando il focus dal costo dell'inferenza all'efficienza dell’addestramento dei modelli, puntando su un nuovo indicatore, “intelligenza per dollaro” (intelligence per dollar), scommettendo che nell’era dell’AI agentica il post-addestramento diventerà la richiesta di calcolo più centrale.

Nvidia, nel suo blog ufficiale, spiega che con l’ascesa dell’AI agentica (Agentic AI), il post-addestramento dei modelli è passato dall’essere una fase finale occasionale a un carico di lavoro fondamentale e ciclico. Diversamente dai modelli generativi tradizionali, i modelli agentici devono pianificare, utilizzare strumenti e correggere autonomamente gli errori durante l’esecuzione; l’ambiente in cui operano può cambiare ogni settimana, portando a una domanda di calcolo post-addestramento in costante crescita. Nvidia dichiara che la piattaforma Vera Rubin è stata progettata specificamente per questo tipo di carico di lavoro collaborativo e, durante l’addestramento dei modelli di massima scala, richiede solo un quarto delle GPU rispetto alla piattaforma Blackwell di generazione precedente.

Questa dichiarazione riguarda direttamente la logica di vendita della potenza di calcolo da parte di Nvidia: un ciclo di post-addestramento senza fine indica che la domanda di cluster GPU da parte dei clienti passerà da progetti occasionali a una normalità, espandendo di conseguenza il mercato potenziale. Aziende come Prime Intellect, Perplexity e Together AI, che già eseguono carichi di lavoro di post-addestramento sulle piattaforme Nvidia, hanno tutte manifestato l’intenzione di migrare o espandersi verso la piattaforma Vera Rubin.

Il post-addestramento diventa il motore centrale della potenza di calcolo nell’era degli agenti intelligenti

Nvidia nel blog fornisce una spiegazione sistematica della posizione strategica del post-addestramento. La fase di pre-addestramento conferisce al modello fluidità linguistica, mentre la vera “intelligenza”—che comprende la scrittura di codice, la pianificazione di task multi-step, l’uso di strumenti di ricerca e il recupero dagli errori—si sviluppa nel post-addestramento.

Il post-addestramento utilizza tecniche di Reinforcement Learning (RL): il modello genera tentativi per un compito assegnato (propagazione in avanti), che vengono valutati e i pesi del modello vengono aggiornati di conseguenza (backpropagation). Dopo milioni di iterazioni, le capacità del modello migliorano progressivamente. Nvidia sottolinea che questo processo richiede una notevole quantità di potenza di calcolo, con migliaia di ambienti che generano rollout in parallelo, mantenendo gli acceleratori al massimo carico.

Nvidia posiziona “intelligenza per dollaro” come un indicatore superiore rispetto al “costo per token”: il primo misura l’efficienza operativa delle factory di inferenza, mentre il secondo valuta se l’investimento per costruire e mantenere un modello degno di deploy sia sostenibile. I due si intrecciano: riducendo il costo per token si riduce anche il costo per costruire l’intelligenza del modello, mentre una maggiore intelligenza aumenta il valore generato da ogni token.

Nemotron Ultra fornisce benchmark di post-addestramento verificabili

A sostegno di tali dichiarazioni, Nvidia ha reso noti i dettagli del post-addestramento del proprio modello open weight Nemotron 3 Ultra. Questo modello conta 550 miliardi di parametri, adotta un’architettura Mixture of Experts (MoE) e l’intero processo di post-addestramento viene eseguito nel framework NeMo RL.

Nel test reale di programmazione SWE-bench Verified, il Nemotron 3 Ultra ha ottenuto un punteggio del 71,7%, ovvero circa sette problemi su dieci provenienti da progetti open source vengono risolti con proposte in grado di superare i test nativi del progetto stesso. Nvidia sottolinea che questi benchmark sono verificabili e il processo di post-addestramento è completamente open source.

Nvidia evidenzia inoltre che la piattaforma Blackwell, abbassando il costo per singola esecuzione, ha reso economicamente sostenibile l’elevata frequenza di post-addestramento richiesta nell’era agentica, mentre la piattaforma Vera Rubin estenderà ulteriormente questa traiettoria—supportando ancora più rollout, più ambienti paralleli e cicli di post-addestramento senza interruzioni.

I principali clienti confermano le capacità della piattaforma, emergono i piani di migrazione

Diverse aziende che già eseguono carichi di lavoro di post-addestramento sulle piattaforme Nvidia hanno condiviso dettagli tecnici specifici, esprimendo l’intenzione di migrare verso Vera Rubin.

Prime Intellect continua ad eseguire il post-addestramento dei modelli open-source più avanzati sulla piattaforma Blackwell, orchestrando l’inferenza tramite NVIDIA Dynamo. L’azienda ha integrato la sua infrastruttura sandbox con NVIDIA Vera CPU; in test comparativi con architettura x86, Vera CPU registra una throughput media superiore del 30% sotto carichi di lavoro RL reali. Prime Intellect prevede di sfruttare Vera Rubin per espandere la scala degli ambienti di reinforcement learning e accelerare il ciclo iterativo da addestramento a inferenza.

Lo stack di post-addestramento RL di Perplexity opera asincronamente su centinaia di GPU Nvidia; il suo motore di trasferimento pesi basato su RDMA consente la sincronizzazione di un modello da un trilione di parametri tra nodi di addestramento e inferenza in soli due secondi. Il modello Qwen3 235B post-addestrato viene quindi distribuito sui sistemi NVIDIA GB200 NVL72.

Together AI offre capacità di post-addestramento “as a service”, coprendo fine-tuning supervisionato, reinforcement learning e direct preference optimization, il tutto tramite API e SDK. Attualmente questo servizio opera su piattaforme Nvidia e l’azienda dichiara di voler integrare la piattaforma Vera Rubin.