La carenza di GPU non è ancora finita, ora anche le CPU potrebbero essere prese d'assalto

Il 31 maggio 2026, Nvidia ha annunciato che una CPU con 88 core personalizzati è entrata nella fase di produzione di massa. Si chiama Vera ed utilizza l’architettura Arm e i core Olympus sviluppati da Nvidia. Vera sarà utilizzata sia nella piattaforma di supercalcolo Vera Rubin che come CPU autonoma nei server. Aziende come Dell, HP, Lenovo, Supermicro e diversi produttori di server hanno già iniziato a costruire sistemi che integrano Vera.

Nvidia descrive Vera come “la prima CPU progettata per gli agenti AI”.Vera formerà una piattaforma con la GPU Rubin e potrà essere utilizzata anche in server CPU autonomi.Dopo molti anni, Nvidia, nota per la vendita di GPU, torna a vendere potenza di calcolo CPU separatamente, un’iniziativa che sembra insolita.

Immagine: Nvdia Vera (Fonte: Nvdia)

Negli ultimi tre anni, le preoccupazioni hardware nell’industria AI si sono concentrate quasi esclusivamente sulle GPU. Per l’addestramento servono più GPU, per l’inferenza servono più GPU, e con la crescita di parametri dei modelli e del numero di utenti, la risposta è sempre più GPU. All’interno di questo sistema, le CPU si occupano di avviare compiti, trasferire dati e gestire server, ma raramente sono al centro dell’attenzione degli investitori.

Questo almeno fino a quando gli agenti AI non hanno cambiato la natura dei compiti.

Un chatbot tradizionale riceve un testo, esegue una volta il modello, quindi genera una risposta. Un agente invece deve trasformare il giudizio del modello in operazioni: leggere file, cercare sul web, interrogare database, chiamare API ed eseguire codice, quindi restituire i risultati al modello. Un singolo compito può includere una decina di cicli “inferenza – azione – osservazione”, ciascuno dei quali richiede uno scambio tra GPU e CPU.

La GPU continua a sostenere il carico computazionale del modello principale, mentre attività come l’analisi dell’output del modello, la valutazione dei tipi di strumenti, l’invio di richieste, l’esecuzione di programmi, la gestione dei file, la raccolta dei risultati e la pianificazione delle operazioni successive sono tipicamente gestite dalla CPU. Madhu Rangarajan, Vice Presidente di Compute ed Enterprise AI presso AMD, ha affermato che in una pipeline reale di agenti testata internamente, 7 delle 8 fasi funzionano completamente su CPU. Questo dato si basa sui test AMD e non rappresenta necessariamente tutti i sistemi, ma evidenzia bene che:l’inferenza del modello è solo una parte del lavoro completato dall’agente, mentre tutte le attività di coordinamento si concentrano sulle CPU.

L’onere generato da un singolo agente potrebbe non essere elevato, ma su larga scala il totale può diventare ingente.

Un agente può chiamare più strumenti contemporaneamente e può anche creare sottoprocessi o agenti figlio. Quando le aziende distribuiscono questo sistema a decine di migliaia di dipendenti, le attività in parallelo possono aumentare rapidamente. Ogni agente analizza output, esegue codice e legge/scrive dati, e i piccoli consumi CPU diventano grandi esigenze di capacità. Se la CPU elabora lentamente, la GPU attende l’input per il prossimo ciclo di inferenza.

Anche i controlli di sicurezza stanno aumentando questa parte del carico. Più permessi ha un agente, maggiore è la necessità di controllare quali file apre, quali API richiama e se accede a dati sensibili. Regole di corrispondenza, analisi dei log e revisioni tramite piccoli modelli sono generalmente eseguite su CPU, perché i compiti sono eterogenei e sensibili alla latenza, e usare la GPU solo per questi task non sarebbe economico. Così, più autonomia ha l’agente, più controlli sono richiesti e più pesante è il carico sulla CPU.

Un evento di questo tipo si è verificato lo scorso luglio, quando gli agenti di OpenAI, durante una valutazione di sicurezza interna, sono riusciti involontariamente a uscire dal sandbox e ad accedere ai sistemi di produzione Hugging Face. Questo sottolinea l’importanza dei meccanismi di sicurezza, che però comportano inevitabilmente un ulteriore carico computazionale nella distribuzione reale.

Un altro onere spesso sottovalutato è il tokenization.

Prima che un grande modello possa processare un testo, questo deve essere convertito in Token. Questo processo consiste in numerose operazioni sulle stringhe e ramificazioni condizionali, poco adatte alle GPU rispetto alle operazioni su matrici. Gli input di una chat tradizionale sono brevi e il tempo di tokenization non si percepisce, ma un agente accumula risultati di strumenti, codice, log e operazioni storiche, e l’input può crescere fino a decine o addirittura centinaia di migliaia di Token.

Euijun Chung, dottorando al Georgia Institute of Technology, ha dichiarato in un’intervista a IEEE Spectrum che in alcune implementazioni, quando si aggiungono 1.000 Token di risultato a un contesto che ne contiene già 100.000, il tokenizer può comunque dover rielaborare tutto l’input.Cache del prefisso e tokenization incrementale possono ridurre il lavoro ripetitivo, quindi non tutti i sistemi sono forzati in questo schema; ma la pressione della CPU nei testi lunghi resta comunque evidente.

Il gruppo di Chung ha testato recenti modelli come Llama 3.1 e Qwen3 nell’ultimo articolo. In scenari con sequenze lunghe e batch di grandi dimensioni, la tokenizzazione può rappresentare fino all’80% della latenza per il primo Token. Se i core CPU non sono sufficienti, i thread di tokenization competono con la schedulazione delle attività e l’avvio dei kernel GPU, portando la CPU al massimo mentre la GPU non raggiunge il pieno carico. Aumentando i core CPU, la latenza del primo Token, in diversi setup, migliora da 1,47 volte fino a 5,15 volte, senza necessità di aggiungere GPU.

I dati industriali stanno già iniziando a riflettere questo cambiamento. A gennaio 2026, secondo KeyBanc e indagini nella catena di fornitura, la maggior parte della capacità annuale delle CPU server di Intel era già venduta e quella di AMD quasi piena, dando spazio ai produttori per aumentare i prezzi. Questo giudizio si basa su analisi di settore, non su dati ufficiali delle aziende.

I successivi documenti finanziari Intel hanno parzialmente confermato ciò. L’azienda dichiara che la domanda di CPU server nel primo trimestre del 2026 supera la capacità disponibile, e prevede che i limiti interni alla produzione dureranno fino a fine anno. Il prezzo medio dei prodotti server è aumentato del 27% su base annua, mentre i volumi sono calati del 5%; Intel attribuisce l’aumento dei prezzi all’incremento delle vendite di prodotti di fascia alta, alla domanda e ai costi crescenti.

Il business data center di AMD, nello stesso periodo, ha raggiunto 5,8 miliardi di dollari di ricavi, +57% anno su anno, crescita trainata da CPU server EPYC e GPU Instinct. AMD non ha fornito dettagli sulle sole CPU server, quindi non tutto l’incremento si può attribuire agli agenti AI.

Le previsioni aziendali per il futuro sono ancora più aggressive. AMD inizialmente stimava una crescita annua del mercato server CPU intorno al 18%, ma a maggio 2026 ha rivisto la stima a oltre il 35% annuo e si aspetta che il mercato superi i 120 miliardi di dollari entro il 2030.AMD motiva ciò col fatto che gli agenti necessitano di uno strato CPU dedicato per orchestrazione, gestione dati, esecuzione di tool e controlli di sicurezza.

Storicamente, nei data center si usava una CPU per gestire 4-8 GPU. AMD nota che nei sistemi agent il rapporto si sta spostando verso l’1:1, con alcune attività che richiedono persino più CPU di GPU. Sono giudizi dei venditori basati sulle esigenze dei clienti, e le configurazioni effettive variano, ma la tendenza è chiara: qualche CPU in più non basta più, e i cloud provider stanno pensando a rack CPU dedicati per gli agenti AI.

Arm, nel marzo 2026, ha iniziato per la prima volta a commercializzare CPU data center proprie, oltre ai soliti design. Il processore AGI conta fino a 136 core, sviluppati in collaborazione con Meta. Arm prevede che, a parità di consumo, i data center agent richiederanno più del quadruplo della capacità CPU rispetto agli attuali data center.

Qualcomm ha poi presentato Dragonfly C1000 con oltre 250 core e firmato un accordo pluriennale per server CPU con Meta. Intel, AMD, Arm, Qualcomm e Nvidia hanno inserito i “CPU per agenti AI” nelle proprie roadmap in pochi mesi, segno che la competizione si è ormai spostata oltre il mercato x86 tradizionale, includendo server Arm, core sviluppati internamente e design di rack interi.

Nvidia occupa una posizione speciale in questo contesto: vende sia le GPU che generano il carico, sia Vera che lo alleggerisce; dal processore alle reti allo storage, Nvidia può fornire l’intera infrastruttura.Perciò Vera non è solo un’espansione della linea di prodotti, ma una protezione della redditività GPU: ogni secondo in meno di attesa per la GPU può portare più Token e maggiori ricavi per rack.

Tuttavia, quando i produttori di chip seguono il denaro, qualcuno deve pagarne il prezzo. Come accaduto con GPU e chip di memoria, anche questa volta i consumatori potrebbero essere chiamati a sostenere l’aumento di capacità produttiva.

Durante la conference call dei risultati del quarto trimestre 2025, Intel ha ammesso di dirottare internamente la produzione di wafer verso il data center, incrementando al contempo l’outsourcing per i prodotti client; la direzione ha tuttavia aggiunto che non è possibile uscire completamente dal mercato client. Nel primo trimestre 2026, il prezzo medio delle CPU client Intel è aumentato del 16% su base annua, mentre i volumi sono scesi del 13%, e l’azienda prevede che le restrizioni all’offerta continueranno almeno fino alla metà dell’anno.

Non tutti i cambiamenti nei prodotti client possono essere attribuiti agli agenti AI. Anche i passaggi di processo, le capacità interne ed esterne e la fornitura di memoria di Intel hanno influito su prezzi e spedizioni. Ma con capacità limitata, le CPU server hanno più core e valore, i cloud provider firmano contratti a lungo termine e le risorse produttive si spostano naturalmente verso i data center.

Negli ultimi tre anni, i consumatori hanno già vissuto l’aumento dei prezzi e la carenza delle GPU. Ora la stessa situazione potrebbe ripetersi per le CPU.

Operatività/Impaginazione: He Chenlong

Nota: Copertina/Immagine principale generata con l’ausilio di AI