Google lancia due nuovi TPU in una volta sola, per la prima volta separa i chip per training e inferenza, implementazione su larga scala di agenti AI aziendali

Google Cloud, controllata da Alphabet, ha fatto numerose mosse durante la conferenza annuale dedicata agli sviluppatori, lanciando contemporaneamente una nuova generazione di chip proprietari e strumenti di agenti AI di livello enterprise, sfidando parallelamente Nvidia, OpenAI e Anthropic sia nell’hardware sia nel software.

Mercoledì, ora locale, durante la conferenza Google Cloud Next 2026 a Las Vegas, Google Cloud ha presentato due nuovi prodotti della sua ottava generazione di Tensor Processing Unit (TPU): TPU 8T, progettato appositamente per l’addestramento di modelli AI, e TPU 8i, ottimizzato per la fase di inferenza, entrambi previsti per il lancio sul mercato entro la fine dell’anno. È la prima volta che Google separa le attività di addestramento e inferenza su chip indipendenti, segnando una svolta significativa nella sua strategia hardware per l’AI.

Contemporaneamente, Google ha presentato una serie di strumenti per lo sviluppo di agenti AI, come la Gemini Enterprise Agent Platform, puntando direttamente al mercato dell’automazione aziendale.

Il lancio dei nuovi chip arriva in un momento di rapida crescita della domanda di inferenza AI. Mark Lohmeyer, Vicepresidente delle infrastrutture di Google Cloud e AI, ha dichiarato: "La chiave è come ottenere la latenza più bassa per transazione al costo minimo possibile. Il volume delle transazioni sta aumentando significativamente e i costi per ciascuna devono diminuire per poter scalare". I due nuovi chip saranno disponibili ufficialmente entro la fine dell’anno.

Separazione tra addestramento e inferenza, grande salto di prestazioni dei chip

La scelta di Google di suddividere l’ottava generazione di TPU in due prodotti distinti risponde direttamente alla crescente diversificazione dei carichi di lavoro AI.

Amin Vahdat, Vicepresidente senior di Google e CTO di AI e Infrastrutture, ha scritto in un post sul blog: "Con l’emergere degli agenti AI, riteniamo che il settore trarrà vantaggio da chip ottimizzati specificamente per le esigenze di addestramento e inferenza."

TPU 8t è ottimizzato per l’addestramento di modelli AI e promette di "ridurre il ciclo di sviluppo dei modelli all’avanguardia da mesi a settimane."

A livello di prestazioni, il TPU 8t offre un incremento per watt del 124% rispetto alla generazione precedente, mentre il TPU 8i sale del 117%. Rispetto alla settima generazione Ironwood TPU lanciata a novembre scorso, il TPU 8t garantisce un incremento delle prestazioni di 2,8 volte a parità di prezzo, mentre il TPU 8i aumenta dell’80%.

Il chip per l’addestramento TPU 8t può combinare fino a 9.600 unità in un unico sistema. Google sottolinea che, a queste dimensioni, l’energia è ormai la principale limitazione nei data center, rendendo quindi fondamentale una maggiore efficienza energetica.

Il TPU 8i è invece destinato alle attività di inferenza, ideale per l’esecuzione di modelli AI e la gestione di agenti AI. L’architettura si focalizza su una grande capacità di memoria on-chip. Ogni chip integra 384MB di SRAM (Static Random Access Memory), tre volte rispetto alla generazione Ironwood.

Entrambi i chip saranno disponibili ufficialmente verso la fine del 2026.

Sundar Pichai, CEO di Alphabet, ha spiegato nel suo blog che questa architettura mira a "fornire, in modo economicamente sostenibile, la capacità necessaria per eseguire milioni di agenti contemporaneamente con throughput su larga scala e bassa latenza". L’aumento della memoria on-chip permette al chip di evitare frequenti richieste di dati dall’esterno, un aspetto cruciale per compiti AI che richiedono inferenze multi-step.

Piattaforma agenti AI su vasta scala, nel mirino OpenAI e Anthropic

Sul fronte software, Google ha lanciato un set completo di strumenti enterprise per agenti AI, affrontando direttamente la presenza di OpenAI e Anthropic nel settore aziendale.

Secondo Bloomberg, vari fondatori di startup riportano che gli ingegneri della Silicon Valley, nella scelta degli strumenti per la programmazione AI, alternano principalmente tra Claude Code di Anthropic e Codex di OpenAI, mentre Google raramente viene presa in considerazione—una situazione che preoccupa i vertici di Google.

Thomas Kurian, CEO di Google Cloud, ha scritto nel blog: "Non si tratta di offrire singoli servizi componibili, ma una solida base d’innovazione completa."

La nuova Gemini Enterprise Agent Platform introduce le funzioni Memory Bank e Memory Profile, affinché gli agenti possano ricordare le interazioni storiche con gli utenti, colmando uno dei principali limiti degli strumenti AI precedenti; mentre la funzione Agent Simulation permette agli sviluppatori di testare più approfonditamente gli strumenti prima del rilascio.

Google ha poi lanciato la piattaforma di collaborazione Projects, che integra dati provenienti da Workspace, Microsoft OneDrive e strumenti di chat interni aziendali, offrendo agli agenti AI tutto il contesto necessario. Inoltre, è stata annunciata la Gemini Enterprise, un’app rivolta al personale che diventa il "front desk AI per ogni dipendente", permettendo agli utenti di creare agenti senza scrivere una singola riga di codice.

Adozione delle TPU in accelerazione, cooperazione con Nvidia in parallelo

Sebbene Google stia continuando a investire sulle proprie soluzioni hardware, la collaborazione con Nvidia non viene interrotta.

Mark Lohmeyer ha annunciato che Google prevede di essere uno dei primi ad adottare la prossima generazione di chip Nvidia già nella seconda metà dell’anno, continuando parallelamente a offrire servizi a quei clienti che intendono utilizzare sistemi Nvidia.

Nel frattempo, l’adozione commerciale delle TPU di Google sta accelerando.

Il fondo speculativo Citadel Securities ha già sviluppato una piattaforma di ricerca quantitativa basata sulle TPU Google, mentre tutti e 17 i laboratori nazionali del Dipartimento dell’Energia degli Stati Uniti utilizzano software di collaborazione AI sviluppati su TPU. Meta ha firmato un accordo pluriennale dell’ordine di miliardi di dollari per l’uso di TPU di Google, e la newcomer dell’AI Anthropic ha promesso di utilizzare capacità di calcolo basate su TPU Google per diversi gigawatt.

Secondo il consulente DA Davidson, a settembre scorso il business delle TPU insieme al settore AI di Google DeepMind era valutato circa 900 miliardi di dollari.

Va sottolineato che Google non ha fatto confronti diretti tra le prestazioni dei suoi nuovi chip e quelli Nvidia. Da parte sua, Nvidia sta per lanciare una nuova linea di prodotti che integrerà la tecnologia acquisita attraverso la compra di Groq per 20 miliardi di dollari, focalizzata su scenari di inferenza a latenza ultra-bassa.

Secondo il CEO di Nvidia, Jensen Huang, oltre il 20% dei carichi di lavoro AI sarebbe più adatto a questo tipo di chip. Groq è stata fondata nel 2016 da ex ingegneri Google.

Per aumentare ulteriormente la diffusione delle TPU, Google sta anche testando la possibilità di installarle presso i data center dei propri clienti, e sta puntando sull’integrazione con strumenti software di terze parti. Tuttavia, i limiti nella catena di fornitura dei chip e lo sfasamento tra il ciclo rapido di iterazione dei modelli AI e gli anni necessari allo sviluppo dei chip restano principali fattori di incertezza per l’espansione di Google su larga scala.