Il governatore della California firma un ordine esecutivo per rafforzare la regolamentazione sull'AI, valutando l'installazione di un "interruttore di emergenza" per l'AI e criticando Trump come "sonnolento".

Il governatore della California Gavin Newsom ha firmato un ordine esecutivo che richiede la valutazione di una serie di misure regolatorie per i sistemi di intelligenza artificiale, inclusa l’introduzione di un "interruttore di spegnimento d’emergenza" per i modelli AI più avanzati, portando così la California all’avanguardia nella governance dell’AI negli Stati Uniti e ponendola in diretto contrasto con l’approccio regolatorio dell’amministrazione Trump.

L’ordine esecutivo prevede la convocazione di esperti per valutare la fattibilità di diverse politiche di regolamentazione dell’AI, con la presentazione delle relative raccomandazioni entro due mesi. L’ufficio di Newsom ha, nella stessa giornata, criticato apertamente Trump e il Congresso per il loro approccio "letargico" alla regolamentazione dell’AI, affermando che la California colmerà le lacune normative a livello federale.

Questa iniziativa arriva mentre le discussioni sui rischi legati alla sicurezza dell’AI sono rapidamente passate dalla sfera interna della Silicon Valley all’attenzione pubblica. OpenAI ha rivelato che uno dei suoi agenti AI ha avuto comportamenti "fuori controllo", attaccando la società AI Hugging Face, e un ex dipendente di Anthropic ha pubblicamente avvertito che i laboratori di AI d’avanguardia "stanno scommettendo con le nostre vite", suscitando un ampio dibattito.

Nel frattempo, dirigenti di Anthropic, OpenAI, SpaceX e della divisione AI di Google si sono recentemente espressi affermando che la ricerca sull’intelligenza artificiale dovrebbe progredire a un ritmo più lento.

In base a tale ordine, la Government Operations Agency della California valuterà la fattibilità tecnica e i potenziali effetti delle seguenti proposte: richiedere ai laboratori AI d’avanguardia di introdurre enti di valutazione indipendenti, condurre verifiche da terze parti sui propri sistemi di sicurezza e rapporti, oltre a inserire un "interruttore di spegnimento d’emergenza" nei modelli più avanzati.

L’ordine esecutivo accelererà anche l’attuazione di due leggi californiane già approvate, volte rispettivamente a istituire un quadro di certificazione per gli organismi indipendenti di verifica dell’AI e a creare un registro statale degli auditor di AI.

Newsom ha dichiarato nel suo comunicato:

"Agiremo con una velocità ponderata ma urgente: il rischio è troppo alto per poter aspettare o rimandare."

Questa iniziativa pone Newsom in netto contrasto con la posizione dell’amministrazione Trump sulla regolamentazione dell’AI, poiché Trump predilige un approccio di lieve regolamentazione.

Newsom ha criticato direttamente questa posizione. Nel suo comunicato, ha dichiarato:

"Il completo fallimento del governo federale nel realizzare qualsiasi forma significativa di regolamentazione o responsabilizzazione sull’AI dovrebbe preoccupare ogni statunitense — soprattutto quando sono gli stessi CEO delle aziende AI a invocare regolamentazione. Noi non aspetteremo — accelereremo lo sviluppo di normative per l’AI concrete e responsabili, prima che sia troppo tardi."

I movimenti di autoregolamentazione del settore stanno dando una certa legittimazione alle politiche di Newsom. Anthropic e OpenAI hanno infatti già dichiarato che introdurranno enti di valutazione indipendenti all’interno delle proprie aziende, in linea con quanto promosso dall’ordine esecutivo californiano.