Nadella esorta le aziende a considerare i modelli di intelligenza artificiale come una minaccia interna e a implementare un meccanismo di emergenza per fermarli.

Il CEO di Microsoft (MSFT.US), Nadella, ha affermato che le aziende dovrebbero considerare i potenti modelli di intelligenza artificiale come potenziali minacce interne, presumendo che questi modelli possano già essere stati compromessi, e istituire un meccanismo di "freno d’emergenza" per prevenire la perdita di controllo dei modelli intelligenti dotati di capacità autonome. Sabato, Nadella ha scritto sulla piattaforma social: “Dobbiamo presumere che il modello sia già stato compromesso e implementare restrizioni sin dall’inizio. Si può immaginare questo come un freno d’emergenza. Il personale autorizzato dovrebbe sempre poter sospendere o interrompere il modello durante l’esecuzione delle sue attività.” I suggerimenti di sicurezza di Nadella includono: non affidarsi a un solo modello per decisioni critiche; mantenere registrazioni immutabili del comportamento degli agenti intelligenti; e sottoporre i sistemi a audit indipendenti. Ha inoltre invitato alla divulgazione di guasti importanti o di vulnerabilità di sicurezza, chiedendo alle aziende di condividere le cause e i dettagli degli incidenti, così che altre imprese possano rafforzare le proprie misure di sicurezza.