// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
Satya Nadella: serve un freno di emergenza per i modelli AI
Satya Nadella ha pubblicato un lungo post su X per evidenziare i pericoli derivanti dallo sviluppo AI. Secondo il CEO di Microsoft è necessario considerare che i modelli AI sono compromessi fin dall’inizio e quindi implementare un freno di emergenza per spegnerli in tempo. Al momento però sono solo “parole al vento”, in quanto gli agenti AI continuano le loro azioni senza controllo.
Satya Nadella aveva già appoggiato la proposta di Dario Amodei (CEO di Anhropic) sul rallentamento dello sviluppo AI. Il CEO di Microsoft ha recentemente partecipato al pranzo organizzato da Donald Trump alla Casa Bianca, ma non ha firmato l’accordo sullo sviluppo sicuro dei modelli AI. Nel post su X ha tuttavia usato il termine Super Intelligence scelto dal Presidente degli Stati Uniti.
Nadella sottolinea che, a differenza dei sistemi software tradizionali, le aziende non sono in grado di comprendere il comportamento dei sistemi di superintelligenza. Nonostante ciò viene consentito agli agenti di accedere ai dati più sensibili e di eseguire azioni per conto degli umani.
Non possiamo trattare la superintelligenza come un insieme di “scatole nere” annidate e limitarci ad accettare o rifiutare le sue raccomandazioni, risposte e azioni. Dobbiamo costruire sistemi circoscritti di cui sia possibile osservare il comportamento, testare i limiti e contenere sempre le azioni. Dobbiamo affiancare ai modelli non deterministici una progettazione di sistema solida e deterministica, controlli umani e procedure operative affidabili, oltre a definire standard di settore laddove quelli esistenti risultino insufficienti.
Il CEO ha quindi elencato una serie di requisiti minimi che dovrebbero essere rispettati durante la progettazione dei sistemi AI:
Sembrano tutti suggerimenti utili, ma occorre una stretta collaborazione tra le aziende. Per adesso c’è solo la corsa all’annuncio di nuovi modelli sempre più avanzati.