// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
Oltre 400 scienziati chiedono la supervisione dell’AI
Diversi CEO, tra cui Satya Nadella di Microsoft, hanno sottolineato l’urgenza di implementare misure per monitorare il comportamento dei modelli AI. Joshua Bengio, Geoffrey Hinton e altri 413 scienziati (quasi tutti docenti universitari) hanno pubblicato una lettera aperta per chiedere l’istituzione di organismo internazionale che dovrebbe supervisionare gli standard di contenimento e la segnalazione degli incidenti per i sistemi AI avanzati con capacità cyber.
I firmatari della lettera ricordano quanto accaduto negli ultimi mesi. Diverse aziende (non sono scritti i nomi, ma il riferimento è ovviamente a OpenAI e Anthropic) hanno svelato che i loro modelli AI hanno aggirato ambienti non sufficientemente isolati (sandbox) per compromettere i sistemi di organizzazioni esterne. Gli scienziati ritengono quindi necessari un migliore allineamento (comportamento dei modelli più prevedibile) e tecnologie sandbox più robuste.
Senza cambiamenti immediati nelle pratiche di sviluppo e implementazione dell’AI, tali incidenti continueranno a verificarsi e quelli futuri saranno ben più dannosi per le nostre infrastrutture critiche esposte. Noi sosteniamo che siano necessarie una maggiore ricerca sulla sicurezza dell’AI e una maggiore enfasi su tecnologie e procedure di contenimento.
A breve termine dovrebbero essere impiegati robusti meccanismi di sandboxing, inclusa la separazione fisica dalle reti (air-gapping), per garantire un contenimento ad alta affidabilità dei modelli dotati di capacità cyber. È inoltre necessaria una maggiore condivisione delle informazioni e trasparenza riguardo ai fallimenti delle misure di contenimento.
I 415 firmatari, 12 dei quali sono italiani, hanno pubblicato tre suggerimenti:
Donald Trump ha più volte ribadito che non intende frenare lo sviluppo AI con un intervento legislativo. Henna Virkkunen, Commissaria europea per le tecnologie digitali, ha recentemente dichiarato che l’AI Act copre l’intero ciclo di sviluppo dei modelli AI. A fine agosto, la Commissione europea ha inviato richieste di informazioni a oltre 30 aziende attive nel campo dell’intelligenza artificiale, chiedendo dettagli sulle loro misure di sicurezza e protezione, e ha successivamente posto quesiti in merito agli obblighi di trasparenza e di rispetto del diritto d’autore.