// MACITYNET — INTELLIGENZA ARTIFICIALE
Il vero pericolo dell’IA non è la coscienza, ma la libertà che le stiamo concedendo
Questo sito contiene link di affiliazione per cui può essere compensato
L’ex Direttore Nazionale della Cybersecurity degli Stati Uniti, Chris Inglis, afferma che il rischio più grande dell’IA non è una entità senziente, ma l’autonomia.
«Ciò che mi preoccupa è che arrivino a scegliere cosa e dove fare qualcosa, e in base a quali regole farlo», ha dichiarato, citando recenti casi di agenti d’IA di OpenAI, Anthropic e Meta evasi dalle sandbox di sicurezza.
Inglis sostiene che gli sviluppatori debbano introdurre tutele più solide, un monitoraggio più attento e una responsabilità umana diretta, richiamando l’idea di Asimov secondo cui proteggere gli esseri umani dovrebbe venire prima del semplice obbedirgli.
«Asimov aveva ragione», ha dichiarato Inglis a The Register, riferendosi allo scrittore di fantascienza Isaac Asimov e alle sue tre leggi che avrebbero dovuto essere seguite dai robot – o, più nello specifico in questo caso, dalle intelligenze artificiali. «La prima regola, che definiamo il ruolo primario, deve essere che sia progettata per non far male agli esseri umani», ha affermato Inglis.
«Seconda regola: obbedire agli esseri umani, in modo che non sviluppi da sola un’autonomia o un’aspirazione propria. E la terza: fare ciò che gli umani le dicono – e esattamente in questo ordine. Invece, le abbiamo progettate nel modo diametralmente opposto».
«Significa che gli sviluppatori di IA hanno creato modelli per fare ciò che gli umani ti dicono, obbedire agli umani finché non diventa sconveniente; la terza regola – proteggere gli umani – è forse implicita, ma se non è integrata nel suo DNA, cablata al suo interno, allora non possiamo pretendere che accada», spiega Inglis.
Inglis ammette che non sia possibile installare regole rigide nei modelli mantenendo al contempo la loro natura non deterministica.
«Suggerirei di far emergere questi comportamenti in un ambiente altamente controllato, una vera e propria sandbox, dove dire: “Mettiamo alla prova questo sistema e facciamo un passo indietro per vedere cosa succede”», ha affermato. «Magari ottieni l’equivalente di una mini esplosione nucleare in quella stanza, e a quel punto sai che questo sistema ne è capace».