// MACITYNET — CRONACA
Bill Gates avverte sui rischi dell’IA: il kill switch da solo non basta
Questo sito contiene link di affiliazione per cui può essere compensato
Un semplice interruttore di emergenza non basta per tenere sotto controllo i rischi dell’intelligenza artificiale. Secondo Bill Gates, il problema più urgente non è oggi quello di sistemi che sviluppano una volontà propria e diventano impossibili da spegnere, ma l’uso che persone o gruppi malintenzionati possono fare di strumenti sempre più potenti.
Intervistato il 27 settembre nel corso di Meet the Press della NBC, il cofondatore di Microsoft ha indicato uno scenario estremo per spiegare la scala del problema: sistemi avanzati potrebbero contribuire ad attacchi capaci di provocare conseguenze enormi, fino a eventi in grado di causare un numero di vittime nell’ordine del miliardo. Non si tratta di una previsione, ma di un esempio utilizzato da Gates per descrivere la potenza che strumenti del genere potrebbero mettere nelle mani di pochi individui.
Nel corso dell’intervista è stato affrontato anche il tema del cosiddetto kill switch, un meccanismo di arresto d’emergenza pensato per interrompere il funzionamento di sistemi particolarmente avanzati.
«Il kill switch è una cosa un po’ strana. Non basta avere un interruttore di arresto», ha spiegato Gates.
Il punto, secondo Gates, è che un sistema può essere perfettamente funzionante e allo stesso tempo venire utilizzato per scopi pericolosi. In questo caso non c’è necessariamente un’intelligenza artificiale “fuori controllo” da spegnere: il problema diventa capire chi la sta usando, per quale scopo e quali operazioni sta svolgendo.
Tra gli esempi indicati figurano attacchi informatici su larga scala, compromissione di infrastrutture e sistemi finanziari e atti di bioterrorismo. Strumenti sempre più avanzati potrebbero ridurre le competenze, il tempo e le risorse necessarie per organizzare operazioni che in passato richiedevano capacità disponibili soltanto a grandi organizzazioni o apparati statali.
«Non siamo ancora al punto in cui prendono autonomamente il controllo dei computer e non possono essere spente», ha osservato Gates, sottolineando come una parte del dibattito sul kill switch tenda a concentrarsi su scenari che non rappresentano ancora il rischio più immediato.
Per Gates le misure di sicurezza devono quindi intervenire prima che un problema richieda lo spegnimento del sistema. Le aziende che sviluppano i modelli più sofisticati dovrebbero essere obbligate a monitorarne il funzionamento e conservare registri dettagliati delle attività, in modo da poter individuare comportamenti anomali o utilizzi potenzialmente criminali.
La differenza è sostanziale: un kill switch serve quando si è già deciso che un sistema deve essere arrestato, mentre monitoraggio e tracciabilità possono aiutare a capire cosa sta accadendo prima di arrivare a quel punto. In questo quadro diventano importanti anche le salvaguardie incorporate nei modelli e i controlli sull’accesso alle capacità più sensibili.