// MACITYNET — INTELLIGENZA ARTIFICIALE
Un miliardo di morti e tremila miliardi in Borsa: è il paradosso dell’AI che spaventa i suoi stessi creatori
Questo sito contiene link di affiliazione per cui può essere compensato
L’industria dell’intelligenza artificiale sta facendo una cosa che, a quanto pare, in pochi ancora hanno evidenziato a sufficienza: sta costruendo contemporaneamente il problema della sicurezza e il meccanismo economico che la spinge ad accelerare
Tre notizie uscite a distanza di poco l’una dall’altra, in un autunno, quello del 2026, che potrebbe passare alla storia. La prima: Bill Gates, intervistato a Meet the Press su NBC, sostiene che strumenti di intelligenza artificiale molto potenti nelle mani di attori malevoli potrebbero contribuire a «un miliardo di morti». La seconda: Dario Amodei, cofondatore e amministratore delegato di Anthropic, pubblica un saggio intitolato We Must Pace the Frontier, in cui chiede di rallentare lo sviluppo dei modelli più avanzati prima che diventino incontrollabili. La terza: la stessa Anthropic si prepara a sbarcare in Borsa con una valutazione che potrebbe sfiorare i duemila miliardi di dollari, e che secondo alcune stime potrebbe diventare l’IPO più grande della storia finanziaria mondiale.
Chiunque abbia seguito anche superficialmente il dibattito sull’AI avrà percepito qualcosa di strano nella sequenza.
La formula «un miliardo di morti» è volutamente estrema, e va letta con precisione. Gates non sta descrivendo uno scenario inevitabile né prevedendo l’imminente sterminio prodotto spontaneamente da un chatbot. Sta costruendo un ragionamento sulle condizioni che renderebbero possibili danni di scala enorme: una combinazione tra capacità tecniche avanzate e intenzione criminale, terroristica o statale. La possibilità di progettare agenti patogeni con l’assistenza dell’AI, di scalare attacchi informatici su infrastrutture critiche, di accelerare programmi militari non convenzionali.
Il punto di Gates non è tecno-apocalittico: è molto istituzionale, cioè molto molto integrato, come diceva Umberto Eco nella sua famosa duologia tra apocalittici e integrati. L’autoregolazione delle aziende non basta, ha detto Gates. Occorrono leggi, controlli e istituzioni pubbliche capaci di applicarli. Il mercato privato non ha né gli incentivi né la legittimità per decidere quali capacità debbano o non debbano essere rese disponibili su larga scala.
Dario Amodei parte da una premessa diversa ma arriva a conclusioni simili. Nel saggio di settembre 2026, sostiene che la società, i regolatori e persino gli sviluppatori non stanno tenendo il passo con le capacità dei modelli. La sua proposta si articola in tre punti: monitoraggio indipendente durante lo sviluppo, standard e obblighi comuni per l’industria, cooperazione internazionale su soglie di rischio e govern