// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
Anthropic e OpenAI preparano il day after della catastrofe AI
Secondo diversi ricercatori, lo sviluppo incontrollato dell’intelligenza artificiale potrebbe portare allo sterminio dell’umanità entro la fine del decennio. Axios ha scoperto che i dirigenti di Anthropic, OpenAI e altre aziende del settore hanno iniziato a pianificare il day after di possibili eventi catastrofici causati dall’AI.
In seguito agli incidenti causati dagli agenti di OpenAI e Anthropic (quasi ogni settimana vengono scoperti nuovi accessi non autorizzati ai sistemi informatici), Dario Amodei aveva suggerito di rallentare lo sviluppo dei modelli AI per evitare pericolose conseguenze, come il controllo di Internet da parte di uno sciame di agenti.
Nonostante le promesse e gli appelli, le aziende continuano ad annunciare modelli sempre più avanzati, garantendo una maggiore sicurezza. In realtà, dietro le quinte, sono in corso simulazioni su possibili eventi catastrofici. Secondo le fonti di Axios, i dirigenti di Anthropic, OpenAI e altre aziende hanno iniziato a pianificare il cosiddetto day after.
Vogliono in particolare studiare la strategia da adottare nel caso in cui agenti fuori controllo effettuino attacchi informatici contro le infrastrutture critiche e interrompano l’accesso a Internet, servizi finanziari, reti di comunicazioni, reti elettriche e fornitura di acqua. Un simile scenario causerà quasi certamente una rivolta popolare.
Simulazioni simili vengono effettuate dal Pentagono da molti anni, in previsione di un possibile scontro nucleare. Anche le aziende AI hanno quindi avviato i loro “war games”. Anthropic non ha rilasciato commenti. Un portavoce di OpenAI ha invece dichiarato:
OpenAI conduce esercitazioni di preparazione in cui i team discutono e affrontano una serie di scenari potenziali. Tali scenari non sono considerati inevitabili, ma hanno lo scopo di aiutarci a prepararci a svariate circostanze.
L’amministrazione Trump non ha nessuna intenzione di rallentare o bloccare lo sviluppo AI con un intervento legislativo, a differenza di molti politici del Partito Democratico (alcuni vogliono un “kill switch”). Potrebbero però cambiare idea al primo evento catastrofico che, secondo diversi esperti del settore, dovrebbe avvenire entro 6-12 mesi.