// SMARTWORLD — INTELLIGENZA ARTIFICIALE
Altman, Amodei e Hassabis vogliono frenare l'AI: accordo etico o l'opposto?
Sam Altman, Dario Amodei e Demis Hassabis hanno raggiunto un accordo informale per rallentare lo sviluppo dell'AI. L'obiettivo dichiarato è "fare il passo con la frontiera" invece di correrci contro a testa bassa. I critici, però, hanno una lettura diversa: per loro si tratta di un cartello mascherato da preoccupazione etica, pensato per bloccare i concorrenti più piccoli e frenare il movimento open source. La verità, come spesso accade, sta nel mezzo, ma non è rassicurante.
Al centro del dibattito c'è un saggio di Amodei che propone tre misure: auditor terzi incorporati nei laboratori, regolamentazione dei principali lab AI, e un accordo globale di rallentamento. Tutto condivisibile sulla carta, ma il problema è chi lo propone e perché proprio adesso.
Preferisci ascoltare il riassunto audio? Abbiamo scelto una voce realizzata con strumenti avanzati IA per rendere rendere i nostri testi subito accessibili a tutti
Daniel Kokotajlo, ex ricercatore di OpenAI e ora a capo dell'AI Futures Project, è diretto: l'idea di rallentare non è nata dai CEO. Ricercatori e organizzazioni non profit chiedono una pausa da anni, incluse oltre 1.000 firme di dipendenti dei laboratori AI raccolte in una lettera pubblica dello scorso luglio.
Ora che i CEO si appropriano della proposta, lo fanno "inchinandosi a quella pressione e rivendicandone il merito, non giustamente", dice Kokotajlo.
Il rischio concreto, secondo più fonti, è il safety-washing, cioè portare qualche auditor esterno, produrre montagne di documentazione sulla sicurezza, e continuare a sviluppare AI alla stessa velocità di prima. "Porteranno qualche auditor esterno, faranno un sacco di burocrazia sulla sicurezza, ma alla fine non rallenteranno davvero", spiega ancora Kokotajlo. Del resto, è lo stesso schema già visto con le piattaforme social un decennio fa, quando chiamare la regolamentazione era il modo più furbo per evitarla.
Nick Reese, ex direttore della politica sulle tecnologie emergenti al Dipartimento della Sicurezza Interna USA, è ancora più netto: "Il settore ha bisogno di nuovi campioni". Le persone più vicine al problema non sono necessariamente quelle più adatte a guidare la soluzione, soprattutto quando non hanno mai avuto una visione chiara di dove stanno andando.
Sotto tutto questo c'è una questione tecnica che i ricercatori chiamano RSI, ovvero miglioramento ricorsivo autonomo: il punto in cui i modelli AI sarebbero in grado di addestrarsi, migliorarsi e creare nuove versioni di sé stessi senza intervento umano. Anthropic stima che questo momento potrebbe arrivare già all'inizio del 2027, e lo stesso Amodei cita la RSI come ragione principale della sua proposta di rallentamento.
Le dichiarazioni dei ricercatori interni sono inquietanti. Evan Hubinger, team lead di Anthropic, ha scritto pubblicamente che "crediamo davvero che l'AI potrebbe uccidere tutti gli esseri umani", stimando la probabilità sopra il 10% nel prossimo decennio. Samuel Marks, altro ricercatore Anthropic, ha aggiunto che più un dipendente è senior, più è preoccupato. Micah Carroll di OpenAI parla di "rischio catastrofico inaccettabile" nello sviluppo AI ordinario. Sono le stesse aziende che continuano a sviluppare quei sistemi.
Amodei ha proposto qualcosa di simile a un limite di velocità sulla RSI, paragonandolo ai tetti sulle testate nucleari.