// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
Quando l'AI farà la sua Chernobyl, sarà tardi per preoccuparsene
A una conferenza sull'AI a Pechino, Stephen Casper del MIT ha dichiarato che il settore non ha bisogno di "un momento Chernobyl". La frase è diventata titolo, ma il contenuto è più preciso di quanto sembri: il vero timore è che un incidente grave danneggi la percezione pubblica del settore in modo irreversibile, esattamente come l'esplosione del reattore numero quattro seppellì l'energia nucleare in Occidente non per ragioni fisiche, ma politiche.
Il nucleare non è morto a Chernobyl perché i reattori successivi fossero pericolosi. È morto perché il disastro ha reso impossibile difendere pubblicamente la tecnologia. La distinzione è importante: il danno reale dell'incidente è stato superato, in termini di morti e malattie, da altri rischi accettati senza discussione. Ma la narrativa si era chiusa, e con essa i finanziamenti, i permessi, la carriera politica di chi avrebbe voluto costruire nuove centrali.
Un incidente sufficientemente visibile potrebbe bloccare un settore che, per molti aspetti, sta ancora cercando di capire se stesso. È così che l'analogia con l'AI prende forma. Casper e Lin Yun, ricercatrice della Shanghai Jiao Tong University, non parlano di catastrofe esistenziale. Parlano di un evento che concentri abbastanza attenzione negativa da rendere politicamente costoso continuare a sviluppare modelli avanzati.
Il focus della discussione a Pechino era la cybersecurity, e ha senso. Gli agenti AI e i tool per la scrittura di codice potrebbero ampliare gli attacchi su scala, abbassando la soglia di competenza tecnica necessaria per condurli. Mythos 5, citato come esempio dai ricercatori, sarebbe in grado di "violare ogni sistema operativo e browser principale": è il tipo di capacità che abbatte la barriera d'ingresso per chi vuole fare danni, non costruisce difese migliori.
I modelli open source complicano ulteriormente il quadro. Una fonte anonima da un'azienda AI cinese ha dichiarato che le preoccupazioni di sicurezza sono il motivo per cui i modelli avanzati sviluppati in Cina non vengono più rilasciati in modalità aperta. È una scelta che va nella direzione opposta alla narrativa sull'open source come garanzia di trasparenza: chi conosce le capacità reali di questi modelli tende a chiudere l'accesso, non ad aprirlo.
Casper paragona la situazione a quella dell'accordo USA-Unione Sovietica per frenare le minacce nucleari durante la Guerra Fredda: due potenze in competizione che trovano un perimetro comune sul rischio, perché entrambe hanno da perdere se il perimetro salta. Lin Yun osserva che se i paesi capiscono i rischi nello stesso modo, diventa più facile sviluppare principi di sicurezza condivisi.
Il paradosso è visibile: la stessa conferenza che invoca cooperazione si tiene mentre gli Stati Uniti limitano l'export di chip verso la Cina e bloccano i modelli Anthropic per "sicurezza nazionale". USA e Cina sono i leader assoluti nell'AI per finanziamenti, talento e capacità computazionale. Il settore ha la struttura di un duopolio con dinamiche da corsa agli armamenti, e la cooperazione sui rischi si invoca esattamente nel momento in cui la competizione è più accesa.
La conversazione sul "momento Chernobyl" si ripresenta con una certa regolarità nel dibattito sull'AI. Ogni nuovo modello che supera una soglia di capacità riapre la discussione sui rischi, produce un ciclo di allarme e rassicurazione, e poi si chiude senza modificare in modo strutturale né le pratiche di sviluppo né la governance. Il problema non è la mancanza di consapevolezza del rischio: è che la struttura degli incentivi non cambia abbastanza velocemente da rendere la prevenzione più conveniente della corsa.
Chi ha già visto un governo bloccare un modello per due settimane senza comunicare i criteri tecnici sa come funziona la regolazione del settore in pratica: per atti discrezionali, senza standard verificabili, con tempistiche che dipendono da negoziazioni politiche. L'incidente Chernobyl che preoccupa Casper potrebbe non essere un att