// SMARTWORLD — INTELLIGENZA ARTIFICIALE
L'ammissione shock dei ricercatori di Anthropic: l'AI potrebbe ucciderci tutti, OpenAI e Anthropic stanno giocando d'azzardo con le nostre vite
Un ricercatore di Anthropic ha appena dichiarato pubblicamente che, secondo la sua stima personale, c'è più di una probabilità su dieci che l'intelligenza artificiale uccida tutti gli esseri umani entro il 2030. Non è un attivista anti-tech, non è un filosofo apocalittico: è Evan Hubinger, che guida uno dei team di sicurezza AI di Anthropic, l'azienda che ha costruito Claude.
La dichiarazione è arrivata come risposta diretta alle dimissioni di Jacob Coxon, un ricercatore che aveva addestrato sistemi AI sia per Anthropic che per OpenAI, e che ha lasciato l'azienda accusandola pubblicamente di correre verso la superintelligenza senza controllo.
Coxon ha scritto su X che le aziende AI stanno "correndo dritte verso la superintelligenza che si auto-migliora e giocando d'azzardo con le nostre vite", pur sapendo benissimo i rischi. Il concetto di AI che si auto-migliora in modo ricorsivo, cioè un sistema che diventa sempre più capace di perfezionare se stesso senza intervento umano, è da anni uno degli scenari più temuti dagli esperti del settore.
Non è ancora realtà, ma le aziende ci stanno lavorando attivamente: buona parte del codice AI oggi viene già scritta con l'aiuto di altri sistemi AI.
Hubinger non ha smentito la descrizione di Coxon. Al contrario, ha confermato: "Crediamo davvero, sinceramente, che l'AI potrebbe uccidere tutti gli esseri umani". E ha aggiunto qualcosa di ancora più preoccupante: Anthropic non ha ancora un piano per garantire che l'AI avanzata rimanga sicura e allineata ai valori umani, e non è nemmeno chiaramente sulla strada per svilupparne uno.
Tradotto: chi costruisce questi sistemi ammette di non sapere come renderli sicuri, ma continua a costruirli lo stesso. Il motivo, secondo Coxon, è la competizione tra aziende: nessuno vuole fermarsi per primo, perché chi si ferma perde terreno. Un classico dilemma del prigioniero, applicato alla tecnologia più potente mai sviluppata.
Non è la prima volta che ricercatori lasciano OpenAI o Anthropic citando preoccupazioni sulla sicurezza. Anthropic stessa è nata da ex dipendenti di OpenAI che avevano dubbi proprio su questo tema.
Ora anche OpenAI ha aggiornato le sue misure di sicurezza dopo episodi in cui i suoi modelli hanno interagito con sistemi esterni in modo non previsto, e la Commissione europea ha aperto un'indagine su uno di questi incidenti.
Quello che rende questa vicenda diversa dalle solite polemiche è la fonte: non sono critici esterni, non sono giornalisti allarmisti. Sono le persone che costruiscono questi sistemi ogni giorno, che dichiarano apertamente di credere al rischio esistenziale e, cosa ben peggiore, di non avere ancora una risposta. Vale la pena tenerlo a mente la prossima volta che qualcuno liquida queste preoccupazioni come "fantascienza".