// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
Claude e armi biologiche: Anthropic lancia l’allarme
Appena due giorni fa, Jacob Coxon, ingegnere presso Anthropic, si è dimesso accusando i giganti dell’AI di giocare con le nostre vite. In causa, è lo sviluppo di modelli capaci di migliorarsi da soli, il che rischia di renderli fuori controllo.
Il suo collega, Evan Hubinger, responsabile della sicurezza presso la startup, ha dal canto suo stimato a oltre il 10% la probabilità che l’AI uccida tutti gli esseri umani entro dieci anni. Il nuovo rapporto di Anthropic, non è francamente rassicurante…
L’azienda ha documentato nel dettaglio gli usi impropri di Claude negli ultimi mesi, tra i quali la messa a punto di armi biologiche. Ad esempio, un ricercatore ha richiesto l’aiuto del modello per redigere una domanda di sovvenzione scientifica riguardante il chikungunya, un virus trasmesso dalle zanzare che provoca prolungati dolori articolari e muscolari.
Concretamente, il progetto mirava a rendere questo virus più pericoloso, modificandolo geneticamente e inoculandolo ripetutamente ad animali vivi. Sebbene questo tipo di ricerca possa legittimamente sfociare nella produzione di vaccini, Anthropic ha nutrito sospetti su questa richiesta. Benché presentata come ricerca civile, lo studio sarebbe stato in realtà condotto in un istituto militare.
Anthropic non ha rivelato né il nome dei ricercatori, né quello delle istituzioni coinvolte, né il loro paese d’origine. Ha invece bannato tutti gli account legati a questa attività, smantellato le reti utilizzate per aggirare i suoi blocchi geografici e trasmesso le proprie conclusioni ad altri laboratori di AI nonché al governo federale americano.
Si tratta di un rischio a cui l’azienda si era preparata. Alcuni mesi fa, aveva reclutato uno specialista di armi chimiche per entrare nel suo team di politica di sicurezza, incaricato di testare i limiti dei suoi modelli di fronte a questo tipo di richieste altamente sensibili.
Ma non è tutto. Il rapporto fa rabbrividire anche per altri Paesi. Attori legati alla Cina e all’Iran hanno, ad esempio, utilizzato Claude per sorvegliare comunità dissidenti e della diaspora, mentre media di Stato russi se ne sono serviti per propaganda online mascherata da reportage indipendente.
Allo stesso modo, l’AI viene sfruttata per progettare software destinato ad armi convenzionali (armi da fuoco, missili, droni armati, bombe), con casi censiti in Cina, Russia e Yemen.
Ecco perché sempre più voci si levano per frenare lo sviluppo dell’AI. I leader che ci governano faranno orecchi da mercanti?