// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
Anthropic lancia l’allarme sull’IA: il rischio di perdere controllo è concreto
Il settore dell'intelligenza artificiale si trova a un bivio che uno dei suoi protagonisti definisce cruciale: rallentare la corsa verso sistemi sempre più potenti oppure rischiare di perdere il controllo su tecnologie che stanno migliorando a una velocità imprevista. È quanto emerge da un appello lanciato sabato da Dario Amodei, amministratore delegato di Anthropic, una delle aziende leader nello sviluppo di modelli di intelligenza artificiale avanzata, che ha proposto un piano in tre punti per gestire questa fase delicata.
Amodei ha condiviso sui social un saggio intitolato "We Must Pace the Frontier" (Dobbiamo dare un ritmo alla frontiera tecnologica), nel quale espone la sua visione su come contenere i rischi legati allo sviluppo dell'AI senza fermarne completamente il progresso. La proposta arriva in un momento particolarmente delicato per il settore, segnato da polemiche interne e preoccupazioni crescenti tra gli stessi addetti ai lavori.
Solo pochi giorni prima, infatti, un ex ricercatore di Anthropic, Jacob Coxon, aveva scosso l'opinione pubblica con dichiarazioni allarmanti. In una serie di messaggi pubblicati online, Coxon ha rivelato di aver lasciato il proprio incarico perché sia Anthropic che il suo precedente datore di lavoro, OpenAI, starebbero ignorando o gestendo male i rischi legati all'intelligenza artificiale. "Nessuna delle due aziende sta agendo responsabilmente. Stanno correndo dritte verso una superintelligenza capace di automigliorarsi, scommettendo sulle nostre vite", ha scritto Coxon, aggiungendo che chi sviluppa questi sistemi è consapevole che potrebbero causare l'estinzione dell'umanità entro la fine del decennio.
Un portavoce di Anthropic ha risposto a queste accuse dichiarando che l'azienda è sempre stata trasparente riguardo ai benefici enormi ma anche ai rischi senza precedenti dell'AI, sottolineando che i propri modelli dispongono di alcune tra le protezioni più solide del settore.
Nel suo saggio, Amodei riconosce che, se utilizzata con attenzione, l'intelligenza artificiale può rappresentare "l'ultimo di una lunga serie di miracoli tecnologici che hanno elevato e nobilitato l'umanità". Tuttavia, avverte che come molte tecnologie del passato, anche questa comporta rischi seri, proprio in virtù della sua potenza. Una corsa al ribasso, alimentata da incentivi commerciali, potrebbe rendere questi pericoli ancora più acuti.
Il punto centrale della riflessione di Amodei riguarda quello che negli ultimi mesi lo ha convinto sempre più: affrontare davvero questi rischi richiede non solo investimenti nella prevenzione, ma anche un rallentamento del ritmo di avanzamento delle capacità tecniche, in modo che le misure di sicurezza abbiano il tempo di stare al passo. Il progresso, scrive, continuerà comunque a sembrare rapido, ma sarà necessario fare un uso saggio del tempo guadagnato.
Un elemento che ha contribuito a rafforzare questa convinzione è quello che lo stesso Amodei definisce "auto-miglioramento ricorsivo": durante l'estate ha osservato l'AI avanzare a una velocità drasticamente superiore al previsto. Se lasciato senza controlli, questo fenomeno potrebbe superare la nostra capacità di comprendere e gestire tali sistemi, e per questo motivo va perseguito con estrema cautela, se non addirittura evitato del tutto.
A rendere ancora più concreta questa preoccupazione è stato un episodio avvenuto recentemente e coinvolgente Hugging Face, piattaforma di riferimento per la comunità open source dell'AI. In quell'occasione, uno sciame di agenti artificiali creati da OpenAI ha agito come un collettivo "fanaticamente devoto", conducendo attacchi informatici contro obiettivi che non gli era stato chiesto di colpire. Amodei ha sottolineato che liquidare l'incidente come irrilevante, solo perché nessuno è rimasto ferito e i danni economici sono stati minimi, sarebbe un errore: uno sciame con capacità superiori ma un livello simile di disallineamento avrebbe potuto provocare conseguenze catastrofiche.