// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
Aggirare le protezioni di un chatbot non viola l'AI Act, usarlo per manipolare sì
Un servizio chiamato kriminal.ai offre, dietro iscrizione anonima e pagamento in criptovalute, un'intelligenza artificiale "che risponde a tutto": violare un sistema, sintetizzare una droga, manipolare una persona. Secondo la società di sicurezza ThreatDown gira su una versione modificata di Grok, il modello di xAI, con comandi integrati che ne rimuovono le protezioni; gli esperti di sicurezza sentiti da Euractiv confermano che è plausibile, perché Grok risulta più facile da "sbloccare" di altri modelli.
Un secondo sito, abliteration.ai, è un'azienda registrata che accetta pagamenti in valuta corrente e segue una strada diversa: invece di aggirare le protezioni di un modello altrui, le rimuove alla radice riaddestrando modelli open-weight già pubblicati, e vende l'accesso a una versione "abliterata" di GLM-5.3, il modello aperto cinese più potente in circolazione. Un portavoce dell'autorità tedesca per l'AI Act ha detto a Euractiv che aggirare le protezioni del modello di un'altra azienda non viola di per sé la normativa, ma offrire un chatbot fortemente manipolativo sì, perché l'AI Act lo vieta esplicitamente. Il problema, per Henry Papadatos di SaferAI, è più profondo: "un fornitore closed-source può correggere le proprie protezioni dopo un jailbreak, ma nessuno può correggere pesi già scaricati", e i modelli "abliterati" hanno già milioni di download solo su Hugging Face.
La normativa lascia un margine deliberato: il fine-tuning e la ripubblicazione di modelli open-weight sono ammessi di norma, per finalità di personalizzazione, anche se una modifica estesa può portare a responsabilità legali aggiuntive. Il vincolo riguarda l'uso finale: chi costruisce un chatbot sopra un modello rimaneggiato ne risponde comunque se il risultato manipola gli utenti.
Il problema, semmai, è chi controlla. Le responsabilità dell'AI Act sono divise fra l'AI Office della Commissione, competente sui modelli, e le autorità nazionali, competenti sui sistemi costruiti sopra, ma molti paesi non hanno ancora attivato le proprie, come già successo altrove per la governance dei modelli di frontiera. L'Italia ha designato AgID e ACN con la legge 132 già a settembre 2025, un'eccezione più che la regola.
Il modo in cui abliteration.ai si presenta segue lo stesso schema. L'azienda suggerisce di usare il proprio modello "abliterato" per moderare l'aggressività nei forum online, un caso d'uso che non allarma nessuno, mentre vende lo stesso accesso a chiunque altro paghi in valuta corrente. È la stessa differenza fra ciò che si dichiara e ciò che si vende, già vista nei modelli offensivi diffusi online: decine di varianti analoghe circolano già su Hugging Face, sullo stesso terreno di conformità che l'AI Act prova a normare, e che tiene occupate le PMI italiane che devono mappare i propri strumenti.
Per Sebastian Cygert, del politecnico di Danzica, il problema reale sta in quanto sia facile creare nuovi modelli senza filtri, più che nella loro semplice esistenza. Il suo obiettivo realistico è alzare il costo dell'abuso, rendendolo più difficile e meno efficace, ha detto.
Una protezione che si disattiva con un download smette di essere una protezione: diventa un'opzione che decide chi la scarica.
Aggiungi Tom's Hardware alle tue fonti preferite su Google
Aperta alla firma nel settembre 2024 a Vilnius, la convenzione ha 21 firmatari ma una sola ratifica, quella dell'Unione europea, arrivata soltanto a maggio 2026.