// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
Allucinazioni AI, un nuovo metodo aiuta a svelarle più facilmente
Un gruppo di ricercatori di Skoltech e del centro di intelligenza artificiale di Sberbank ha pubblicato su ACL 2026 un metodo chiamato TOHA, che legge la forma delle matrici di attenzione del modello invece di generare risposte multiple. Sugli stessi compiti di question-answering e sintesi, ha ottenuto risultati comparabili o superiori ai metodi esistenti richiedendo molta meno potenza di calcolo, secondo quanto dichiarato dal ricercatore Aleksey Zaytsev. La sigla sta per topology-based hallucination detector, e la sua uscita è stata ripresa dai media di settore a inizio settembre.
La nuova soluzione potrebbe rivelarsi utile a individuare le allucinazioni e soprattutto a capire quando un LLM produce una risposta plausibile ma sbagliata. Si tratta, in altre parole, di un tentativo di affrontare da un punto di vista tecnico il problema dell'epistemìa, descritto dal gruppo di ricerca guidato dal professor Walter Quattrociocchi. La soluzione preferibile resterebbe sempre un umano competente capace di riconoscere le risposte sbagliate ma formalmente impeccabili, ma è una soluzione difficile da applicare su larga scala.
TOHA legge come il modello si muove al proprio interno mentre genera una risposta, un segnale strutturale invece che semantico. Rappresenta le matrici di attenzione come grafi e calcola una divergenza topologica, chiamata MTop-Div, fra il sottografo che corrisponde al contesto originale e quello della risposta generata. Nello studio pubblicato, certi gruppi di attenzione mostrano una divergenza più alta proprio quando la risposta si allontana dai fatti di partenza, in qualunque compito o insieme di dati.
Un modello linguistico genera sempre la parola più probabile, e un'allucinazione è un testo plausibile che si stacca dai fatti senza che nulla, nel testo stesso, lo segnali. Altri gruppi di ricerca attaccano lo stesso problema da un'altra direzione, per esempio ridisegnando il database che alimenta le risposte invece di leggere cosa succede dentro il modello.
SelfCheckGPT, il metodo di confronto più usato oggi, genera dalle 10 alle 20 risposte alla stessa domanda e le confronta fra loro: un lavoro che pesa sul portafoglio quanto sui tempi di risposta. TOHA si accontenta di una sola generazione aggiuntiva e, nei test degli autori, gira in 2 secondi contro i 10 e mezzo di SelfCheckGPT sullo stesso lotto di campioni. Per calibrarlo bastano appena 50 risposte già annotate a mano.
Sui test citati nello studio, TOHA supera SelfCheckGPT nella maggior parte dei confronti: su SQuAD raggiunge 0,96 di accuratezza contro lo 0,71, su MS MARCO 0,76 contro 0,63. Il metodo è già confluito in SIRIN, una libreria open source pensata per gli assistenti aziendali, e Sergey Ryabov di Sberbank la riassume così: "l'affidabilità non richiede per forza costi alti".
Il mercato oggi offre l'alternativa opposta: un modello come DeepSeek V4 Flash costa cento volte meno di Claude Fable 5 ma allucina nell'84% dei casi, e Qwen3.8 Max ha quasi raddoppiato il proprio tasso di invenzioni pur di avvicinare Claude Opus nei punteggi. Un'azienda che oggi rinuncia a controllare ogni risposta perché il controllo costa quanto il modello stesso è esattamente il pubblico a cui TOHA si rivolge.
TOHA non decide se una risposta è vera: segnala dove guardare. La decisione finale, se pubblicarla, spedirla a un cliente o metterla in un referto, resta un giudizio umano: cambia solo quante risposte, di tutte quelle prodotte in produzione, arrivano davvero sotto quegli occhi.
Aggiungi Tom's Hardware alle tue fonti preferite su Google
Il nuovo modello di Alibaba pareggia Claude Opus 4.8, supera Kimi K3 nei compiti di lavoro, ma le allucinazioni salgono dal 23 al 40%.