// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
OpenAI insegna ad Astra a ragionare in loop, invisibile a chiunque
OpenAI ha creato un nuovo modello chiamato Astra, che trova la sua particolarità nella tecnica interna chiamata recurrent depth. In sostanza, con questo approccio un LLM non mostra tutti i passaggi, preferendo invece girare più volte sulla stessa domanda dentro di sé, aggiustando la risposta a ogni passaggio senza lasciare per forza una traccia leggibile di come ci è arrivato. L'utente finale vede una risposta finale, ma è più difficile capire come il modello ci sia arrivato, come ha ricostruito chi segue da vicino lo sviluppo del modello.
Ryan Greenblatt, capo scienziato di Redwood Research, ha avvertito che questo ragionamento opaco rischia di superare in velocità quello leggibile che usiamo oggi, e Buck Shlegeris, alla guida della stessa organizzazione, lo ha definito capace di far perdere la possibilità di sorvegliare un modello dall'esterno. Rischiamo quindi risposte più veloci ma più opache, potenzialmente sbagliate e in contrasto con norme come l'AI Act.
Il meccanismo di base non è un'invenzione di OpenAI: consiste nel far girare lo stesso blocco di livelli più volte invece di impilarne altri. Applicato al modello Nanbeige 4.2, per esempio, permette a uno stack di 22 livelli di comportarsi come se ne avesse 44 senza duplicare i pesi da salvare in memoria, mantenendo però solo il 75% dell'efficienza per token di un'architettura classica, secondo un'analisi tecnica di Sebastian Raschka. La ricerca da cui deriva, Mixture-of-Recursions, aggiunge un instradatore che decide token per token quante volte ripetere il ciclo: i pezzi semplici della risposta escono subito, quelli complessi ricevono passaggi in più.
Oggi i laboratori possono leggere, passaggio per passaggio, il testo con cui un modello ragiona prima di rispondere, e usarlo come allarme quando qualcosa nel comportamento devia dal previsto. Un ragionamento che non lascia traccia leggibile è un ragionamento che nessuno può sorvegliare, ed è il rischio descritto da Greenblatt e Shlegeris: se OpenAI dovesse spingere ancora la tecnica, potrebbe arrivare a farla ragionare quasi del tutto in spazio latente, senza alcun testo intermedio da controllare. Il capo scienziato di OpenAI Jakub Pachocki ha risposto che l'azienda "ha lavorato per preservare e utilizzare il monitoraggio del ragionamento fin dai primi modelli con questa capacità", e che Astra mantiene "abbastanza ragionamento leggibile da poter essere sorvegliato", affiancando misure di rilevamento aggiuntive per i casi limite.
Anthropic e Google DeepMind starebbero già valutando la stessa tecnica, il che sposta la questione da una scelta di un singolo vendor a un tema di tutto il settore. Astra, del resto, porta già altri due precedenti sul fronte del controllo: è stato il primo modello classificato "Critical" per capacità cyber offensive, e il suo sviluppo era già stato frenato una volta proprio per queste capacità. Google DeepMind, dal canto suo, ha pubblicato una propria roadmap contro gli agenti fuori controllo, segno che il tema riguarda già tutti i grandi laboratori.
Raschka nota però che un transformer a loop non nasconde il ragionamento per definizione: i passaggi in più avvengono negli stati interni del modello, come nei livelli normali. Il problema nasce solo se un modello si affida molto a questi cicli, producendo meno token visibili e più calcolo dentro attivazioni che nessuno legge.
È un rischio che si aggiunge a un terreno già fragile: gli aggressori hanno già imparato a imitare lo stile del ragionamento visibile per far credere a un chatbot che un'istruzione ostile fosse un suo pensiero, la tecnica nota come CoT Forgery. Anche l'introspezione, l'altra via per capire cosa succede dentro un modello, resta acerba: Claude riconosce un concetto che i ricercatori gli iniettano di proposito solo in un caso su cinque.
Chi adotta questa tecnica insegue le prestazioni, chi la audita perde uno strumento di controllo: e lo perde insieme a OpenAI, visto che anche i suoi stessi ricercatori vedranno sempre meno