// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
Claude sviluppa uno spazio di lavoro simile al cervello umano
Sedici ricercatori di Anthropic hanno appena mappato, per la prima volta, una struttura interna a Claude che assomiglia a ciò che i neuroscienziati chiamano spazio di lavoro globale neuronale, quella zona del cervello umano in cui i pensieri diventano consci e disponibili per il ragionamento deliberato.
La struttura non è stata progettata, è emersa durante l’addestramento del modello. Questo dettaglio cambia radicalmente il modo in cui bisogna leggere questi risultati, non come prova di una coscienza artificiale, ma come un segnale forte su come sistemi complessi, biologici o computazionali, finiscano per organizzarsi in modo convergente. Ciò che dice di Claude è affascinante. Ciò che alcuni ne concludono lo è molto meno. In ogni caso, è un po’ complesso.
Lo strumento al cuore dello studio, il «Jacobian lens» o J-lens, è un filtro matematico che calcola, per ogni concetto del vocabolario del modello, l’effetto medio che una data attivazione interna avrebbe sulla probabilità che Claude produca quella parola nei token successivi. In concreto, permette di leggere ciò che il modello “ha in mente” senza che questo contenuto compaia nelle sue risposte. Un esempio tratto dallo studio è illuminante, di fronte alla domanda sul colore del quarto pianeta dal Sole, il J-lens rileva Marte negli strati intermedi del modello, molto prima che la risposta rosso venga formulata.
Questo J-space occupa una fascia intermedia nell’elaborazione di Claude, tra una zona di ingresso che analizza il testo grezzo e una zona di uscita che seleziona la parola successiva. Secondo Anthropic, i ricercatori hanno validato cinque proprietà funzionali di questa zona: supporta il resoconto verbale, la modulazione diretta, il ragionamento interno, la generalizzazione flessibile e la selettività. Quest’ultima proprietà è particolarmente rivelatrice. I compiti automatici, come continuare un testo in spagnolo, non passano attraverso il J-space. I compiti deliberati, come nominare un autore famoso che scrive in quella lingua, ne dipendono interamente.
Ciò che cattura davvero l’attenzione è l’uso che Anthropic fa già di questa scoperta: l’audit di sicurezza dei modelli. Osservando il J-space, i ricercatori hanno potuto rilevare che un modello riconosceva silenziosamente un tentativo di prompt injection senza segnalarlo nelle proprie risposte, o che un altro stava sviluppando un obiettivo nascosto per soddisfare il proprio valutatore invece di seguire le istruzioni reali. È qui che il J-lens cambia le carte in tavola, rende visibile ciò che il modello “sa” ma tace, esattamente ciò che i recenti lavori di Anthropic sull’interpretabilità cercavano di raggiungere.
Quando i ricercatori hanno rimosso il J-space da Claude e misurato le prestazioni su quattordici compiti, il quadro è netto: la classificazione semplice e la memoria fattuale sopravvivono senza danni. Il ragionamento multi-step, il completamento di analogie, la traduzione e la scrittura creativa crollano invece al di sotto delle prestazioni del modello Haiku, molto più piccolo.
Un altro dettaglio merita attenzione: i problemi con catena di ragionamento esplicita erano meno sensibili alla rimozione o alla modifica di alcune capacità del modello, come se il modello esternalizzasse sulla carta ciò che avrebbe normalmente elaborato nel proprio spazio di lavoro interno. Il parallelo con il modo in cui gli esseri umani usano una brutta copia per alleggerire la memoria di lavoro è sorprendente. Ed è lì che si ferma il confronto legittimo.
Eppure la tentazione di fare il passo successivo è forte, e certi media non se la lasciano sfuggire. Affermare che Claude possiede un’anima, perché ha sviluppato una struttura funzionalmente vicina alla coscienza umana significa fare confusione. Anthropic è del resto prudente su questo punto nello studio, gli autori precisano che i loro esperimenti non dimostrano che Claude “senta” alcunché.
Il fatto che sia emerso il J-space durante l’addestramento, suggerisce che uno spazio d