// TOM'S HARDWARE ITALIA — HARDWARE & GADGET
La nuova frontiera della digitalizzazione arriva dalla Cina
Baidu ha rilasciato un modello OCR che promette di risolvere un problema rimasto irrisolto per anni: leggere documenti lunghi senza che la qualità crolli dopo le prime pagine. Il nome, Unlimited OCR, è ambizioso. I numeri, in parte, lo giustificano.
Chi lavora con l'estrazione automatica di testo da PDF sa dove sta il problema. Leggere una pagina è facile. Leggerne quaranta di fila senza che il sistema perda il filo, molto meno. I modelli OCR basati su architetture linguistiche accumulano contesto a ogni pagina processata: la cosiddetta KV cache, la memoria che il modello costruisce token dopo token, cresce senza controllo. Dopo una decina di pagine il costo computazionale esplode, e la qualità del riconoscimento peggiora insieme.
I sistemi di riconoscimento ottico basati su modelli linguistici funzionano bene su singole pagine. Il guaio comincia con i documenti multi-pagina, quelli che servono davvero alle aziende: contratti, fascicoli, referti clinici, archivi contabili. Ogni pagina aggiunge token alla memoria del modello, e quella memoria non dimentica nulla.
Il risultato pratico è un compromesso scomodo. O si processano le pagine una alla volta, perdendo i riferimenti incrociati tra le parti del documento, o si accetta un degrado di accuratezza man mano che il testo si allunga. DeepSeek OCR, il predecessore diretto di questo modello, ha già sperimentato un approccio alternativo: comprimere il testo in immagini per abbattere i costi di calcolo. Un'idea valida, ma che non risolveva il nodo della memoria che si accumula pagina dopo pagina.
Il mercato dell'estrazione dati documentale enterprise vale miliardi, e chi tratta grandi volumi di scansioni lo sa: estrarre dati da un archivio di migliaia di pagine richiede un compromesso tra precisione e costo che nessun fornitore, finora, aveva chiuso in modo soddisfacente.
Il meccanismo alla base di Unlimited OCR si chiama Reference Sliding Window Attention, abbreviato R-SWA. L'idea centrale imita, in modo grezzo, un tratto della cognizione umana: dimenticare selettivamente ciò che non serve più, mantenendo intatto ciò che conta.
Ogni token generato dal modello vede sempre tutti i token di riferimento, cioè l'immagine originale del documento e il prompt che guida l'elaborazione. Su questo fronte, nessuna perdita di informazione. Ma per il testo già prodotto in output, il modello guarda indietro solo agli ultimi 128 token, una finestra fissa che scorre in avanti mano a mano che la generazione procede. Il resto della cronologia testuale generata viene scartato dalla memoria attiva.
C'è un'eccezione strutturale importante: i token visivi, quelli che rappresentano l'immagine della pagina, sono esentati dallo scorrimento. Vengono codificati una sola volta e restano invariati per tutta l'elaborazione, senza subire il taglio della finestra scorrevole.
L'architettura che sostiene questo meccanismo combina un DeepEncoder, ereditato senza modifiche da DeepSeek OCR, con un decoder MoE (mixture of experts) da 3 miliardi di parametri totali, di cui solo circa 500 milioni attivi a ogni passaggio di inferenza. Il DeepEncoder comprime un'immagine PDF di 1024x1024 pixel in appena 256 token, un rapporto di compressione che spiega buona parte dell'efficienza del sistema. Il modello lavora in due modalità: "Base", pensata per documenti multi-pagina, e "Gundam", che punta su risoluzione dinamica per la singola pagina complessa.
Il training ha usato circa 2 milioni di documenti campione, con un rapporto di 9 a 1 tra pagina singola e multi-pagina, su sequenze da 32.000 token e 4.000 step distribuiti su 8 nodi con 16 GPU Nvidia A800 ciascuno.