// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
Come funziona Survival LLM, il chatbot offline per le emergenze
La connessione a Internet è una di quelle cose che diamo per scontate finché non smette di funzionare. Di solito succede nel momento peggiore, un temporale abbatte un traliccio, la corrente salta, il telefono ha ancora qualche tacca di batteria, ma il segnale dati oscilla tra una barra e il nulla. È in quei momenti che vengono in mente le domande più urgenti… Tipo quanto resistono i cibi nel frigorifero spento, la serratura smart si apre lo stesso? e ci si accorge che senza la connessione non si ha modo di trovare le risposte. I chatbot che si usano tutti i giorni, da ChatGPT a Claude, dipendono da enormi centri di calcolo raggiungibili solo attraverso la rete. Senza rete, nisba.
È da questa constatazione piuttosto banale che nasce l’interesse per uno strumento diverso: un chatbot gratuito e a codice aperto, chiamato Survival LLM, progettato per funzionare interamente sul proprio computer anche quando la connessione non c’è. Una volta installato e configurato, mette a disposizione un milione e mezzo di articoli sugli argomenti più disparati, il tutto senza mai inviare una sola richiesta a un server remoto.
Il principio è l’opposto di quello che fanno i chatbot tradizionali. Invece di inviare le domande a un centro di calcolo esterno e attendere la risposta, Survival LLM esegue un modello di intelligenza artificiale direttamente sulla macchina dell’utente. Accanto al modello installa una biblioteca di materiale di riferimento scaricato in anticipo, articoli provenienti da fonti come l’enciclopedia libera, archivi medici pubblici, guide dell’agenzia federale per la gestione delle emergenze, indicazioni dei centri per il controllo delle malattie e manuali di riparazione di iFixit, la nota piattaforma dedicata alla riparazione di dispositivi e apparecchi.
L’archivio completo contiene circa un milione e mezzo di articoli, di cui circa 930.000 provenienti dall’enciclopedia libera. La copertura è ampia e concreta, ed è tutto consultabile senza aprire un navigatore e senza che il computer sia collegato alla rete.
Una caratteristica particolarmente apprezzabile è la trasparenza delle risposte. Il chatbot non si limita a fornire un’informazione, mostra anche gli articoli da cui l’ha ricavata e permette di leggere direttamente i passaggi pertinenti. Quando si tratta di consigli che riguardano la salute o la sicurezza, poter verificare la fonte con i propri occhi non è un dettaglio di poco conto.
Il programma consente inoltre di aggiungere i propri documenti: manuali di istruzioni, piani familiari di emergenza, contatti utili, guide specifiche in formato testo o documento. Tutto viene indicizzato e reso consultabile insieme alla biblioteca preinstallata. I dati inseriti, secondo quanto dichiarato dallo sviluppatore, restano sul computer e non vengono mai trasmessi all’esterno.
Se tutto questo suona troppo bello per essere vero, è perché c’è un aspetto da considerare. Lo sviluppatore stesso pubblica i risultati dei propri test di accuratezza, e i numeri non sono uniformi.
Su ventidue domande relative a emergenze e primo soccorso, i modelli più grandi e potenti hanno risposto correttamente a ventuno. Un risultato eccellente. Ma il modello raccomandato per i computer con una quantità di memoria compresa tra 16 e 31 gigabyte, vale a dire la fascia in cui rientra la maggior parte dei portatili in circolazione, ha centrato solo quattordici risposte su ventidue. Poco più del sessanta per cento. In un contesto dove una risposta sbagliata può riguardare un’ustione, un avvelenamento o un’allergia alimentare, quel margine di errore non è trascurabile.
Va precisato che questi risultati provengono dai test interni dello sviluppatore su una versione precedente della biblioteca, non da verifiche indipendenti. La capacità del programma di mostrare le fonti originali delle risposte funziona come una rete di sicurezza, ma non garantisce che il modello le abbia interpretate correttamente. In altre parole: il chatbot può indicare l’articolo giusto e