// TOM'S HARDWARE ITALIA — HARDWARE & GADGET
Quiz: quanto ne sai davvero sull'IA in locale?
Negli ultimi anni l'intelligenza artificiale generativa è entrata prepotentemente nelle nostre vite, ma quasi sempre attraverso servizi cloud: apriamo un browser, digitiamo una richiesta e la magia avviene su server remoti a migliaia di chilometri di distanza. Esiste però un movimento sempre più ampio di appassionati, sviluppatori e semplici curiosi che ha scelto una strada diversa: far girare i modelli direttamente sul proprio hardware, senza inviare un solo byte al cloud.
Eseguire l'IA in locale significa privacy totale, indipendenza dagli abbonamenti mensili e la possibilità di lavorare anche offline. Ma dietro questa apparente semplicità si nasconde un ecosistema tecnico affascinante e in rapida evoluzione, fatto di strumenti, formati di file e trucchi di ottimizzazione che permettono di far entrare modelli enormi anche in un normale laptop.
Chi si avvicina a questo tema scopre presto un vocabolario tutto particolare. C'è Ollama, il software che con un semplice comando da terminale scarica ed esegue un modello linguistico; c'è llama.cpp, il progetto in C/C++ nato dal genio di Georgi Gerganov che ha reso possibile l'inferenza persino sulle CPU di casa. E poi ci sono i formati come il GGUF, pensato proprio per distribuire modelli compatti e pronti all'uso.
Il vero segreto che rende tutto questo possibile è la quantizzazione: riducendo la precisione dei pesi di un modello, si abbassa drasticamente il consumo di memoria. Ecco perché un modello da 7 miliardi di parametri, che sulla carta sembrerebbe fuori portata, può girare comodamente su un computer con pochi gigabyte di RAM disponibili.
Non è solo questione di software. La GPU e la sua VRAM restano i componenti più critici per un'inferenza veloce, mentre soluzioni come la memoria unificata dei chip Apple Silicon hanno cambiato le regole del gioco. E per chi vuole spingersi oltre, ci sono tecniche come LoRA per il fine-tuning efficiente e il RAG per collegare i modelli ai propri documenti privati.
Quanto conosci davvero questo universo? Dalle domande più semplici sui concetti di base fino a quelle decisamente tecniche su hardware e ottimizzazione, questo quiz mette alla prova la tua preparazione a difficoltà crescente. Che tu sia un curioso alle prime armi o uno smanettone con la GPU sempre accesa, è il momento di scoprire quanti punti riesci a portare a casa.
Preparati, prenditi il tuo tempo e vediamo se saprai rispondere correttamente a tutte le domande sull'IA in locale. Buona sfida!
Aggiungi Tom's Hardware alle tue fonti preferite su Google