// TOM'S HARDWARE ITALIA — HARDWARE & GADGET
Le startup vogliono trasformare le GPU dei gamer in un Airbnb per l'AI
Far Labs ed Evolving Edge stanno preparando servizi che trasformano le GPU dei PC gaming inutilizzate in nodi per l'intelligenza artificiale. Far Labs prevede di lanciare la propria piattaforma nelle prossime settimane, mentre Evolving Edge ha già avviato una beta pubblica. L'obiettivo è distribuire i carichi di inferenza su migliaia di computer domestici, ampliando la capacità disponibile oltre i tradizionali data center.
La piattaforma Far AI promette una latenza non superiore a 100 ms, un valore ambizioso per una rete composta da macchine geograficamente distanti e collegate tramite connessioni consumer. Entrambe le startup puntano soprattutto sui modelli open source di dimensioni contenute, più facili da suddividere rispetto ai sistemi di frontiera che richiedono enormi quantità di memoria e interconnessioni ad altissima velocità.
Far Labs utilizza uno scheduler proprietario che divide il modello in più parti, assegnandole a computer differenti. Un orchestratore e un bilanciatore del carico raccolgono quindi i risultati parziali e li ricompongono nella risposta finale. Questo approccio all'inferenza AI distribuita deve gestire nodi con prestazioni, disponibilità e qualità della connessione molto diverse tra loro.
Evolving Edge distribuisce invece i lavori tramite Ray, framework open source impiegato anche nei data center convenzionali. La rete è progettata per continuare a funzionare quando alcuni computer si disconnettono: secondo il fondatore John Federico, la perdita di 100 nodi su una struttura composta da 250.000 macchine non comprometterebbe il servizio.
Il nodo più delicato rimane la sicurezza. Le attività vengono eseguite attraverso un isolamento in sandbox, con comunicazioni cifrate e limiti rigidi all'accesso a GPU, CPU, memoria, storage e rete. I clienti non possono entrare direttamente nel computer dell'host, mentre Evolving Edge ha pubblicato il codice del software destinato ai nodi, permettendo agli utenti di controllare cosa viene eseguito. Sono precauzioni necessarie anche alla luce dei rischi già emersi con un rollout dell'AI poco governato.
Resta poi da dimostrare la sostenibilità economica per i gamer. Una RTX 4090 può assorbire tra 350 e 450 watt sotto carico continuo, generando una bolletta mensile di circa 40-50 dollari con l'energia a 0,15 dollari per kWh. Far Labs ed Evolving Edge non hanno ancora comunicato le tariffe destinate agli host. Salad, piattaforma già affermata con oltre 60.000 GPU consumer attive ogni giorno, vende capacità a partire da 0,02 dollari l'ora, trattenendo una parte dei ricavi.
I precedenti invitano alla cautela: quando Salad utilizzava la propria rete per il mining di Ethereum, aveva generato circa 3,6 milioni di dollari attraverso i PC degli utenti, distribuendo 500.000 dollari in ricompense. Il modello può offrire capacità flessibile e resistente ai guasti, ma il suo successo dipenderà dal rapporto tra compensi, consumi elettrici, usura dell'hardware e fiducia nella protezione dei dati locali.
Aggiungi Tom's Hardware alle tue fonti preferite su Google