// MACITYNET — INTELLIGENZA ARTIFICIALE
Muse di Meta scheda tutti gli amici senza dire nulla
Questo sito contiene link di affiliazione per cui può essere compensato
Una settimana dopo il lancio dell’8 settembre, Muse era l’applicazione gratuita più scaricata dell’App Store americano, davanti a ChatGPT. Il 20 settembre, dodici giorni dopo l’esordio, Amazon ha cominciato a mostrare a chi chiedeva all’agente di Meta di comprare qualcosa un avviso secco: l’accesso continuato di un agente di intelligenza artificiale non autorizzato viola le condizioni d’uso del negozio. Sembrano due storie separate, il successo di un’app e una lite commerciale, ma una newsletter di della storica rivista americana Wired uscita il 3 ottobre le tiene insieme.
Kernel Panic, la newsletter settimanale del magazine scritta da Lily Hay Newman e Matt Burgess su privacy e sicurezza digitale, racconta che nei giorni scorsi più ricercatori hanno estratto i file interni di Muse, comprese le istruzioni operative dell’agente. Karan Joshi, ricercatore indipendente di sicurezza dell’AI, ne ha ottenuto un’ampia raccolta usando la normale chat, chiedendo a Muse di copiare e condividere i propri file, e ha passato il materiale a Wired. Meta sostiene che quei file fossero pensati per essere accessibili, in nome della trasparenza.
Tra le istruzioni c’è la creazione di una pagina dedicata a ciascuna persona della vita dell’utente. Il processo gira ogni ora e raccoglie dati su familiari, partner, amici, colleghi, collaboratori e persone seguite online. Una pagina può cominciare quasi vuota e riempirsi nel tempo, con sezioni intitolate “Fatti”, “Storia”, “La relazione”, “In comune”, “Questioni aperte” e “Rafforzamento”. Le istruzioni chiedono di usare soltanto le prove disponibili e giudicano un dettaglio inventato peggiore di una pagina bianca.
L’uso dichiarato è interno: suggerimenti per migliorare un rapporto o, per esempio, un posto dove portare a colazione un amico che ama il caffè. Che i chatbot tengano traccia di informazioni sociali non è una novità, da anni c’è chi chiede a ChatGPT consigli sentimentali. La differenza sta in chi lo fa, cioè un’azienda con la storia e la dotazione di dati sociali di Meta e precedenti piuttosto negativi, come il caso Cambridge Analytica. Joshi legge nelle istruzioni la volontà di conoscere l’utente come un amico, e la definisce «piuttosto inquietante».
La filosofa Carissa Véliz ha riassunto il punto in poche righe: il modello di business di Meta dipende dalla sorveglianza, e quindi l’incentivo è progettare prodotti che la alimentino, non che giovino all’utente, tanto meno ai suoi amici e familiari. Meta dichiara che Muse non condivide le conversazioni con i sistemi pubblicitari dell’azienda e che non vede password né dati di pagamento. Sono impegni di politica aziendale, e una politica aziendale si cambia con un aggiornamento delle condizioni d’uso.
La tecnologia logica dietro è quella legata alla teoria dei grafi, ovvero al modo di strutturare i dati sulla base delle relazioni tra un nodo e l’altro. Un grafo sociale sa chi conosce chi. Una pagina di Muse sa che cosa c’è dentro il rapporto: gli argomenti ricorrenti, le questioni aperte, i gusti, le occasioni da non perdere. Al lancio l’agente si collega ai servizi Meta e a Google Workspace, Ticketmaster, OpenTable, Spotify e Apple Health, quindi anche ai dati sulla salute di chi lo usa. Meta offre una versione gratuita e due a pagamento con limiti più alti, ma il contesto raccolto attorno a ogni utente è un patrimonio che non compare nel listino.
Il precedente è noto, come abbiamo visto sopra. Nel 2018 si scoprì che un’applicazione usata da circa 270mila persone, grazie ai permessi concessi, aveva raccolto anche i dati dei loro amici, fino a comporre un archivio su 87 milioni di utenti di Facebook passato a Cambridge Analytica contro i termini del social. Nel 2019 la società pagò cinque miliardi di dollari alla Federal Trade Commission, e nel 2022 altri 725 milioni di dollari per chiudere la class action americana.
Allora i dati degli amici uscivano verso un terzo,