// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
Le conversazioni con ChatGPT non sono segrete: chi le legge?
I collaboratori esterni accedono a una dashboard dove scelgono un’attività prima di leggere un prompt anonimizzato, talvolta accompagnato da un riepilogo di memoria che include la localizzazione dell’utente. Valutano poi diverse risposte generate da ChatGPT, quindi giustificano la loro scelta per iscritto.
Il collaboratore esterno legge dapprima il prompt, riassume in una frase ciò che l’utente cerca di ottenere, poi confronta quattro risposte generate da ChatGPT. Deve rilevare almeno tre elementi in linea o meno con il comportamento atteso del modello. Ogni risposta riceve poi un voto da 1, giudicata inaccettabile, a 7, giudicata difficile da migliorare, con una maggiore attenzione sulle risposte mediche, giuridiche o finanziarie prive di fonti.
Prima di arrivare ai collaboratori esterni, gli scambi passano attraverso un modello di filtraggio chiamato Privacy Filter. Quest’ultimo è tenuto a rimuovere le informazioni personali. OpenAI riconosce che questo strumento può talvolta lasciar sfuggire identificativi poco comuni o dosare male la cancellazione.
Interpellata per sapere se avesse esplicitamente avvisato i propri utenti di questa rilettura, OpenAI non ha risposto. Sul suo sito, l’azienda menziona la lettura umana solo nell’ambito di contenuti segnalati o a rischio. Ma non per questo utilizzo. Nelle impostazioni del chatbot, si trova l’opzione “Migliora il modello per tutti”. È possibile disattivarla. Ma l’opzione è in opt-out per impostazione predefinita sui piani Free, Plus e Pro, e disattivata sulle offerte Enterprise, Business ed Edu. E non si applica alle conversazioni già avvenute.
Anthropic ha confermato a 404 Media di ricorrere allo stesso tipo di rilettura umana per migliorare le risposte di Claude. L’azienda implementa lo stesso dispositivo, tranne che per gli utenti che hanno disattivato questa impostazione. Inoltre, l’identificativo è dissociato dall’indirizzo email. Maggiori informazioni sulla gestione della privacy in Claude sono disponibili con un opt-out accessibile dalle impostazioni sulla riservatezza. Lo stesso vale per Google con Gemini.
I collaboratori esterni che analizzano queste conversazioni passano attraverso un’agenzia di reclutamento, Crossing Hurdles, che li indirizza verso Mercor, la società incaricata di remunerarli. Un lavoratore intervistato da 404 Media, con sede in Nord America, indica di percepire più di 50 dollari l’ora, una tariffa superiore a quella praticata altrove nella moderazione dei contenuti o nell’annotazione dei dati. Da parte sua, Meta aveva cessato di collaborare con Mercor ad aprile dopo una fuga di dati che aveva colpito la società.