// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
L'Oversight Board boccia Meta sui deepfake: chi tutela le vittime?
L’Oversight Board ha pubblicato due nuove decisioni sulla gestione dei video generati con l’intelligenza artificiale da parte di Meta, giudicando le sue regole sistematicamente e radicalmente inadeguate alla crescita di questi contenuti. I casi riguardano una politica scozzese e una volontaria impegnata nell’educazione alla salute mestruale: entrambe sono state bersaglio di video manipolati, rimasti sulle piattaforme senza un’etichetta che ne chiarisse la natura artificiale.
Nel primo caso, un deepfake realistico riproduceva l’aspetto e la voce della politica, attribuendole una dichiarazione di benvenuto ai rifugiati anche qualora commettessero violenze sessuali, con la giustificazione che anche i bianchi le commettono. La donna coinvolta ha descritto l’effetto del filmato come traumatico. Meta ha spiegato al Board di non averlo rimosso dopo la segnalazione perché nessuna delle organizzazioni considerate partner fidati lo aveva segnalato e perché non sembrava interferire con il voto o con altri processi.
Il Board ha contestato questa valutazione: il video avrebbe dovuto essere rimosso per violazione delle norme sulla condotta d’odio e avrebbe dovuto riportare un’indicazione evidente della sua origine artificiale. L’assenza delle etichette AI sembra invece essere dipesa dalla mancata dichiarazione dell’autore del post. Il caso evidenzia così un punto concreto del sistema: un contenuto sintetico realistico è rimasto privo di avvisi quando chi lo aveva pubblicato non ne aveva dichiarato la provenienza.
Il secondo procedimento parte da un’intervista televisiva a una volontaria che promuoveva l’educazione alla salute mestruale. Account su diverse piattaforme hanno successivamente manipolato il filmato per ridicolizzarla, e quei video sono diventati virali. Meta ha chiuso automaticamente sia una segnalazione relativa al post esaminato sia il successivo ricorso. Il contenuto, anch’esso senza etichetta AI, è stato rimosso per bullismo soltanto dopo l’intervento dell’Oversight Board.
La copresidente Pamela San Martin ha collegato i due episodi all’impiego dei contenuti sintetici per molestare le donne e scoraggiarne la partecipazione al dibattito pubblico, dalle figure politiche alle cittadine comuni. La richiesta di protezioni contro i deepfake anche per le persone comuni trova in questi casi un’applicazione precisa: segnalazioni e ricorsi devono consentire di intervenire sulle molestie online, mentre l’assenza di indicazioni sulla manipolazione può aggravare il danno.
Le contestazioni arrivano dopo ripetute richieste del Board di aggiornare le regole sui contenuti AI. Meta ha finora apportato poche modifiche alle proprie etichette, che generalmente consistono in un piccolo banner con la dicitura AI Info. La società non ha inoltre accettato di attuare molte delle raccomandazioni sull’etichettatura formulate dall’organismo in altri casi recenti.
Meta ha 60 giorni per rispondere alle nuove raccomandazioni, tra cui la richiesta di dare priorità alla revisione dei contenuti segnalati che presentano una probabile origine artificiale. Al momento della pubblicazione della fonte, la società non aveva risposto alla richiesta di commento sulle ultime critiche del Board.
Aggiungi Tom's Hardware alle tue fonti preferite su Google