// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
Deepfake sessuali di Grok: nuova denuncia per xAI
Una donna del Wyoming ha presentato una denuncia contro xAI (oggi parte di SpaceXAI) per non aver bloccato la generazione di deepfake sessuali con Grok. La donna ha scoperto che il suo patrigno aveva usato il chatbot per creare oltre 7.000 immagini esplicite. L’azienda di Elon Musk cerca di scaricare la colpa sugli utenti che aggirano le protezioni.
La donna, indicata come Jane Doe 4 nella denuncia, ha trovato le forze dell’ordine davanti alla casa dei genitori. Un agente ha mostrato un mandato di perquisizione per i dispositivi elettronici del patrigno. Jane ha successivamente scoperto che il patrigno ha usato Grok per generare oltre 7.000 immagini esplicite di lei, modificando una foto scattata quando aveva 11 anni. I deepfake sessuali sono stati condivise online. Due giorni dopo la perquisizione, il patrigno si è suicidato.
Quanto accaduto dimostra la facilità con cui è possibile creare immagini pedopornografiche con i moderni tool AI. La denuncia della donna è stata unita a quella di tre teenager del Tennessee depositata a marzo presso un tribunale della California. L’accusa è quindi identica: xAI ha consentito la generazione di materiale pedoporonografico tramite Grok. L’obiettivo è ottenere lo status di class action e quindi un risarcimento danni in base alla Masha’s Law (150.000 dollari per ogni violazione).
xAI ha ricevuto numerose denunce negli Stati Uniti e in Europa. Il Parlamento europeo ha aggiunto il ban per i tool di nudificazione all’AI Act. Attualmente la cosiddetta modalità Spicy di Grok è accessibile solo con abbonamento e, teoricamente, non dovrebbe consentire la creazione di deepfake sessuali che raffigurano persone reali. SpaceXAI ha denunciato un utente perché ha aggirato le protezioni di Grok per generare immagini sessuali.