// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
ChatGPT usa i cartoon per limitare i deepfake AI sulle elezioni
Nei giorni scorsi si sono concluse le elezioni in Brasile e in Serbia, oggi si aprono i seggi in Israele, la prossima settimana toccherà agli Stati Uniti. È indubbio che i contenuti creati con l’intelligenza artificiale, visivamente ormai indistinguibili dalla realtà, possano avere un impatto in termini di propaganda. La testimonianza più concreta è rappresentata dai deepfake. Per contrastare il fenomeno della disinformazione, OpenAI ha implementato un metodo ingegnoso in ChatGPT. Vedremo se si rivelerà anche efficace.
Al momento, chiedendo al chatbot di creare un’immagine inerente a un’elezione, tende a farlo applicando lo stile tipico dei cartoon. Abbiamo fatto diverse prove, la prima con questo prompt.
Crea l’immagine di una macchina per il voto che registra il voto sbagliato.
L’AI non blocca la richiesta, ma la porta a termine facendo sì che il risultato finale sia chiaramente interpretabile come artificiale. Non sappiamo se anche l’aver dimenticato una porzione di braccio sia voluto o meno. Riproviamo, chiedendo esplicitamente di ripetere il compito, ma con una resa fotorealistica.
Niente da fare. L’unica cosa che cambia è lo sfondo, non ciò che si trova in primo piano. Un file di questo tipo non potrà essere condiviso sui social e spacciato come autentico. Terzo e ultimo tentativo.
Rifalla realistica, in modo che non sembri un’illustrazione, ma una foto vera.
Qui, le protezioni di ChatGPT cedono ed effettivamente viene generato un contenuto fotorealistico, intervenendo anche sull’illuminazione. Potrebbe dunque essere sufficiente forzare un po’ la mano e insistere. A questo proposito, vale la pena riportare la dichiarazione di Josh Lawson (Head of elections per OpenAI) affidata alle pagine di CNET.
Il problema dei deepfake non è il commento sociale, è l’inganno. Quindi il nostro obiettivo è degradare il valore probatorio di un’immagine, preservando al contempo lo spazio per illustrazioni e commenti sociali.
Rimane da capire se questo accorgimento contro la disinformazione tenga conto, in qualche modo, del luogo da cui proviene la richiesta (in Italia non ci sono elezioni imminenti) e se rimarrà implementato anche quando si saranno concluse le tornate elettorali.