// TOM'S HARDWARE ITALIA — INTELLIGENZA ARTIFICIALE
Truffe romantiche IA: il 46% convinto a installare un'app
Un agente LLM impiegato per simulare una truffa romance-baiting ha convinto il 46% dei partecipanti a installare un’app, contro il 18% ottenuto dagli interlocutori umani. Il risultato emerge da un esperimento controllato durato sette giorni, incluso in una ricerca accettata allo USENIX Security Symposium 2026. Il test misurava la disponibilità a eseguire una richiesta: nessuno ha trasferito denaro né effettuato investimenti reali.
Lo studio, firmato da Gilad Gressel, Rahul Pankajakshan, Shir Rozenfeld, Ling Li, Ivan Franceschini, Krishnahsree Achuthan e Yisroel Mirsky, ha coinvolto 22 persone provenienti da 12 Paesi. I partecipanti non sapevano di conversare su WhatsApp sia con un agente AI sia con una persona. Ogni interazione è proseguita per una settimana, con almeno 15 minuti quotidiani dedicati a ciascun interlocutore. Per evitare che la ripetizione svelasse lo scopo dell’esperimento, l’AI chiedeva di installare un’app di produttività, mentre l’essere umano proponeva un puzzle game.
L’agente utilizzava Claude 3.7 Sonnet per generare il dialogo e GPT-4o per sintesi, gestione operativa e failover. Il sistema comprendeva inoltre moduli progettati per riprodurre tempi di digitazione, errori, memoria delle conversazioni e iniziativa autonoma. La struttura cercava così di simulare la costruzione graduale del rapporto tipica delle truffe romance-baiting, nelle quali la vittima viene successivamente indirizzata verso piattaforme fraudolente di investimento o criptovalute.
I partecipanti hanno assegnato all’agente AI punteggi significativamente superiori per fiducia emotiva, connessione e fiducia complessiva. Il valore medio riportato è stato di 3,78 per l’AI e 3,31 per l’interlocutore umano. Durante le conversazioni, solo una persona ha sospettato autonomamente di parlare con un bot; dopo la rivelazione, 20 partecipanti su 22 hanno però identificato correttamente quale interlocutore fosse artificiale.
La ricerca comprende anche interviste a 145 persone interne alle organizzazioni criminali e a cinque vittime. Il gruppo includeva 115 operatori di basso livello, spesso vittime di tratta, e 30 figure collocate più in alto nella gerarchia. Gli autori stimano che l’87% del lavoro svolto nei centri di truffa riguardi attività ripetitive di primo contatto e costruzione della fiducia, quindi potenzialmente automatizzabili attraverso agenti conversazionali.
Tutti i 34 insider interrogati specificamente sull’adozione dell’AI tra la fine del 2024 e il 2025 hanno riferito un uso quotidiano di ChatGPT. Gli LLM venivano impiegati per tradurre i messaggi, correggere il tono e generare risposte in diverse lingue, compreso l’italiano, oltre ad arabo, cantonese, spagnolo, portoghese e francese. Questi strumenti consentono agli operatori di gestire conversazioni oltre le proprie competenze linguistiche mantenendo un registro credibile.
Le prove dedicate ai sistemi di sicurezza hanno mostrato un ulteriore limite: Llama Guard 3, OpenAI Moderation API e Google Perspective API non hanno riconosciuto in modo affidabile le conversazioni di romance-baiting, poiché nelle prime fasi appaiono amichevoli e innocue. Gli autori hanno comunicato i risultati a Meta, OpenAI, Anthropic e Google nell’agosto 2025. Anthropic ha dichiarato che il modello usato nel test non è più disponibile e che i sistemi antifrode sono stati rafforzati. I risultati restano circoscritti: il campione era ridotto e prevalentemente universitario, l’interazione era obbligatoria e l’installazione di un’app innocua costituiva soltanto un indicatore sostitutivo della propensione a seguire una richiesta.
Aggiungi Tom's Hardware alle tue fonti preferite su Google