// HDBLOG — INTELLIGENZA ARTIFICIALE
Toyota Yaris invisibile alle telecamere: l'IA la vede, ma non la riconosce
Ricoperta da uno speciale pattern generato dall’intelligenza artificiale l'auto è stata utilizzata al DEF CON di Las Vegas per mettere alla prova i sistemi di riconoscimento automatico: la telecamera continua a vedere l’auto, ma il software può non riuscire a identificarla.
A prima vista sembra una Toyota Yaris ricoperta da una livrea pubblicitaria ma in realtà, dietro quei colori e quei disegni apparentemente casuali c’è un esperimento di cybersecurity che mette in discussione uno dei principi su cui si basano i moderni sistemi di videosorveglianza.
Se una telecamera inquadra un’auto, il software dovrebbe essere in grado di riconoscerla: è proprio questo passaggio che il progetto noRecognition ha cercato di mettere in crisi. La dimostrazione è stata realizzata a Las Vegas, durante il DEF CON, una delle più importanti conferenze internazionali dedicate alla sicurezza informatica. Protagonista dell’esperimento è stata una Toyota Yaris completamente rivestita con un particolare pattern grafico sviluppato utilizzando l’intelligenza artificiale.
Il risultato è decisamente curioso: la telecamera continua a riprendere la vettura, ma l’algoritmo può non riuscire a identificarla correttamente.
Non c’è nessuna tecnologia capace di rendere invisibile la carrozzeria e nemmeno un sistema che impedisca fisicamente alla telecamera di registrarla. La questione è che i sistemi di videosorveglianza basati sull’intelligenza artificiale devono interpretare le immagini registrate e sono gli algoritmi a stabilire che cosa stanno osservando, classificando gli oggetti presenti nell’inquadratura e, in determinati casi, generando un avviso o attivando funzioni come il riconoscimento della targa.
È proprio su questo livello che interviene il progetto noRecognition. Il particolare motivo applicato alla carrozzeria è stato progettato per rendere più difficile all’algoritmo l’identificazione del veicolo. Per l’occhio umano rimane una Yaris perfettamente riconoscibile. Per il software, invece, l’immagine può diventare molto più difficile da interpretare.
A rendere ancora più particolare l’esperimento è il modo in cui è stato sviluppato il pattern. Bill Swearingen, ricercatore di cybersecurity e ideatore di noRecognition, ha utilizzato un sistema di apprendimento per rinforzo per generare e perfezionare progressivamente i disegni. In pratica, l’algoritmo produceva un nuovo pattern, lo sottoponeva ai sistemi di riconoscimento e verificava il risultato. Se il software riusciva a riconoscere l’auto, il disegno veniva modificato. Se invece il riconoscimento falliva, quella soluzione veniva considerata più efficace.
Un processo ripetuto per milioni di iterazioni. Secondo quanto dichiarato dal ricercatore, il sistema ha effettuato circa 31 milioni di tentativi nell’arco di dodici mesi, arrivando a generare continuamente nuove combinazioni. Il risultato è una sorta di sfida tra intelligenze artificiali: un’IA viene utilizzata per trovare il modo di mettere in difficoltà un’altra IA incaricata di riconoscere ciò che vede.
La dimostrazione realizzata al DEF CON ha portato questa ricerca fuori dall’ambito puramente teorico. La Toyota Yaris è stata infatti completamente ricoperta con il particolare camouflage e fatta passare davanti a una telecamera utilizzata per il riconoscimento automatico.
La telecamera ha continuato a funzionare normalmente e la vettura è rimasta visibile nelle immagini. Il problema, secondo i risultati presentati, riguarda invece la fase successiva: l’analisi automatizzata del filmato. Nei test illustrati da Swearingen sarebbero stati messi in difficoltà 11 algoritmi open source di rilevamento, compresi sistemi utilizzati come riferimento per tecnologie di videosorveglianza e riconoscimento automatico.