// MACITYNET — INTELLIGENZA ARTIFICIALE
Netflix controlla con l’IA le trame scritte con l’IA e riconosce anche gli errori più sottili
Questo sito contiene link di affiliazione per cui può essere compensato
Una trama può contenere soltanto informazioni vere eppure dare un’idea completamente sbagliata di una serie TV. Netflix ha sviluppato un sistema basato sull’intelligenza artificiale per riconoscere anche queste descrizioni fuorvianti. Nei test, la nuova architettura individua più errori e riduce sensibilmente il costo dei controlli.
Quando cercate qualcosa da guardare su Netflix, spesso bastano la locandina e poche righe di presentazione per decidere se avviare un film o una serie. Quelle descrizioni, chiamate sinossi, devono anticipare il contenuto senza svelare troppo e soprattutto senza creare aspettative sbagliate.
Per Netflix è un lavoro di grandi dimensioni: il servizio gestisce centinaia di migliaia di sinossi, con più versioni per lo stesso titolo, episodi differenti e numerose lingue. Controllarle tutte manualmente richiederebbe un impegno considerevole. Gli ingegneri della piattaforma hanno quindi studiato un sistema che utilizza più modelli di IA per verificarne l’accuratezza, concentrando le verifiche più impegnative sui casi dubbi. La tecnologia descritta riguarda il controllo dei testi, non la loro generazione.
Per spiegare il problema, Netflix utilizza Bridgerton e mette a confronto quattro possibili descrizioni della prima stagione. La prima presenta correttamente Daphne Bridgerton e il suo ingresso nel mercato matrimoniale londinese. La seconda è palesemente sbagliata: trasforma Daphne in una detective che insegue un serial killer nella Londra contemporanea.
Le altre due sono più insidiose. Una descrive correttamente Lady Whistledown e il suo giornale scandalistico, lasciando però intendere che tutta la serie ruoti attorno a lei. L’altra presenta il rapporto fra Daphne e il duca di Hastings come una storia d’amore nata immediatamente, trascurando il fatto che comincia da un accordo di convenienza.
Nel documento tecnico pubblicato sul Netflix Technology Blog, gli ingegneri distinguono così due tipi di accuratezza: quella letterale, che riguarda la verità delle singole affermazioni, e quella legata alle implicazioni del testo, cioè l’idea che un nuovo spettatore può ricavare dalla descrizione.
La differenza conta anche nell’uso quotidiano. Chi legge una sinossi incentrata su un personaggio secondario potrebbe scegliere una serie aspettandosi una storia diversa. Allo stesso modo, una relazione presentata come romantica fin dall’inizio può far immaginare un tono e uno sviluppo narrativo differenti da quelli effettivi.
Il sistema utilizzato come riferimento da Netflix affidava la verifica a un grande modello di ragionamento. Il modello riceveva i materiali disponibili sul titolo, i metadati e le regole per la valutazione, poi stabiliva se la descrizione fosse corretta.
Per ridurre la variabilità delle risposte, ogni controllo veniva ripetuto cinque volte. Era sufficiente un solo giudizio negativo per respingere la sinossi. Questo significava cinque interrogazioni di un modello complesso, ciascuna con un contesto che poteva superare i 100.000 token, le unità di testo elaborate dall’IA.