// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
ChatGPT inventa i fatti in aula: avvocato multato per 5.000 dollari
L’intelligenza artificiale è diventata sempre più performante e precisa, è un dato di fatto, al punto che alcuni utenti mostrano una fiducia quasi cieca verso l’AI. Tuttavia, è importante ricordare che l’AI è suscettibile di sbagliare, e talvolta pesantemente. D’altronde, sulla sua pagina iniziale, ChatGPT lo ricorda costantemente: ChatGPT può commettere errori. Verificate le informazioni importanti.
Ma questo evidentemente non impedisce ad alcuni utenti di fare “copia/incolla” di risposte preconfezionate di ChatGPT, nel bene come nel male. E talvolta, nel male. Durante un processo, la veridicità dei fatti presentati è di importanza capitale, è scontato.
Eppure, ciò non impedisce a numerosi avvocati di ricorrere all’AI senza prendersi la briga di verificare le informazioni importanti. Già nel 2023, un avvocato inventava falsi casi giudiziari grazie all’AI per farsi aiutare nel suo lavoro. Più di recente, degli avvocati sono stati condannati per aver scelto l’AI come associato, e il processo in questione è stato persino sospeso.
Ma queste molteplici disavventure giudiziarie non sono bastate a scoraggiare l’avvocato Stephen Aarons, che ha tentato di difendere il suo cliente con l’aiuto di ChatGPT. Sfortunatamente per lui, l’AI di OpenAI ancora una volta ha avuto allucinazioni in pieno processo. Avrebbe ad esempio generato false testimonianze di poliziotti, arrivando persino a inventare dei testimoni.
E la sanzione non si è fatta attendere. Secondo Reuters, l’avvocato è stato multato, la bellezza di 5.000 dollari. Inoltre, il suo fascicolo dovrebbe essere trasmesso a una commissione disciplinare per un’indagine. L’avvocato si è difeso affermando di non essere a conoscenza dei problemi di allucinazione dell’intelligenza artificiale…
Mi rammarico per quanto è accaduto, ma spero che la commissione disciplinare tenga conto del fatto che si è trattato di un errore in buona fede, ha dichiarato. È una lezione per tutti i professionisti che si affidano a questa tecnologia potente, ma talvolta instabile.
Ma ciò non è bastato a convincere i giudici. Avvocato, guarda il telegiornale? Ascolta la radio? Legge qualcosa su quello che sta succedendo nel mondo? ha esclamato la giudice C. Shannon Bacon durante l’udienza. Perché il problema degli avvocati che si affidano alle allucinazioni dell’AI fa notizia praticamente ogni giorno.