// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
L’AI può pianificare tutto? No: 3 eccezioni pericolose e 3 usi sicuri
Tre escursionisti inesperti hanno chiesto a un chatbot come affrontare la scalata di una montagna in California. Il chatbot AI ha consigliato di portare molta meno acqua e cibo del necessario, trasformando un’escursione di otto ore in un calvario di più giorni, che è finito con una squadra di soccorso. Non si è trattato di un errore tecnico, piuttosto di un consiglio plausibile, ma sbagliato, dato con la sua solita sicurezza.
L’episodio cristallizza un principio che chi usa l’intelligenza artificiale ogni giorno per lavoro impara prima o poi sulla propria pelle: l’AI è straordinariamente utile per alcune cose e potenzialmente pericolosa per altre. La differenza non sta nella complessità del compito, ma nelle conseguenze dell’errore. Un itinerario di viaggio sbagliato fa perdere mezza giornata. Un consiglio medico sbagliato può costare molto di più…
Ecco tre ambiti in cui è sempre meglio non delegare la decisione finale all’AI, e tre in cui usarla senza alcuna esitazione.
L’intelligenza artificiale è perfetta per trovare sentieri, identificare le domande da fare ai guardiaparco e ottenere consigli su percorsi verificati. Ma non è, e non dovrebbe essere, l’autorità finale per escursioni in montagna, campeggio in zone remote, attraversamenti di fiumi o qualsiasi attività all’aperto che dipenda dalle condizioni meteorologiche e dal terreno.
Il problema non è che il chatbot non sappia nulla di escursionismo. È che non sa cosa non sa. Non conosce le condizioni del sentiero oggi, non sa se il ponte è stato danneggiato dall’ultima pioggia, non tiene conto del proprio livello di preparazione fisica reale, e soprattutto, non ha conseguenze se sbaglia. I guardiaparco, le guide alpine e gli escursionisti esperti del posto, sì.
Esempio di prompt da utilizzare: Sto pianificando un’escursione a [destinazione]. Non darmi consigli sulla sicurezza o sull’attrezzatura, aiutami invece a preparare una lista di domande da fare alla guida alpina locale e al servizio guardiaparco prima di partire.
Così l’AI prepara le domande. Gli esperti danno le risposte.
L’intelligenza artificiale può spiegare la terminologia medica complessa, aiutare a preparare le domande per un appuntamento medico e dare un’idea generale di cosa aspettarsi da un trattamento. Ma non deve mai essere l’ultima parola su cosa fare dal punto di vista medico.
Un chatbot che dice di non preoccuparsi per un sintomo che invece richiede attenzione immediata è uno scenario che nessuno vuole sperimentare. La differenza tra un medico e un chatbot non è solo la competenza, è la responsabilità.
Esempio di prompt: Ho un appuntamento con il mio medico per discutere di [argomento]. Aiutami a preparare le domande più importanti da fargli, spiega i termini tecnici che potrei incontrare e suggerisci cosa dovrei chiedere per capire meglio le opzioni disponibili.