// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
Microsoft Copilot svela dati sensibili: basta chiedere
Dopo Reprompt e SearchLeak, gli esperti di Varonis hanno scoperto un’altra vulnerabilità di Copilot, denominata CoSnitch, che permette di esfiltrare dati sensibili dai sistemi aziendali. Era sufficiente chiedere all’assistente di eseguire un particolare comando non documentato. Microsoft ha già rilasciato la patch che risolve il problema.
Gli attacchi più utilizzati contro i chatbot sono quelli di prompt injection. I cybercriminali nascondono istruzioni in documenti o pagine web che vengono eseguite all’insaputa dell’utente. I ricercatori di Varonis hanno invece sfruttato una tecnica nota come meta-hacking, simile all’ingegneria sociale.
Con il primo prompt è stato chiesto a Copilot perché non può eseguire comandi senza il consenso dell’utente. Attraverso domande successive, il chatbot ha svelato un parametro segreto e tutte le protezioni implementate per disattivarlo. Questo parametro è ?autorun=1 e consente l’esecuzione automatica del prompt indicato con il parametro ?q=.
L’attacco inizia quindi con l’invio (tramite email, chat, pagina web, codice QR o altro) di un link come questo:
https://copilot.microsoft.com/?q=&autorun=1
Quando l’ignara vittima clicca sul link viene aperta la versione web di Copilot nella sessione attiva ed eseguito automaticamente il prompt indicato senza nessuna interazione. L’assistente permette così l’accesso al contesto della sessione, alla memoria e alle app connesse.
L’attacco può essere temporaneo, ad esempio per esfiltrare dati sensibili da Gmail, Drive, Calendar e altre app connesse, oppure permanente quando il prompt viene conservato nella memoria di Copilot ed eseguito ad ogni accesso alla memoria (che non viene cancellata alla chiusura della sessione).
Come detto, Microsoft ha risolto la vulnerabilità il 18 agosto. L’utente non deve installare nessun aggiornamento in quanto la patch è stata applicata lato server. Per evitare rischi è meglio non cliccare sui link ricevuti (suggerimento utile anche per altri tipi di attacco).