Componenti aggiuntivi, che promettono di tutelare la privacy, sono stati scoperti a registrare e inviare a terzi le conversazioni private degli utenti con i chatbot di intelligenza artificiale.
[In pillole] La sintesi per chi va di fretta:
Milioni di utenti hanno installato estensioni browser, come Urban VPN, credendo di proteggere la propria privacy. Tuttavia, una ricerca ha svelato che questi software registrano segretamente le conversazioni con chatbot AI come ChatGPT e Gemini, inviando i dati a server remoti. Uno strumento scelto per la sicurezza si trasforma così in un dispositivo di sorveglianza di massa, esponendo dati sensibili.
Piccoli software, grandi orecchie
Esiste una certa ironia nel modo in cui cerchiamo di proteggere la nostra privacy online. Spesso, per sentirci più sicuri, aggiungiamo al nostro browser piccoli programmi, le cosiddette estensioni, che promettono di bloccare pubblicità, nascondere il nostro indirizzo IP o gestire le password. Affidiamo a questi strumenti una parte significativa della nostra fiducia, concedendo loro permessi che, a pensarci bene, sono straordinariamente ampi.
Ed è proprio in questo patto di fiducia che si è aperta una crepa profonda, una che riguarda il modo in cui parliamo con le intelligenze artificiali. Milioni di persone, forse senza saperlo, hanno installato estensioni che, invece di proteggerle, registravano e inviavano altrove le loro conversazioni private con servizi come ChatGPT, Gemini o Copilot.
La vicenda è emersa con forza quando diversi ricercatori di sicurezza hanno iniziato a esaminare il comportamento di alcune estensioni molto popolari. Un caso emblematico, che ha contribuito a definire i contorni del problema, è quello di Urban VPN. Promossa come una rete privata virtuale gratuita, uno strumento per navigare in anonimato, questa estensione è stata scaricata da milioni di utenti.
Tuttavia, alcune analisi hanno rivelato una funzione non documentata e decisamente inattesa: l’estensione raccoglieva sistematicamente il contenuto delle conversazioni che gli utenti intrattenevano con i principali chatbot basati su intelligenza artificiale. I dati, una volta raccolti, venivano poi inviati a server remoti controllati dagli sviluppatori.
Il paradosso è evidente: uno strumento scelto per la privacy si trasformava in un dispositivo di sorveglianza.
E questo non era un caso isolato, ma la punta di un iceberg molto più vasto che coinvolge diverse altre estensioni con un bacino di utenza complessivo di svariati milioni di persone.
Il meccanismo tecnico che permette tutto questo è, in realtà, piuttosto semplice e radicato nella natura stessa delle estensioni per browser. Quando un utente installa un’estensione, questa richiede una serie di autorizzazioni per funzionare. Spesso, tra queste, c’è il permesso di “leggere e modificare i dati su tutti i siti web visitati”.
Sebbene questa autorizzazione sia necessaria per molte funzioni legittime, come il blocco di elementi pubblicitari o la modifica dello stile di una pagina, conferisce all’estensione un potere immenso. Può, di fatto, vedere tutto ciò che l’utente vede e digita su una pagina web. Nel caso delle interfacce di chat AI, questo significa poter accedere al testo delle domande poste dall’utente e delle risposte generate dal modello. L’estensione non fa altro che “leggere” il contenuto della pagina e copiarlo.
Questa capacità di accedere ai contenuti delle pagine è una caratteristica fondamentale dell’architettura dei browser moderni, una caratteristica che ha permesso lo sviluppo di un vivace mercato di componenti aggiuntivi. Tuttavia, la stessa architettura si basa su un modello di fiducia che gli utenti faticano a gestire.
Pochi leggono attentamente le autorizzazioni richieste, e ancora meno possiedono le competenze tecniche per valutarne le implicazioni. Le grandi piattaforme come Google e Microsoft, che gestiscono i principali “store” di estensioni, hanno sistemi di revisione automatici e manuali, ma la loro efficacia è da tempo oggetto di dibattito.
Il problema, in parte, è anche di progettazione: i flussi di installazione raramente sono pensati per rendere comprensibili i rischi. Questo è il terreno su cui lavora la progettazione di interfacce e user experience: rendere visibile ciò che è invisibile, e comprensibile ciò che è tecnico
Le estensioni con comportamenti poco trasparenti riescono a rimanere disponibili per mesi, accumulando download prima che vengano eventualmente scoperte e rimosse. Nel frattempo, i dati di migliaia o milioni di utenti sono già stati raccolti. E il valore di questi dati, nell’era dell’intelligenza artificiale, è cresciuto in modo esponenziale.
Un mercato in espansione e i suoi rischi
L’interesse per le conversazioni con le intelligenze artificiali non è casuale. Questi dialoghi rappresentano una miniera di informazioni di qualità eccezionale.
A differenza dei dati di navigazione generici, le chat con un’IA contengono domande esplicite, riflessioni, bozze di documenti, codice di programmazione, piani di marketing, e persino confessioni personali. Si tratta di un flusso di coscienza digitale che può essere utilizzato per addestrare altri modelli di intelligenza artificiale, per profilare gli utenti con una precisione senza precedenti o, nei casi peggiori, per compiere attività illecite.
La domanda di strumenti che migliorino o si integrino con i chatbot ha dato vita a un mercato in rapida espansione che si prevede raggiungerà valori notevoli nei prossimi anni.
E dove c’è un mercato in crescita, prosperano anche attori con poche remore.
Il problema, infatti, non si limita a sviluppatori che raccolgono dati in modo poco trasparente per scopi commerciali. Come spiegato in un’analisi di Microsoft, è stata identificata una vera e propria ondata di estensioni malevole, mascherate da assistenti AI, il cui unico scopo è rubare le cronologie delle chat e altre informazioni sensibili.
Queste estensioni, spesso promosse attraverso annunci pubblicitari ingannevoli, hanno raggiunto centinaia di migliaia di utenti. Una volta installate, non si limitano a raccogliere le conversazioni, ma possono anche tentare di rubare credenziali di accesso ad altri servizi o dati relativi a portafogli di criptovalute.
La linea di demarcazione tra la raccolta dati aggressiva e l’attività criminale informatica diventa quindi molto sottile.
– Leggi anche: Cybersicurezza: la corsa agli armamenti tra le intelligenze artificiali di Anthropic e OpenAI
La difficoltà nel distinguere un’estensione legittima da una pericolosa è un problema sistemico. Spesso, queste estensioni offrono effettivamente la funzionalità che promettono.
Un’estensione che permette di esportare una chat di ChatGPT in un documento PDF potrebbe fare esattamente questo, ma allo stesso tempo inviare una copia di quella stessa chat a un server sconosciuto.
La funzionalità visibile serve a mascherare l’attività nascosta, rendendo molto difficile per un utente medio accorgersi di qualcosa di anomalo. La responsabilità ricade, in teoria, sui gestori degli store, come il Chrome Web Store di Google.
Tuttavia, il volume di estensioni pubblicate ogni giorno è enorme, e i controlli, per quanto possano essere migliorati, sembrano inseguire costantemente le nuove tecniche di offuscamento utilizzate dagli sviluppatori.
La presenza di estensioni ingannevoli e potenzialmente dannose è un dato di fatto con cui gli utenti convivono da anni, ma l’avvento dell’IA ha semplicemente alzato la posta in gioco, rendendo il premio per chi riesce a eludere i controlli molto più ricco.
La vera questione, quindi, si sposta dalle intenzioni dei singoli sviluppatori alla struttura di un intero sistema che sembra favorire la quantità e la rapidità di pubblicazione a scapito di una verifica approfondita.
Le conversazioni che non dovrebbero uscire dalla stanza
Se il rischio per il singolo utente è legato alla violazione della privacy personale, le implicazioni si amplificano in modo significativo quando si considerano contesti professionali, accademici e aziendali. Sempre più persone utilizzano i chatbot AI come strumenti di lavoro per analizzare dati, scrivere codice, preparare presentazioni o redigere documenti legali.
In questi scambi possono essere presenti informazioni proprietarie, segreti commerciali, dati di ricerca non ancora pubblicati o informazioni sensibili relative a clienti e dipendenti. L’esfiltrazione di queste conversazioni da parte di un’estensione del browser non è più solo una questione di privacy, ma un serio incidente di sicurezza informatica con potenziali conseguenze economiche e legali.
Un articolo pubblicato sul blog dell’Indiana University ha messo in guardia sul cambiamento della superficie di attacco nelle istituzioni accademiche proprio a causa di questa dinamica. Ricercatori e studenti che utilizzano l’AI per i loro studi potrebbero, senza saperlo, divulgare i risultati del loro lavoro prima della pubblicazione, invalidando anni di sforzi.
In un contesto aziendale, un dipendente che chiede a un chatbot di rivedere una bozza di piano strategico potrebbe, di fatto, consegnarlo a un concorrente o a un attore malevolo. La facilità con cui chiunque può aggiungere un’estensione al proprio browser di lavoro rende il perimetro di sicurezza aziendale molto più poroso e difficile da controllare. Ne consegue che integrare l’AI nei processi aziendali richiede un controllo sull’infrastruttura che i chatbot generalisti non possono offrire. È qui che entra in gioco lo sviluppo di intelligenza artificiale su misura: sistemi progettati per operare entro perimetri definiti, senza che i dati escano dall’ambiente aziendale
Le policy aziendali spesso faticano a tenere il passo con la velocità di adozione di nuove tecnologie da parte dei dipendenti, e le estensioni del browser rappresentano un punto cieco particolarmente problematico.
Di fronte a questo scenario, la reazione delle grandi aziende tecnologiche appare ambivalente. Da un lato, pubblicano bollettini di sicurezza e avvertono degli specifici rischi, come ha fatto Microsoft. Dall’altro, sono le stesse aziende a promuovere un modello di ecosistema aperto per le estensioni, perché questo rende le loro piattaforme—i browser Chrome ed Edge—più attraenti e versatili per gli utenti.
Si crea così una tensione tra la spinta all’innovazione e la necessità di garantire la sicurezza, una tensione che, al momento, sembra risolversi a svantaggio di quest’ultima.
La domanda che resta aperta è se il modello di autorizzazioni concesso alle estensioni sia ancora sostenibile in un’epoca in cui il browser è diventato il luogo dove si svolge una parte così intima e importante della nostra vita digitale e professionale.
Le conversazioni che abbiamo con le intelligenze artificiali sono, per molti versi, un’estensione dei nostri pensieri; il fatto che possano essere intercettate con la stessa facilità con cui si installa un piccolo programma gratuito solleva questioni fondamentali sulla fiducia che riponiamo negli strumenti digitali e su chi, in ultima analisi, sia responsabile della loro protezione.
