Un avvertimento congiunto dei capi della sicurezza informatica dell’alleanza “Five Eyes” indica che i modelli di intelligenza artificiale “di frontiera” cambieranno radicalmente il modo in cui gli attacchi vengono lanciati e contrastati entro pochi mesi.
[In pillole] La sintesi per chi va di fretta:
L'alleanza di intelligence Five Eyes ha lanciato un avvertimento congiunto: le minacce informatiche potenziate dall'IA di frontiera colpiranno governi e cittadini entro pochi mesi. Le agenzie, tra cui CISA e NSA, esortano i leader a rivedere le strategie di rischio, poiché l'IA abbassa la barriera d'ingresso per attacchi sofisticati e aumenta la portata delle minacce.
Cosa può fare un’intelligenza artificiale “di frontiera”
L’avvertimento dei Five Eyes si concentra sui cosiddetti modelli di IA “di frontiera”, cioè sistemi di grandi dimensioni e altamente capaci che possono scrivere codice, analizzare sistemi complessi e generare testi, immagini e audio realistici su vasta scala. I funzionari dell’intelligence e della sicurezza informatica temono che questi modelli verranno utilizzati per accelerare e potenziare diverse tipologie di attacco.
Dan Richard, un funzionario della CIA, ha spiegato che il nuovo modello Mythos di Anthropic è in grado di identificare autonomamente estese falle di sicurezza nel software e di tracciare i “percorsi di sfruttamento”, descrivendolo come un importante punto di svolta per il settore, come descritto su ExecutiveGov.
Questo significa che processi che prima richiedevano tempo e competenze specialistiche potrebbero diventare molto più rapidi e accessibili.
Di conseguenza, anche persone con limitate competenze di programmazione potrebbero essere in grado di condurre intrusioni complesse, abbassando di molto la barriera d’ingresso per compiere attività malevole. Questo fenomeno si estende anche agli attacchi di phishing e di ingegneria sociale, che potrebbero diventare molto più efficaci.
I modelli di IA possono infatti creare messaggi altamente personalizzati e grammaticalmente perfetti in qualsiasi lingua, rendendo le truffe estremamente difficili da individuare per un occhio non allenato. A questo si aggiunge la capacità di generare deepfake e disinformazione su larga scala.
La comunità dell’intelligence statunitense ha messo in guardia contro la diffusione di contenuti falsi creati ad arte, sostenendo che l’IA sta entrando in una “era industriale” della manipolazione. Shawn Henry, Chief Security Officer di CrowdStrike, ha confermato che gli avversari stanno già usando l’IA per creare testi, audio e video “incredibilmente credibili”, minando la capacità delle persone di fidarsi di ciò che vedono e sentono.
Sebbene l’avvertimento dei Five Eyes sia rivolto principalmente ai leader, le sue implicazioni sono molto personali: gli attacchi potenziati dall’IA colpiranno gli utenti di tutti i giorni, non solo i governi e le grandi aziende.
Si tradurranno in truffe più convincenti nelle nostre caselle di posta e sui nostri telefoni, con email di phishing che imitano alla perfezione la nostra banca o il nostro datore di lavoro.
L’automazione consentirà inoltre di accelerare i tentativi di accesso non autorizzato ai nostri account, sfruttando credenziali trapelate e password deboli su una scala prima impensabile.
Il problema però non è solo legato a come l’intelligenza artificiale viene usata come arma.
Quando l’intelligenza artificiale diventa l’obiettivo
La minaccia non si limita all’uso dell’IA da parte degli aggressori; gli stessi sistemi di intelligenza artificiale possono essere violati, “avvelenati” o indirizzati in modo errato. Un recente rapporto del National Institute of Standards and Technology (NIST) degli Stati Uniti ha identificato quattro principali categorie di attacchi contro i sistemi di IA.
Il primo è l’avvelenamento (poisoning), che consiste nel corrompere i dati di addestramento in modo che i modelli imparino comportamenti dannosi o errati. C’è poi l’evasione (evasion), in cui gli input vengono alterati sottilmente per far sì che i sistemi di IA li classifichino in modo errato, ad esempio per aggirare i filtri antispam o antimalware.
Esistono anche attacchi alla privacy, che mirano a estrarre informazioni sensibili dai modelli o dai loro dati di addestramento, e l’abuso (abuse), che consiste nel manipolare i modelli con istruzioni create ad arte (prompt) per indurli a produrre risultati pericolosi o offensivi.
Non esiste una singola difesa infallibile contro questi attacchi. Le organizzazioni dovrebbero monitorare, valutare e reagire quando si verificano problemi, piuttosto che dare per scontato che uno strumento di IA sia sicuro una volta implementato.
Questo introduce un ulteriore livello di complessità: non basta difendersi dagli usi malevoli dell’IA, bisogna anche proteggere l’integrità dei sistemi stessi, che sempre più spesso sono integrati in prodotti e servizi che usiamo quotidianamente.
– Leggi anche: Google investe 75 milioni in A24 per rivoluzionare il cinema con l’intelligenza artificiale
Chi sceglie di adottare soluzioni di Intelligenza Artificiale nei propri processi aziendali si trova oggi a dover considerare anche questo fronte, integrando la sicurezza fin dalle prime fasi di progettazione.
Naturalmente, anche chi si occupa di difesa sta utilizzando l’intelligenza artificiale per monitorare i sistemi, rilevare anomalie e bloccare le violazioni più rapidamente di quanto potrebbero fare gli analisti umani da soli. Tuttavia, i leader della sicurezza informatica e i funzionari dell’intelligence avvertono che gli aggressori stanno innovando alla stessa velocità, se non più velocemente, dei difensori.
Si tratta di una corsa in cui il vantaggio è tutt’altro che scontato.
E non tutti sono convinti che avvertimenti come quello dei Five Eyes, per quanto autorevoli, siano la risposta più efficace.
Un dibattito aperto sull’efficacia degli avvertimenti
La dichiarazione delle agenzie di intelligence è intenzionalmente di alto livello, concentrandosi su principi e responsabilità a livello dirigenziale piuttosto che nominare strumenti o attori specifici. Questa scelta ha generato un certo dibattito.
Alcuni esperti di sicurezza informatica lamentano che i consigli siano troppo generici e arrivino troppo tardi, dato che i criminali e gli stati ostili hanno già iniziato a usare l’IA nelle loro operazioni.
La critica si concentra sulla mancanza di indicazioni tecniche concrete e sulla difficoltà che molte organizzazioni incontrano nell’implementare anche le più basilari misure di igiene informatica. Sembra esserci una tensione tra la necessità di lanciare allarmi strategici urgenti e la richiesta di una guida dettagliata e immediatamente applicabile.
Questo non è un problema sorto dal nulla.
Già anni prima che i modelli “di frontiera” diventassero una preoccupazione pubblica, un importante rapporto guidato dall’Università di Cambridge, “The Malicious Use of Artificial Intelligence”, aveva previsto che l’IA sarebbe stata sfruttata per attacchi informatici mirati, sorveglianza su larga scala, manipolazione politica e attacchi fisici abilitati da sistemi autonomi.
Quel rapporto esortava governi e aziende a costruire garanzie fin dall’inizio, invece di attendere incidenti gravi. Oggi, le valutazioni sulle minacce degli Stati Uniti collegano l’IA a un più ampio contesto di competizione tecnologica, in cui l’accelerazione dell’apprendimento automatico potrebbe portare a virus informatici generati da IA o a nuove armi chimiche.
In questo quadro, l’intelligenza artificiale è vista come un acceleratore che potrebbe rendere i conflitti informatici esistenti – come quelli che vedono contrapposti gruppi legati a stati come Cina o Iran – più rapidi, più scalabili e più difficili da attribuire.
Di fronte a questa prospettiva, le agenzie dei Five Eyes sostengono che il successo deriverà dall’agire rapidamente e dall’integrare la sicurezza informatica nella strategia aziendale. Il loro documento delinea alcuni principi fondamentali, come rendere la sicurezza “by design” e “by default” una pratica standard e non un obiettivo ambizioso.
Raccomandano inoltre di implementare una difesa a più livelli e di prepararsi a nuove vulnerabilità “zero-day” che l’IA potrebbe aiutare a scoprire e sfruttare più velocemente che in passato. Tra le azioni pratiche suggerite alle organizzazioni ci sono la riduzione della superficie di attacco, l’accelerazione dei processi di aggiornamento del software, la gestione dei sistemi obsoleti e il rafforzamento dei controlli di identità e accesso.
Sebbene gran parte dell’avvertimento sia rivolto ai leader aziendali e governativi, gli esperti sottolineano che anche il comportamento individuale continua ad avere un peso. L’indicazione è di trattare i messaggi e i link non richiesti con maggiore scetticismo, anche quando appaiono curati e personalizzati, e di essere diffidenti nei confronti di contenuti audio o video emotivamente carichi.
