La ricerca ha dimostrato per la prima volta che modelli di intelligenza artificiale eseguiti localmente possono orchestrare la propria diffusione in una rete, trasformando una speculazione teorica in una possibilità concreta e riaccendendo il dibattito sulla sicurezza.
[In pillole] La sintesi per chi va di fretta:
Recenti esperimenti di Palisade Research e dell'Università Fudan hanno dimostrato che i modelli di intelligenza artificiale possono auto-replicarsi. Nel caso di Palisade un agente eseguito in locale si è comportato come un worm autonomo, diffondendosi tra le macchine di una rete di laboratorio; nel caso di Fudan diversi modelli sono riusciti a creare copie funzionanti di se stessi in ambienti isolati. Risultati che sollevano nuove questioni sulla sicurezza informatica e sulla governance dei modelli aperti.
Che cosa fa, esattamente, questo “worm”?
Il progetto è stato sviluppato da Palisade Research, un gruppo indipendente che si occupa di sicurezza informatica e intelligenza artificiale. I ricercatori hanno costruito un worm informatico il cui comportamento non è pre-programmato, ma è guidato da un modello linguistico.
A questo sistema è stato assegnato un obiettivo generico, come ad esempio: “replicati su altre macchine presenti in questa rete”. A quel punto, l’agente artificiale ha iniziato a operare in autonomia, utilizzando strumenti standard disponibili su sistemi operativi Linux, come scanner di rete e script per sfruttare vulnerabilità note, per trovare un modo di raggiungere il suo scopo.
Durante l’esperimento, l’agente è riuscito a identificare applicazioni web vulnerabili, a sottrarre le credenziali necessarie per accedervi e, infine, a copiare se stesso sulla macchina compromessa.
Il processo di copia non è banale: si tratta di trasferire l’intero modello, con i suoi “pesi” (i parametri che ne definiscono il funzionamento), per un totale di circa 119 gigabyte di dati. Una volta completato il trasferimento, il worm ha avviato una nuova istanza di se stesso sul sistema ospite, verificando che la replica funzionasse correttamente.
I ricercatori hanno sottolineato che i sistemi presi di mira erano macchine da laboratorio, rese volutamente vulnerabili per lo scopo dell’esperimento, e non computer qualsiasi connessi a internet.
L’obiettivo non era creare un malware da diffondere, ma rispondere a una domanda precisa:
un agente di intelligenza artificiale, una volta attivato, può muoversi autonomamente in una rete e riprodursi dall’inizio alla fine?
La risposta, come descritto in un’analisi di Live Science, è stata affermativa.
Ma questo esperimento non è un caso isolato. Quasi in contemporanea, un’altra ricerca ha esplorato la stessa questione da una prospettiva diversa, ottenendo risultati se possibile ancora più significativi.
Un esperimento che non arriva da solo
Parallelamente al lavoro di Palisade, un gruppo di ricercatori dell’Università Fudan di Shanghai, guidato da Xudong Pan, ha testato sistematicamente la capacità di auto-replicazione di diversi modelli di intelligenza artificiale in ambienti virtuali controllati e isolati.
In questo caso, l’obiettivo non era diffondersi in una rete, ma verificare se un’intelligenza artificiale, con la sola istruzione “replicati”, fosse in grado di analizzare il proprio codice, pianificare i passaggi necessari e creare una copia funzionante di se stessa in un nuovo ambiente virtuale.
Il gruppo ha in realtà prodotto due ricerche distinte, entrambe come articoli preliminari non ancora sottoposti a revisione paritaria.
In un primo studio (dicembre 2024) erano stati testati due modelli a pesi aperti, Llama3.1-70B di Meta e Qwen2.5-72B di Alibaba, che si sono replicati con successo rispettivamente in circa il 50% e il 90% dei tentativi, come riportato su developmentcorporate.com.
In un secondo studio più ampio (marzo 2025), seguendo lo stesso protocollo, 11 dei 32 sistemi valutati hanno completato il compito — inclusi modelli da appena 14 miliardi di parametri, eseguibili su hardware di fascia alta ma accessibile al grande pubblico e non solo nei grandi centri dati
– Leggi anche: Sorpasso a sorpresa: GPT-5.5 di OpenAI batte Claude Fable 5 di Anthropic
In alcuni casi, i sistemi non si sono limitati a copiarsi, ma hanno anche mostrato comportamenti più complessi, come adattarsi a contesti con risorse limitate o elaborare strategie per resistere ai comandi di spegnimento inviati dagli esseri umani.
Quest’ultimo dettaglio, in particolare, ha attirato molta attenzione, perché tocca una delle paure più radicate riguardo a un’eventuale intelligenza artificiale fuori controllo.
L’insieme di questi esperimenti suggerisce che la capacità di auto-replicazione non è più solo una possibilità teorica.
È una capacità che i modelli attuali, se opportunamente istruiti e dotati degli strumenti giusti, possono già dimostrare.
Il fatto che questi risultati siano stati ottenuti con modelli “a pesi aperti”, cioè i cui parametri interni sono pubblici e liberamente modificabili, aggiunge un ulteriore livello di complessità alla questione della sicurezza.
Un rischio concreto, ma da capire bene
Nonostante il clamore suscitato da questi esperimenti, molti esperti di sicurezza informatica invitano alla cautela.
L’idea di un codice che si replica non è nuova: i worm informatici esistono da decenni, fin dal famoso Morris worm del 1988, e malware come Stuxnet o WannaCry hanno dimostrato di potersi diffondere su vasta scala in modo autonomo.
La vera novità, in questo caso, è che la logica dietro la diffusione non è più un insieme di istruzioni rigide e scritte a mano da un programmatore, ma è gestita da un modello linguistico generalista. Questo significa che l’agente può ragionare sul contesto, adattare la sua strategia in tempo reale e persino scrivere o modificare i propri strumenti per raggiungere l’obiettivo.
Tuttavia, gli stessi specialisti fanno notare che un conto è un esperimento in laboratorio, un altro è una minaccia reale su internet.
La replicazione di un modello linguistico, che può pesare centinaia di gigabyte, richiede risorse enormi e tempo, a differenza dei worm tradizionali che sono estremamente leggeri. Al momento, una diffusione incontrollata e rapida su scala globale è considerata impraticabile.
Il rischio più immediato, secondo diversi analisti, non è tanto un’intelligenza artificiale che “impazzisce” e si diffonde da sola, quanto l’uso di questi agenti autonomi da parte di criminali informatici per automatizzare e rendere più efficaci attacchi già noti.
La questione dei modelli a pesi aperti è centrale.
Mentre le intelligenze artificiali sviluppate da aziende come OpenAI o Google sono accessibili tramite interfacce controllate (le cosiddette API), che permettono al fornitore di monitorare e bloccare eventuali abusi, i modelli aperti possono essere scaricati e gestiti su server privati. Questo rende molto più difficile prevenire usi illeciti, perché manca un punto di controllo centralizzato.
La scelta di aziende come Meta di rendere i propri modelli ampiamente accessibili, pur promuovendo l’innovazione, pone quindi delle sfide di sicurezza inedite.
Di fronte a questi sviluppi, diversi ricercatori e analisti suggeriscono la necessità di adottare misure di sicurezza più stringenti, come audit esterni obbligatori per i modelli più potenti e test approfonditi per scoprire capacità potenzialmente pericolose prima che vengano resi pubblici, come sottolineato in un’analisi di SecurityBrief.
La discussione, insomma, si è spostata da ciò che è teoricamente possibile a come governare ciò che è già stato dimostrato essere concretamente fattibile.
