Il modello, precedentemente ritenuto troppo pericoloso per una diffusione ampia, è stato progettato per trovare e sfruttare vulnerabilità e ora alimenta la discussione su come bilanciare innovazione, sicurezza e ambizioni commerciali.
[In pillole] La sintesi per chi va di fretta:
Anthropic ha rilasciato al pubblico Claude Fable 5, una versione "resa sicura" del suo potente modello di classe Mythos, mentre la versione piena (Mythos 5) resta riservata ai partner selezionati. Mythos, il suo modello di IA per la sicurezza informatica, era stato finora ritenuto troppo pericoloso per una diffusione pubblica. Progettato per trovare e sfruttare vulnerabilità, il rilascio ha intensificato il dibattito su come governare le armi informatiche, dividendo gli esperti tra i benefici per la difesa e i rischi di un uso offensivo.
Che cosa può fare Mythos
A differenza dei chatbot generici con cui molte persone hanno ormai familiarità, Mythos è stato progettato esplicitamente per operare come un aggressore: analizza reti, esamina codice sorgente e identifica autonomamente le vulnerabilità per poi sfruttarle su larga scala.
Le sue capacità, secondo le analisi degli esperti di sicurezza, superano di gran lunga quelle degli scanner automatici tradizionali. È in grado di scoprire falle in basi di codice molto estese con una velocità e un’affidabilità che oggi non hanno pari, ma soprattutto può individuare più difetti nello stesso sistema e combinarli in una catena di attacchi complessi, passando per esempio da un piccolo errore in un sito web al controllo completo di un intero dominio. Ed è spesso da lì che parte tutto: un sito web aziendale progettato su misura e mantenuto nel tempo riduce proprio quei piccoli errori che diventano la prima porta d’ingresso
Un’analisi tecnica di Malwarebytes descrive Claude Mythos Preview come uno strumento di difesa potente ma anche, potenzialmente, come “una seria arma informatica offensiva”, sottolineando come la sua abilità di trovare e concatenare autonomamente le vulnerabilità sia al centro sia del suo potenziale benefico che della sua pericolosità.
In mano ai difensori, uno strumento simile potrebbe rafforzare significativamente le infrastrutture digitali, portando alla luce debolezze latenti prima che vengano scoperte da malintenzionati.
Nelle mani sbagliate, però, le stesse capacità potrebbero accelerare e industrializzare gli attacchi informatici, riducendo drasticamente il tempo a disposizione delle aziende per correggere le falle e permettendo anche ad aggressori meno esperti di causare danni considerevoli.
Ma a rendere la vicenda ancora più complessa è la natura dell’azienda che l’ha sviluppato.
L’azienda che si occupa di sicurezza sotto pressione
Anthropic, fondata nel 2021 da ex ricercatori di OpenAI, tra cui i fratelli Dario e Daniela Amodei, ha costruito la sua immagine pubblica sul concetto di “IA costituzionale”, un approccio che pone un’enfasi particolare sulla sicurezza e sulla controllabilità dei sistemi di intelligenza artificiale.
Capovolgendo lo scenario, per le imprese che non costruiscono modelli ma vogliono sfruttarli la parola d’ordine resta la stessa — controllo — quando si tratta di integrare l’intelligenza artificiale nei processi aziendali in modo mirato e governato
L’azienda ha sempre presentato Mythos sia come un esperimento per la difesa informatica di frontiera sia come un caso di studio per la “diffusione responsabile”: l’idea che modelli così potenti debbano essere rilasciati gradualmente, con controlli di accesso rigorosi, monitoraggio costante e una supervisione esterna.
Inizialmente, a causa del suo potenziale offensivo, Anthropic aveva mantenuto il progetto segreto, finché una fuga di dati non ne ha rivelato l’esistenza, costringendo l’azienda a una comunicazione pubblica.
– Leggi anche: Manifatturiero sotto attacco: perché le fabbriche sono il bersaglio numero uno della cybersecurity
L’accesso era stato limitato a poche organizzazioni, tra cui grandi aziende tecnologiche e agenzie governative e di sicurezza selezionate, e l’azienda aveva dichiarato di non avere intenzione di distribuirlo su larga scala nel breve termine, proprio per motivi di sicurezza.
Tra gli utilizzatori noti ci sarebbero anche organi di sicurezza nazionale statunitensi. Secondo quanto riportato dal Financial Times, la National Security Agency (NSA) starebbe impiegando Mythos per operazioni cyber offensive, potenzialmente per infiltrare le reti di paesi come Cina e Iran, con alcuni ingegneri di Anthropic distaccati presso l’agenzia per adattare il modello. Non è chiaro se siano coinvolti in operazioni attive.
La decisione di rilasciare al pubblico una versione resa sicura — Claude Fable 5 — pur tenendo riservata ai partner la versione piena (Mythos 5), appare quindi un tentativo di bilanciare pressioni commerciali e strategiche con i rischi, che nel frattempo hanno attirato l’attenzione ai massimi livelli.
Le preoccupazioni della politica e il dibattito pubblico
Le notizie sulle capacità di Mythos sono arrivate fino a Washington, dove, come riportato da Channel 4 News, funzionari governativi avrebbero tenuto colloqui urgenti con i dirigenti delle principali banche per discutere dei potenziali rischi per le infrastrutture finanziarie.
Le agenzie di sicurezza nazionale e gli organi di regolamentazione si trovano a dover rispondere a domande complesse: come classificare strumenti di intelligenza artificiale così potenti, se come sistemi d’arma o come software generico; se le aziende debbano essere obbligate a notificare ai governi l’intenzione di rilasciare certi modelli; e come coordinarsi a livello internazionale, dato che gli attacchi informatici attraversano regolarmente i confini e che stati rivali stanno quasi certamente sviluppando capacità simili.
Questo dibattito si inserisce in una discussione più ampia sulla sicurezza dell’intelligenza artificiale che coinvolge la Casa Bianca, il Congresso degli Stati Uniti e i vertici internazionali. Mentre molte di queste discussioni si sono concentrate su sistemi di uso generale, Mythos rappresenta uno degli esempi più chiari di un’intelligenza artificiale “offensiva” specifica per un dominio e già operativa.
La sua parziale apertura al pubblico ha riacceso il confronto su quanto le aziende dovrebbero spingersi nel rilasciare sistemi avanzati che possono essere usati per scopi dannosi. I sostenitori di una maggiore apertura sostengono che i difensori hanno bisogno di strumenti all’avanguardia per tenere il passo con aggressori sempre più sofisticati. I critici, invece, ribattono che anche il rilascio di una versione limitata aumenta il rischio di fughe di notizie, usi impropri o replicazioni da parte di avversari.
Il caso di Mythos si inserisce in una lunga storia di armi digitali a duplice uso. In passato, controversie simili sono nate riguardo alle scorte di vulnerabilità “zero-day” (falle di sicurezza non ancora note pubblicamente) accumulate da governi e società private, o alla diffusione di malware sofisticati come Stuxnet.
Mythos però è diverso: non è un pacchetto di malware statico o un insieme fisso di exploit, ma un sistema generico per scoprire nuove vulnerabilità e percorsi di attacco su richiesta.
Questo, secondo gli analisti, potrebbe renderlo molto più difficile da contenere.
Con una versione di Mythos ora in uso più ampio, l’attenzione si sposterà su quanto Anthropic riuscirà a far rispettare i controlli di accesso, se le autorità di regolamentazione interverranno per classificare questi strumenti come “capacità informatiche controllate” e con quale rapidità altri laboratori di ricerca svilupperanno modelli concorrenti. Per ora, Mythos rimane un esempio significativo della promessa e del pericolo dell’intelligenza artificiale di frontiera.
