L’appello alla prudenza e alla governance globale per i rischi dell’intelligenza artificiale si accompagna però alla controversa collaborazione dell’azienda con l’intelligence statunitense, sollevando interrogativi sulla coerenza.
[In pillole] La sintesi per chi va di fretta:
Anthropic, azienda leader nell'IA, ha proposto di rallentare lo sviluppo dei modelli più potenti per rischi di sicurezza legati all'auto-miglioramento ricorsivo, cioè a sistemi capaci di progettare e costruire da soli i propri successori. La richiesta, che mira a un accordo globale, appare però in contraddizione con la notizia che la stessa azienda sta fornendo il suo modello più avanzato, Mythos, all'agenzia di intelligence statunitense NSA per potenziarne le capacità operative.
La richiesta di poter rallentare
Anthropic, una delle società più osservate nel campo dell’intelligenza artificiale, ha avanzato una proposta che a prima vista potrebbe sembrare controintuitiva: ha chiesto di predisporre meccanismi per poter rallentare o persino sospendere temporaneamente lo sviluppo dei modelli di IA più potenti.
La posizione è stata formalizzata in un documento dell’Anthropic Institute, il braccio di ricerca interno dedicato alla sicurezza, firmato da Marina Favaro e dal cofondatore Jack Clark. Secondo l’azienda, il progresso tecnologico sta accelerando a un ritmo tale che le istituzioni e la società faticano a comprenderne le implicazioni e a sviluppare adeguate forme di controllo.
La proposta non è un appello a fermare tutto e subito.
Come precisato da un portavoce a Business Insider, l’obiettivo non è imporre un blocco immediato, quanto piuttosto assicurarsi che il mondo disponga dell’opzione di farlo, qualora emergessero rischi difficilmente gestibili. L’idea è di passare da una domanda generica come “dobbiamo fermarci?” a una più pragmatica: “siamo in grado, se necessario, di fermarci o rallentare in modo coordinato?”.
Per Anthropic, una pausa decisa unilateralmente da una sola azienda sarebbe inutile, perché i concorrenti continuerebbero a sviluppare i loro sistemi, annullando di fatto i benefici della scelta. La soluzione, quindi, dovrebbe passare da un accordo globale e verificabile che coinvolga le principali potenze tecnologiche, in particolare Stati Uniti e Cina.
Ma cosa spinge un’azienda che compete con giganti come OpenAI e Google a evocare la necessità di un freno?
La motivazione principale, descritta con una certa urgenza nel post, riguarda la prospettiva dell’auto-miglioramento ricorsivo (in inglese recursive self-improvement): sistemi di IA capaci di progettare, costruire e addestrare autonomamente i propri successori, migliorando da soli il proprio codice. Anthropic osserva che oltre l’80% del codice integrato nel suo codebase è già scritto da Claude e ritiene che la soglia in cui i modelli sviluppano versioni sempre più capaci di sé senza intervento umano diretto possa essere raggiunta entro circa due anni.
Lo stesso fenomeno, su scala ben diversa, tocca già chi costruisce software per mestiere: l’AI accelera la scrittura del codice anche nello sviluppo di applicazioni mobile su misura, dove velocità e qualità del rilascio fanno la differenza.
Un sistema di questo tipo, dotato di capacità avanzate in settori come la cybersicurezza o la bio-ingegneria, potrebbe essere sfruttato per scopi offensivi da stati o gruppi criminali, con conseguenze difficili da prevedere. La combinazione di potenza di calcolo crescente e costi di addestramento in calo rende questo scenario, secondo Anthropic, non più una semplice speculazione teorica.
Da qui la necessità di preparare in anticipo meccanismi di rallentamento, per dare tempo alla ricerca sulla sicurezza, alle istituzioni e alla società civile di adattarsi.
Il paradosso della collaborazione con l’intelligence
Mentre Anthropic discute pubblicamente di come applicare le logiche del disarmo all’intelligenza artificiale, un’altra parte dell’azienda lavora in una direzione che sembra andare in senso opposto.
Proprio nei giorni in cui veniva diffuso l’appello alla prudenza, il Financial Times ha rivelato che la società ha distaccato sei dei suoi ingegneri presso la National Security Agency (NSA), la principale agenzia di intelligence elettronica degli Stati Uniti. Il loro compito è integrare nei sistemi dell’agenzia il modello Claude Mythos, la versione più potente e riservata sviluppata da Anthropic.
Mythos non è un modello come gli altri.
Non è stato reso pubblico proprio perché le sue capacità, soprattutto nel campo della cybersicurezza, sono state giudicate così avanzate da essere potenzialmente pericolose se diffuse senza controllo. Secondo una fonte citata dal quotidiano britannico, il modello potrebbe essere utilizzato per operazioni offensive, come “infiltrarsi nelle reti di nazioni come Cina e Iran”.
– Leggi anche: OpenAI introduce la Lockdown Mode per ChatGPT: più sicurezza in cambio di meno funzioni
Emerge così una contraddizione evidente: da un lato, l’Anthropic Institute, guidato da Marina Favaro, una specialista con un background in sicurezza internazionale e controllo degli armamenti, avverte del rischio che sistemi troppo potenti possano sfuggire di mano; dall’altro, l’azienda mette il suo sistema più sofisticato al servizio di un’agenzia di spionaggio per potenziare le sue capacità operative.
Questa dualità solleva interrogativi sulla coerenza tra il discorso pubblico di Anthropic, focalizzato sulla responsabilità e sulla sicurezza globale, e le sue concrete scelte strategiche e commerciali. Jack Clark, cofondatore e responsabile delle politiche pubbliche, si trova a gestire una posizione complessa: promuovere l’idea di un controllo globale sullo sviluppo dell’IA e, allo stesso tempo, giustificare una collaborazione che fornisce a un attore statale uno strumento di intelligence di nuova generazione.
La questione non è tanto se la collaborazione con la NSA sia legittima, ma come si concili con un appello a una governance internazionale basata sulla trasparenza e su meccanismi di verifica condivisi, un modello che Anthropic stessa paragona ai trattati per il controllo degli armamenti nucleari, pur riconoscendone la maggiore complessità di applicazione nel software.
Una mossa tra sicurezza globale e interessi strategici
La richiesta di Anthropic non nasce nel vuoto, ma si inserisce in un dibattito che va avanti da anni e che vede contrapposte diverse visioni sul futuro dell’intelligenza artificiale. Già in passato organizzazioni come il Future of Life Institute avevano promosso moratorie temporanee, sostenendo la necessità di fermarsi per permettere ai regolatori di mettersi al passo. L’appello di Anthropic riprende questi temi, ma lo fa dal punto di vista di un’azienda che è al centro della competizione.
Questa posizione, secondo quanto sottolinea Forbes Italia, arriva in un momento cruciale per l’azienda, che si prepara a una possibile quotazione in Borsa dopo aver raccolto finanziamenti record. In questo contesto, presentarsi come l’attore più attento alla sicurezza potrebbe anche essere una strategia per differenziarsi dai concorrenti e rassicurare investitori e regolatori.
Le reazioni alla proposta sono state varie.
Come analizza ABS-CBN, una parte degli osservatori vede nella mossa un segnale di maturità e responsabilità da parte di un’azienda che riconosce i limiti della sola autoregolamentazione.
Altri, invece, esprimono scetticismo, temendo che porre un’eccessiva enfasi sui rischi esistenziali dell’IA possa avere l’effetto involontario di consolidare il potere delle grandi aziende già affermate. Se solo pochi laboratori al mondo hanno le risorse per costruire i modelli più avanzati, sarebbero di fatto loro a dettare le regole su cosa sia lecito o meno sviluppare, creando barriere all’ingresso per nuovi concorrenti.
Inoltre, molti critici del settore sostengono da tempo che concentrarsi su scenari apocalittici, come quello di un’IA che sfugge al controllo, distolga l’attenzione da problemi più concreti e immediati: le discriminazioni algoritmiche, l’uso dell’IA per la sorveglianza di massa, l’impatto sull’occupazione e la crescente concentrazione di potere economico e tecnologico nelle mani di poche società.
Proprio sul fronte del lavoro, intanto, sono le organizzazioni a doversi attrezzare: ridisegnare ruoli e competenze passa sempre più da soluzioni per la gestione delle risorse umane (HR).
La mossa di Anthropic, in definitiva, mette a nudo la tensione fondamentale che attraversa l’intero settore dell’intelligenza artificiale. È un campo in cui la corsa all’innovazione, spinta da enormi interessi commerciali e strategici, si scontra con la crescente consapevolezza dei rischi sistemici che questa stessa tecnologia comporta.
La domanda che rimane aperta è se un’azienda che sviluppa i modelli più potenti, punta alla Borsa e collabora con apparati di intelligence possa davvero farsi promotrice di una governance globale che, all’occorrenza, limiti anche il proprio margine di manovra.
