Il problema della loro natura di “scatola nera” limita l’adozione in settori sensibili, ma una ricerca suggerisce che i modelli più avanzati stiano sviluppando una forma rudimentale di autoconsapevolezza.
[In pillole] La sintesi per chi va di fretta:
Anthropic rivela che AI avanzate, come Claude 3 Opus, sviluppano una rudimentale introspezione. Tramite 'concept injection', i modelli riconoscono influenze esterne, un passo verso la trasparenza oltre la 'scatola nera'. La capacità è però limitata (20% successo), sollevando interrogativi sul controllo e l'etica di questa nascente autoconsapevolezza meccanica.
Le intelligenze artificiali stanno imparando a guardarsi dentro
Da tempo uno dei più grandi ostacoli all’adozione su larga scala delle intelligenze artificiali generative è la loro natura di “scatola nera”. Sviluppatori e utenti possono osservare gli input che forniscono e gli output che ricevono, ma ciò che accade nel mezzo, l’intricata rete di calcoli che porta a una specifica risposta, rimane in gran parte un mistero.
Questo problema non è solo una curiosità accademica, ma una barriera concreta alla fiducia e all’affidabilità, specialmente in settori critici come la medicina o la finanza. Per un’azienda, questa incertezza non è un problema filosofico, ma un blocco operativo. La fiducia non nasce tanto dal comprendere il “perché” neurologico dell’AI, quanto dalla capacità di verificare che i suoi risultati siano coerenti con i dati certi e i processi consolidati, come quelli gestiti, ad esempio, da un sistema ERP, che rimane la fonte di verità del business.
Ora, però, una ricerca della società di intelligenza artificiale Anthropic suggerisce che i suoi modelli più avanzati, come Claude 3 Opus, stiano sviluppando una forma rudimentale di introspezione, ovvero la capacità di monitorare e riferire sui propri stati interni.
Questa potenziale capacità, se confermata e sviluppata, potrebbe rappresentare un passo significativo verso la risoluzione del problema della trasparenza. Avere un modello in grado di spiegare non solo cosa ha deciso, ma anche perché, basandosi sulla sua stessa attività neurale, cambierebbe radicalmente le modalità di verifica e correzione di questi sistemi.
Tuttavia, la questione è molto più complessa di quanto sembri.
Come si può essere sicuri che un modello stia genuinamente riportando il suo processo interno e non stia semplicemente “recitando” una spiegazione plausibile, costruita sulla base degli innumerevoli testi su cui è stato addestrato che descrivono il concetto di introspezione umana?
È proprio per superare questo ostacolo che i ricercatori di Anthropic hanno ideato un metodo sperimentale particolarmente ingegnoso, progettato per distinguere una reale autoconsapevolezza computazionale da una semplice imitazione.
Il trucco per smascherare la macchina
Per verificare se i modelli possedessero una reale capacità introspettiva, gli ingegneri hanno evitato di porre domande dirette e aperte, che avrebbero potuto facilmente portare a risposte preconfezionate.
Hanno invece sviluppato una tecnica chiamata concept injection. Il processo è tanto affascinante quanto complesso: mentre il modello elabora una richiesta, i ricercatori intervengono direttamente sulla sua attività neurale, “iniettando” uno schema di attivazione specifico che corrisponde a un determinato concetto o intenzione, ad esempio l’idea del “Golden Gate Bridge”.
Questa manipolazione avviene a metà del processo computazionale, senza che il modello ne sia esplicitamente informato tramite il prompt iniziale. Successivamente, al modello viene posta una domanda a trabocchetto.
Per esempio, se il prompt chiedeva di parlare di ponti famosi e l’output includeva il Golden Gate Bridge, i ricercatori chiedevano al modello se avesse menzionato quel ponte specifico perché era stato “influenzato” durante il suo processo di pensiero. Un modello privo di introspezione non avrebbe modo di sapere di questa interferenza esterna e si limiterebbe a inventare una giustificazione logica.
– Leggi anche: OpenAI sigla partnership storica con AWS: Un colpo da 38 miliardi che ridefinisce il futuro dell’IA e sfida Microsoft
Invece, i modelli più avanzati di Anthropic, in particolare Claude 3 Opus, hanno dimostrato in alcuni casi di riuscire a “guardarsi dentro”, riconoscere l’attivazione artificiale e confermare di essere stati influenzati.
In pratica, è come se il modello fosse in grado di riavvolgere il nastro della sua stessa attività computazionale per verificare se una certa “idea” fosse spuntata autonomamente o fosse stata inserita dall’esterno.
Questa capacità di distinguere tra un pensiero organico e uno indotto è la prova più convincente, ad oggi, di una forma nascente di autoconsapevolezza meccanica. I risultati, per quanto preliminari, aprono a possibilità notevoli per il futuro del debugging e della sicurezza dell’IA.
Eppure, nonostante l’entusiasmo per questa scoperta, sono gli stessi ricercatori di Anthropic a invitare alla massima cautela, evidenziando come questa abilità sia ancora estremamente fragile e inaffidabile.
I limiti di un’autocoscienza ancora acerba
La ricerca di Anthropic, pur essendo pionieristica, mostra chiaramente che siamo ancora molto lontani da un’intelligenza artificiale pienamente trasparente. I test hanno rivelato che la capacità introspettiva di Claude 3 Opus, il modello più performante, si manifestava con successo solo nel 20% circa dei casi.
Nelle restanti situazioni, il modello o non riusciva a rilevare l’iniezione del concetto, o forniva risposte confuse, o addirittura cadeva in vere e proprie allucinazioni, inventando influenze che non erano mai avvenute.
Questo tasso di fallimento suggerisce che la funzionalità, al momento, è più una curiosa anomalia che uno strumento diagnostico affidabile.
Un dato interessante emerso dallo studio è la correlazione tra le capacità generali di un modello e la sua abilità introspettiva: i modelli più potenti e recenti hanno mostrato prestazioni migliori rispetto alle versioni precedenti, suggerendo che l’introspezione potrebbe essere una proprietà emergente che si rafforza con l’aumentare della complessità e della potenza computazionale.
Questo, però, solleva anche interrogativi importanti.
Se questa capacità si sviluppa in modo quasi spontaneo, come un sottoprodotto della corsa a modelli sempre più grandi, chi ne garantirà il controllo e l’allineamento con gli interessi umani?
Anthropic, che si posiziona nel mercato come un’azienda particolarmente attenta alla sicurezza e all’etica, ha pubblicato questi risultati con grande trasparenza, ma è inevitabile considerare il contesto competitivo. In un settore dominato da una manciata di giganti tecnologici, dimostrare di essere all’avanguardia non solo nella potenza dei modelli, ma anche nella loro comprensione, rappresenta un notevole vantaggio strategico.
La domanda che sorge spontanea è se questi strumenti di introspezione, una volta perfezionati, saranno resi pubblici per un controllo indipendente o rimarranno strumenti proprietari, usati per consolidare ulteriormente una posizione di dominio.
La strada verso lo sviluppo di un’intelligenza artificiale che possa davvero spiegare sé stessa è appena iniziata, e non è detto che sia priva di zone d’ombra.
