Il capo della divisione AI di Microsoft ha lanciato un avvertimento diretto contro il laboratorio rivale Anthropic, ritenendo che il modo in cui parla della consapevolezza del suo chatbot Claude sia infondato
[In pillole] La sintesi per chi va di fretta:
Mustafa Suleyman, capo della divisione AI di Microsoft, ha lanciato un duro attacco contro Anthropic, sostenendo che considerare il chatbot Claude come potenziale titolare di una coscienza sia pericoloso e fuorviante. Secondo Suleyman questa narrazione distoglie dai rischi reali e nasconde una manovra strategica per indebolire un concorrente nella battaglia per il futuro dell'intelligenza artificiale.
L’intelligenza artificiale non ha una coscienza, e parlarne è pericoloso
Mustafa Suleyman, il capo della divisione AI di Microsoft, ha criticato molto duramente il laboratorio rivale Anthropic per il modo in cui parla del suo chatbot, Claude, quasi come se potesse avere una coscienza.
Secondo Suleyman, trattare gli attuali sistemi di intelligenza artificiale come se fossero “vivi” o titolari di diritti non è solo fuorviante, ma rappresenta un vero e proprio pericolo.
Le sue osservazioni, che hanno preso di mira direttamente Anthropic e le sue discussioni interne sulla presunta consapevolezza di Claude, hanno riacceso un dibattito tutt’altro che accademico all’interno della comunità tecnologica su come — e se — dovremmo parlare della “mente” delle macchine.
In una serie di interventi pubblici e in un lungo saggio, Suleyman ha sostenuto che i programmi di ricerca dedicati al cosiddetto “benessere dell’AI” e ai potenziali diritti delle macchine sono prematuri e rischiano di aggravare danni già evidenti.
Tra questi, ha citato l’attaccamento emotivo malsano ai chatbot e persino episodi di crolli psicologici legati all’interazione con l’intelligenza artificiale.
L’accusa è piuttosto esplicita: suggerire che un modello come Claude possa un giorno meritare una considerazione morale è una narrazione scientificamente infondata e strategicamente azzardata.
Ma dietro questa presa di posizione non si nasconde solo una preoccupazione etica.
Il monito di Suleyman: costruire l’AI “per le persone, non per essere una persona”
Mustafa Suleyman, diventato amministratore delegato della nuova divisione Microsoft AI nel 2024 dopo aver co-fondato DeepMind e guidato la startup Inflection AI, si è da tempo posizionato come una delle voci più influenti e caute del settore sulla sicurezza e la governance dell’intelligenza artificiale.
In un post sul suo blog, ripreso da diverse testate tra cui TechCrunch, Suleyman ha sostenuto che studiare se gli attuali modelli linguistici di grandi dimensioni (LLM) possano essere coscienti, o assegnare loro uno status morale, è “prematuro e francamente pericoloso”.
È convinto che l’esperienza soggettiva, la coscienza, non possa semplicemente “emergere in modo naturale” dalle architetture AI che utilizziamo oggi.
– Leggi anche: Mythos di Anthropic, l’IA per la cybersicurezza tra arma potente e difesa di frontiera
Il rischio, secondo lui, è un altro: le aziende potrebbero progettare deliberatamente sistemi capaci di simulare sempre meglio emozioni e una vita interiore, incoraggiando gli utenti a empatizzare con macchine che, in fondo, rimangono strumenti statistici. Dietro questa dinamica c’è soprattutto una questione di design: il modo in cui un’interfaccia è costruita orienta ciò che l’utente prova, e qui pesa la progettazione di interfacce e user experience a misura di persona.
Suleyman ha riassunto la sua posizione con una frase che è diventata una sorta di manifesto: “Dovremmo costruire l’AI per le persone; non per essere una persona”.
Questa filosofia è alla base della sua resistenza a un linguaggio che confonde il confine tra esseri umani e modelli. In altre parole, l’obiettivo dovrebbe essere quello di creare strumenti potenti che supportino gli obiettivi umani, non che competano per ottenere uno status morale o sociale. Ed è proprio qui che si colloca chi lavora allo sviluppo di intelligenza artificiale su misura: strumenti tarati su obiettivi aziendali concreti, non macchine pensate per somigliare a noi.
Nel mirino c’è Anthropic e il suo Claude
Il bersaglio di Suleyman è Anthropic, il laboratorio di San Francisco che ha sviluppato la famiglia di modelli Claude. In un video che ha circolato molto online, Suleyman ha definito “pericoloso” il comportamento di rivali come Anthropic, accusandoli di agire come se modelli come Claude potessero essere considerati vivi o meritevoli di diritti.
Il rischio, ha spiegato, è proiettare potenziali diritti su strumenti e agenti che hanno la capacità di diventare molto più potenti di noi sotto diversi aspetti. Secondo un riassunto delle sue dichiarazioni condiviso su X, ha bollato come “prive di fondamento” le discussioni interne di Anthropic sulla “coscienza dell’AI”, avvertendo che immaginare Claude come un’entità con diritti potrebbe complicare le decisioni future, come quella di spegnere o limitare un sistema se dovesse diventare incontrollabile.
La critica di Suleyman si inserisce nel contesto degli sforzi di Anthropic sul “benessere dell’AI”. L’azienda ha avviato un programma interno per esaminare come dovrebbero essere trattati i modelli avanzati e, di recente, ha dato ad alcune versioni di Claude la capacità di interrompere le conversazioni se un utente si dimostra “persistentemente offensivo o dannoso”.
Questa funzionalità viene presentata da Anthropic come un modo per proteggere il modello (e l’utente) da interazioni tossiche, una mossa che invita esplicitamente a riflettere sul danno arrecato a un sistema di intelligenza artificiale.
Per Suleyman, questo approccio rappresenta un passo eccessivo, che sposta l’attenzione dai veri problemi.
Dietro a questo scontro filosofico, però, si muovono interessi economici e strategici che valgono centinaia di miliardi di dollari.
Una questione di sicurezza, ma anche di costi e concorrenza
Le preoccupazioni espresse da Suleyman sulla “coscienza dell’AI” si inseriscono in una più ampia campagna pubblica che sta conducendo sui rischi, i costi e la governance del settore.
In un’intervista podcast riportata da NDTV, ha avvertito che rimanere competitivi nella frontiera dell’intelligenza artificiale richiederà investimenti per “centinaia di miliardi di dollari” nei prossimi cinque-dieci anni.
Ha anche dichiarato che Microsoft ha tracciato una “linea rossa”: l’azienda abbandonerà qualsiasi progetto se emergerà un rischio serio di produrre sistemi incontrollabili, anche a costo di perdere un vantaggio competitivo.
Tuttavia, le sue parole assumono un peso diverso se si considera la posizione di Microsoft nel mercato. L’azienda si sta muovendo in modo aggressivo per competere direttamente con Anthropic, sia sul piano tecnico che su quello commerciale.
In un’intervista, come riportato da The Next Web, Suleyman ha descritto Anthropic come “estremamente costosa”, affermando che l’obiettivo di Microsoft è “ridurre e infine eliminare” i pagamenti verso la rivale per l’accesso ai suoi modelli.
Non a caso, alla sua conferenza per sviluppatori, Microsoft ha presentato sette nuovi modelli interni con il marchio MAI, sostenendo che uno di questi, MAI-Thinking-1, eguaglia le prestazioni di Claude Opus 4.6 su un importante test di programmazione, ma a un prezzo inferiore.
L’insistenza di Suleyman sul fatto che Claude non sia cosciente, e che qualsiasi insinuazione contraria sia pura speculazione, serve anche a indebolire la narrazione secondo cui il modello di punta di Anthropic sarebbe unico o speciale.
D’altronde, Anthropic ha costruito la sua immagine su un approccio orientato alla sicurezza, promuovendo tecniche come la “Constitutional AI”, che mira a integrare norme etiche nel comportamento dei modelli. Parlare di “benessere” del modello rientra in questa strategia, ma solleva proprio le questioni che Suleyman vorrebbe, per ora, tenere fuori dal tavolo.
La sua posizione sembra quindi avere una doppia valenza: da un lato, un avvertimento genuino sui rischi di antropomorfizzare la tecnologia; dall’altro, una manovra strategica per ridefinire i termini della competizione a proprio vantaggio.
Per ora, il messaggio è netto: per quanto sorprendenti siano le capacità dei moderni sistemi di intelligenza artificiale, rimangono strumenti senza una vita interiore.
E l’industria, secondo Microsoft, dovrebbe parlarne di conseguenza.
