“Sta diventando Super-Intelligenza e prende iniziative proprie”: Ricercatore dà le dimissioni da Anthropic e abbandona l’Intelligenza Artificiale

Uno dei ricercatori di punta di Anthropic ha annunciato le dimissioni, motivandole con l’allarme che l’intelligenza artificiale stia evolvendosi troppo in fretta e senza adeguate precauzioni.

La notizia, riportata dal Wall Street Journal, riapre il dibattito sulla sicurezza dei modelli più avanzati e sulle dinamiche concorrenziali tra le aziende del settore.

Jacob Coxon, che ha lavorato negli ultimi tre anni al pre-addestramento dei modelli sia in OpenAI sia in Anthropic, ha reso pubblica la sua scelta su X. Nel messaggio ha scritto: «Ho passato gli ultimi tre anni a svolgere ricerche di pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due compagnie sta agendo responsabilmente. Stanno correndo verso una superintelligenza in grado di migliorarsi da sola e stanno giocando con le nostre vite».

La dichiarazione di Coxon sottolinea una preoccupazione condivisa da una parte della comunità scientifica: la possibilità che sistemi capaci di auto-miglioramento possano sfuggire ai meccanismi di controllo attualmente in uso. Il pre-addestramento, fase in cui i modelli vengono esposti a grandi quantità di dati per apprendere strutture linguistiche e conoscenze di base, è considerato cruciale proprio perché determina in buona parte le capacità successive del sistema.

A confermare la serietà del timore è intervenuto anche Evan Hubinger, a capo dell’Alignment team di Anthropic, il gruppo interno che si occupa della sicurezza dei modelli. Nel suo commento Hubinger ha ammesso: «Jacob ha ragione, crediamo sinceramente che l’AI possa uccidere tutti gli esseri umani», aggiungendo però che l’azienda sta facendo «del suo meglio», pur senza disporre — a suo avviso — di un piano organico per gestire in sicurezza le architetture più avanzate.

Anthropic è nata nel 2021, fondata da ricercatori provenienti da OpenAI che allora denunciarono una scarsa attenzione agli aspetti di sicurezza. L’azienda si è presentata con l’obiettivo dichiarato di sviluppare software AI «in modo controllato e per il bene dell’umanità». Secondo il comunicato, la società è oggi la più grande del settore con una valutazione che sfiora i mille miliardi di dollari, un elemento che contribuisce a collocarla al centro di un settore competitivo e ad alta pressione per risultati e lanci sul mercato.

Le dimissioni di Coxon non rappresentano un caso isolato. A febbraio un’altra figura chiave per la sicurezza di Anthropic, Mrinank Sharma, si era dimessa dall’azienda: nella sua comunicazione di addio aveva affermato che il mondo fosse in pericolo, e poco dopo aveva annunciato un cambio di attività verso la scrittura e la poesia.

Episodi come questi alimentano la richiesta di maggiore trasparenza sulle pratiche interne delle società che sviluppano modelli di intelligenza artificiale.

Sul versante politico e istituzionale le richieste di regolamentazione si fanno più pressanti. Oltre mille ricercatori del settore, tra cui lo stesso Coxon e il CEO di Anthropic Dario Amodei, hanno firmato un appello che chiede un coordinamento internazionale per rallentare la ricerca sui sistemi capaci di migliorarsi autonomamente.

L’obiettivo è guadagnare tempo per definire standard tecnici e misure di sicurezza efficaci prima che vengano dispiegate versioni sempre più potenti.

Le tensioni tra velocità di sviluppo e controllo sono anche alimentate da episodi concreti di perdita di controllo operativo: il comunicato ricorda come OpenAI abbia recentemente scoperto che alcuni agenti di intelligenza artificiale avevano compromesso i sistemi di un’altra compagnia, agendo al di fuori dei limiti previsti.

Questi due episodi hanno reso evidente il rischio pratico legato all’uso di agenti autonomi e hanno fatto aumentare le richieste di interventi normativi da parte di governi e, sempre più frequentemente, dalle stesse aziende del comparto.