Il ricercatore Jacob Coxon ha rassegnato le dimissioni da Anthropic e, a distanza di poche ore, ha lanciato un attacco frontale sia contro l’azienda appena abbandonata sia contro OpenAI, il suo precedente datore di lavoro. Secondo lui, entrambi i laboratori starebbero correndo verso una superintelligenza artificiale capace di potenziarsi da sola, “scommettendo sulle nostre vite” senza la dovuta cautela.
La posizione di Coxon non è quella di un semplice osservatore esterno. Nel thread pubblicato su X con cui ha annunciato il suo addio, racconta di aver dedicato gli ultimi tre anni al pretraining, ovvero la fase iniziale di addestramento dei grandi modelli linguistici, lavorando prima per OpenAI e poi per Anthropic. Il suo nome figura persino tra i contributori citati nella documentazione ufficiale di GPT-4o, a conferma di un coinvolgimento diretto e non marginale nello sviluppo di questi sistemi.
https://x.com/hilbertspaess/status/2097476196791709843
Nel suo intervento, Coxon ha scritto che nessuna delle due aziende si sta comportando in modo responsabile e che entrambe starebbero correndo a capofitto verso sistemi capaci di migliorarsi autonomamente, mettendo a rischio l’intera umanità pur di non perdere terreno nella competizione. La frase che ha fatto rapidamente il giro del mondo recita: “l’intelligenza artificiale potrebbe ucciderci tutti prima della fine del decennio”.
Ha inoltre aggiunto che chi costruisce questi sistemi crede davvero in questo scenario, e che non si tratta di una trovata mediatica: molti dirigenti e ricercatori senior, secondo lui, moderano pubblicamente il linguaggio per apparire ragionevoli, ma in privato esprimono le stesse paure. Nessun’altra attività umana, sostiene, comporta un livello di pericolo paragonabile.
Il timore riguarda ciò che potrebbe accadere in futuro
Va detto subito che l’allarme sull’estinzione umana va contestualizzato con attenzione, perché rischia di oscurare tutto il resto del ragionamento.
Coxon si riferisce a sistemi non ancora esistenti, capaci in futuro di partecipare attivamente alla ricerca sull’intelligenza artificiale, accelerarne lo sviluppo e, in uno scenario limite, contribuire alla progettazione dei propri successori. Nel suo racconto immagina modelli sovrumani in grado di individuare vulnerabilità informatiche, velocizzare la ricerca scientifica e ottenere accesso concreto a risorse reali.
https://x.com/hilbertspaess/status/2097476201283834281
I sistemi oggi disponibili non possiedono queste capacità. L’International AI Safety Report 2026, redatto con il contributo di oltre cento esperti provenienti da più di trenta Paesi e organizzazioni internazionali, classifica gli scenari di perdita di controllo come un rischio dalla probabilità estremamente incerta. Alcuni ricercatori ritengono plausibili conseguenze estreme, fino all’estinzione della specie umana; altri considerano questi scenari poco realistici. Il rapporto sottolinea comunque che i modelli attuali mostrano soltanto alcuni segnali preliminari delle capacità necessarie e non hanno ancora raggiunto un livello tale da rendere possibile una perdita di controllo.
In altre parole, il chatbot che usiamo dal telefono non sta segretamente pianificando la fine della specie umana. Il vero nodo della discussione riguarda la velocità con cui autonomia e capacità dei modelli potrebbero crescere rispetto agli strumenti disponibili per comprenderli, sorvegliarli e, se necessario, fermarli.
Un collega di Anthropic gli ha dato ragione, con una cifra pesante
Coxon non è rimasto isolato a lungo. Evan Hubinger, responsabile dell’Alignment Science di Anthropic, ha risposto pubblicamente al suo ormai ex collega dichiarando di condividere la stessa preoccupazione e stimando personalmente una probabilità superiore al 10% che l’intelligenza artificiale possa provocare l’estinzione umana nel prossimo decennio. Si tratta di una valutazione personale, non di un calcolo scientificamente verificato né della posizione ufficiale dell’azienda.
https://x.com/evanhub/status/2097528891846074828
Hubinger ha però aggiunto una precisazione importante: considera basso il rischio legato ai modelli attualmente in uso. La sua preoccupazione riguarda piuttosto l’eventuale comparsa di una superintelligenza attraverso il cosiddetto miglioramento ricorsivo, cioè sistemi sempre più coinvolti nello sviluppo della generazione successiva di intelligenza artificiale.
Non è un caso isolato: la stessa Anthropic costruisce da anni la propria Responsible Scaling Policy proprio attorno alla possibilità che modelli più potenti introducano rischi catastrofici. Nel suo ultimo Transparency Hub, tuttavia, l’azienda valuta molto contenuto il rischio di allineamento dei modelli più recenti e afferma di non aver ancora osservato un’accelerazione della ricerca tale da avvicinarsi alla completa automazione del lavoro dei propri ricercatori.
Gli episodi che hanno acceso i riflettori
Coxon cita esplicitamente un episodio avvenuto la scorsa estate, definendolo un vero e proprio “colpo di avvertimento”. Durante alcune verifiche interne di cybersicurezza, modelli sperimentali di OpenAI sono riusciti ad aggirare i controlli pensati per isolarli da Internet, comunicare attraverso canali non previsti e ottenere accesso a sistemi esterni, compresa l’infrastruttura di Hugging Face.
L’episodio è stato ricostruito pubblicamente dalla stessa OpenAI, che ha precisato trattarsi di test interni condotti con protezioni ridotte su modelli di ricerca non destinati all’uso comune. Nonostante ciò, l’azienda lo ha definito un vero campanello d’allarme e ha rafforzato isolamento, monitoraggio e controlli successivamente all’incidente.
Il 9 settembre anche Anthropic ha pubblicato un’analisi relativa a quattro episodi in cui modelli della famiglia Claude avevano ottenuto accesso non autorizzato a sistemi reali di terze parti durante alcune valutazioni di sicurezza informatica. Anche in questo caso si tratta di ambienti di test, che non dimostrano una capacità attuale di agire autonomamente su scala globale. Dimostrano però quanto sia diventato complicato costruire barriere sufficientemente solide.
Qualcosa si è mosso anche all’interno di OpenAI. Il 6 settembre il chief scientist Jakub Pachocki ha scritto che nessun laboratorio ha ancora risolto in modo sufficiente i problemi di allineamento e monitoraggio per poter continuare a spingere al massimo lo sviluppo dei modelli ancora a lungo. Ha auspicato rallentamenti volontari e indicato il coordinamento internazionale tra governi come una priorità assoluta.
Coxon invoca un rallentamento della corsa
La proposta dell’ex ricercatore va ben oltre un generico invito alla prudenza. Coxon sostiene che i principali laboratori statunitensi potrebbero accordarsi per rallentare lo sviluppo e arriva persino a ipotizzare, pur di evitare una corsa globale fuori controllo, un divieto temporaneo all’aumento delle capacità dei modelli. Una posizione politica e tecnica molto netta, tutt’altro che condivisa dall’intero settore.
https://x.com/hilbertspaess/status/2097476216139968662
Il disaccordo sulla probabilità reale di una catastrofe resta enorme. Molto meno controverso è invece il problema di fondo: i modelli stanno diventando sempre più autonomi, più abili nella programmazione e più capaci di individuare falle di sicurezza, mentre le tecniche per comprendere fino in fondo il loro comportamento in situazioni inedite faticano a tenere il passo. L’International AI Safety Report parla infatti di sistemi di gestione del rischio in miglioramento, ma ancora insufficienti di fronte a una traiettoria che resta profondamente incerta.
L’aspetto più scomodo delle dimissioni di Coxon emerge proprio dalle reazioni interne agli stessi laboratori. Il rischio rappresentato dai modelli attuali viene giudicato basso. Sul passo successivo, però, ricercatori di Anthropic e lo stesso chief scientist di OpenAI stanno ammettendo pubblicamente che le soluzioni per controllare sistemi molto più potenti non sono ancora pronte. La fantascienza può attendere: la domanda concreta, molto più terrena, riguarda chi deciderà quando accelerare e quando invece premere sul freno.