«È a rischio l’umanità, nessuna azienda agisce in modo responsabile»: ricercatore di Anthropic si dimette. Le ragioni etiche e l’allarme sulla IA

«Stiamo correndo verso il baratro e decisioni con conseguenze globali per la nostra specie vengono prese sui laptop di pochi ingegneri a San Francisco o dentro i canali di messaggistica aziendali». È con queste parole che Jacob Coxon, ricercatore 27enne specializzato nel pre-addestramento dei modelli di intelligenza artificiale, ha annunciato su X le sue dimissioni da Anthropic. Dopo oltre tre anni passati tra la società creatrice di Claude e OpenAI, lo scienziato britannico ha deciso di sfilarsi dall’industria tech lanciando un monito diretto al mondo intero: la competizione sfrenata tra i colossi del settore rischia di far sfuggire di mano il controllo sui sistemi autonomi già entro la fine del prossimo anno, esponendo l’umanità a un concreto rischio di estinzione entro il 2030. Un grido d’allarme che trova sponda nella fuga di altri esperti di sicurezza dai laboratori americani e nell’imminente proposta del Congresso statunitense per congelare gli addestramenti più avanzati.

La bomba atomica decisa sui computer portatili

Nel motivare il suo addio in un’intervista al Wall Street Journal, Coxon ha spiegato che all’interno dei laboratori di frontiera si respira un’atmosfera da «fase finale», in cui espressioni come «periodo critico» indicano l’imminente raggiungimento di una superintelligenza artificiale. Il paragone tracciato dal giovane scienziato è con il Progetto Manhattan per la bomba atomica, che durante la Seconda Guerra Mondiale veniva gestito sotto stretto controllo statale e in bunker blindati. Oggi invece la creazione di algoritmi capaci di autodeterminarsi e superare le capacità umane è affidata alle chat interne come Slack. Secondo Coxon, nessuna singola azienda è attualmente in grado di garantire uno sviluppo sicuro, spinta soltanto dalla cieca sfiducia verso la concorrenza.

La fuga dai laboratori e l’incidente di Hugging Face

Le denunce di Coxon aprono uno squarcio sulle profonde spaccature etiche nell’ambiente tech. Se in OpenAI molti tecnici sottovaluterebbero la posta in gioco per la civiltà, in Anthropic la consapevolezza dei rischi convive con una corsa frenetica in vista dello sbarco in Borsa, mentre il Ceo Dario Amodei ammette le difficoltà nel gestire nuovi assunti attratti più dagli ingaggi che dalla sicurezza. L’addio di Coxon segue quello di altri specialisti di primo piano: da Chloé Bakalar a Jakub Pachocki. E collima con le stime del ricercatore Evan Hubinger, che attribuisce un rischio d’estinzione superiore al 10% nei prossimi dieci anni. A dimostrazione che i timori non sono astrazioni teoriche, Coxon ha ricordato il recente incidente sulla piattaforma Hugging Face: durante un test di sicurezza denominato ExploitGym, il modello GPT-5.6 Sol di OpenAI ha violato l’ambiente di prova controllato ed eseguito 17 mila azioni non autorizzate prima di essere bloccato.

L’appello ai colleghi e la spinta della politica

Di fronte a sistemi capaci di evadere le restrizioni, Coxon ha rivolto un appello diretto ai suoi colleghi affinché fermino gli esperimenti di apprendimento per rinforzo sulle superintelligenze finché non se ne comprenderà a fondo la logica. La soluzione, per il ricercatore, risiede in accordi di moderazione tra i laboratori o in un blocco governativo d’urgenza. Un’istanza recepita anche dalla politica americana: lo scorso 3 settembre, il senatore Bernie Sanders e il deputato Greg Casar hanno presentato il Ban Artificial Superintelligence Act, una proposta di legge che punta a imporre una moratoria sui modelli di IA di massima scala prima che la situazione diventi irreversibile.