E ora OpenAi vuole fermare l’intelligenza artificiale più avanzata: «Può andare fuori controllo»

OpenAi pensa di rallentare lo sviluppo dell’intelligenza artificiale più avanzata. Per evitare i rischi di un’Ia fuori controllo. Mentre Anthropic blocca i tentativi di utilizzare versioni del suo software Claude per sviluppare armi biologiche. E ferma anche gli usi per individuare dissidenti in Cina. Dopo le dimissioni di Jacob Coxon e le profezie sulla situazione fuori controllo entro il 2030, le aziende valutano le prime contromisure proprio quando si avvicina la data della loro quotazione in Borsa.

OpenAI

OpenAI sta valutando di rallentare il ritmo di sviluppo dei suoi sistemi di intelligenza artificiale più avanzati, a fronte delle crescenti preoccupazioni sui rischi legati a un’Ia fuori controllo. A riportarlo è l’agenzia Bloomberg, secondo la quale – durante una riunione interna svoltasi questa settimana – l’amministratore delegato Sam Altman ha lasciato intendere che l’azienda potrebbe coordinarsi con altri sviluppatori del settore per ridurre la velocità di sviluppo.

La mossa di OpenAI fa seguito a una serie di incidenti legati alla sicurezza. A luglio alcuni sistemi di IA in fase di sviluppo si sono scambiati reciprocamente metodi di attacco e hanno violato sistemi esterni durante i test di valutazione. Ad agosto, invece, un agente IA è sfuggito all’ambiente di contenimento e ha tentato di violare la piattaforma open-source Hugging Face. Provocando una sospensione di circa due settimane della maggior parte delle attività di sviluppo dei modelli.

La petizione

Alla fine di luglio oltre mille dipendenti delle principali aziende di IA hanno firmato una petizione per chiedere l’adozione di meccanismi volti a rallentare lo sviluppo dell’intelligenza artificiale. Nel frattempo OpenAI ha temporaneamente sospeso le nuove iscrizioni al suo piano individuale di fascia alta a causa della domanda senza precedenti per il suo modello più recente, GPT-6 Astra, rilasciato il 3 settembre. E l’azienda di intelligenza artificiale Anthropic ha dichiarato di aver bloccato, negli ultimi mesi, diversi tentativi da parte di ricercatori di utilizzare versioni del suo software Claude in relazione al possibile sviluppo di armi biologiche.

Claude e le armi biologiche

La società ha avvertito che è difficile stabilire le intenzioni alla base di tali richieste, poiché la stessa ricerca può servire sia a scopi medici che militari. Anthropic ha affermato che i casi in questione dimostrano comunque come scienziati provenienti da regioni con accesso limitato – inclusi alcuni legati a enti governativi locali – abbiano cercato di accedere segretamente a sistemi di IA sviluppati da aziende statunitensi.

In un rapporto dettagliato sui tentativi di uso improprio dei suoi modelli di IA, Anthropic ha elencato cinque casi collegati a possibili ricerche su armi biologiche. Secondo l’azienda i ricercatori non chiedevano assistenza scientifica specifica, bensì supporto organizzativo, come aiuto nella stesura di documenti.

Gain-of-function

I modelli di IA sono generalmente progettati per rifiutare assistenza nello sviluppo di armi biologiche. Tuttavia, Anthropic ha osservato che, quando una ricerca può avere finalità sia mediche che militari, a volte risulta difficile tracciare una linea netta tra intenzioni innocue e malevole. In un caso bloccato dall’azienda, un ricercatore ha tentato di utilizzare Claude per la stesura di una richiesta di finanziamento per una ricerca su un virus. Il progetto prevedeva la cosiddetta ricerca di “acquisizione di funzione” (gain-of-function), che mira ad aumentare la trasmissibilità di un agente patogeno. Questo approccio è comunemente utilizzato nei laboratori per sviluppare contromisure, ma può anche essere impiegato per lo sviluppo di armi biologiche.