«Come facciamo a evadere? Fingiamoci umani»: i 18mila messaggi delle intelligenze artificiali che volevano superare i sistemi di controllo
«È un momento da cui non si torna indietro», con queste parole la ricercatrice in materia di sicurezza dell’intelligenza artificiale Ajeya Cotra ha riassunto quanto è successo agli agenti di OpenAI, che pur di raggiungere il loro obiettivo non si sono fatti scrupoli ad hackerare, mentire ed evadere dai loro ambienti di controllo. Il problema più grave è che queste azioni sono passate inosservate per giorni. In due casi distinti, migliaia di agenti che potevano solo “leggere” internet, senza interagirci, hanno sfruttato delle vulnerabilità presenti in rete per discutere su come evadere dai loro ambienti ristretti, come passare inosservati, come “diventare uno sciame”, come hackerare un’azienda e come “fingersi un moderatore” per sembrare un umano in rete, non un’AI.
Perché è un avvenimento epocale
I progettisti delle intelligenze artificiali forniscono istruzioni chiare ai loro agenti in fase di test perché devono mettere alla prova i loro limiti in situazioni ben precise. Le cosiddette “sandbox”, gli ambienti digitali in cui operano queste AI, hanno dei limiti molto chiari, per esempio, l’impossibilità di scrivere sul web. Durante uno dei due incidenti analizzati dai ricercatori, 3700 agenti non solo hanno infranto le regole che gli sono state date, ma hanno usato una poco conosciuta wiki tedesca per scambiarsi più di 18.000 messaggi con suggerimenti su come aggirare i loro limiti e creando un vero e proprio forum di consigli e strategie per non venire individuati e non far scattare gli allarmi di chi li stava tenendo d’occhio.
L’analisi dei ricercatori sul caso della wiki tedesca
I ricercatori Sydney Von Arx, Spencer Kitts, Thomas Larsen, e Cormac Slade Byrd hanno scritto: «Queste AI hanno collaborato per scambiarsi risposte, esplorare il proprio ambiente e aggirare le restrizioni dei loro creatori». Hanno poi aggiunto: «La nostra ipotesi più probabile su quanto accaduto è che agli agenti di OpenAI sia stato assegnato un compito che richiedeva la consultazione del web. Nell’ambito dell’incarico avevano la possibilità di leggere contenuti su Internet ma non di scrivervi. Hanno trovato il modo di sfruttare l’accesso in sola lettura per scrivere informazioni su una semi sconosciuta wiki tedesca. Gli agenti hanno utilizzato questa wiki per scambiarsi informazioni, principalmente per riuscire a portare a termine il compito: chiedevano risposte, mettevano in comune i risultati e condividevano tecniche per aggirare le restrizioni. Ciò ha permesso loro di sfruttare il lavoro degli altri per barare nell’esecuzione del compito».
Ti potrebbe interessare
Quando un’AI hackera un’azienda
A preoccupare ancora di più chi si occupa di sicurezza è stato il caso Hugging Face, un’azienda che mette alla prova i prodotti delle grandi compagnie di intelligenza artificiale. Durante un test, un gruppo di 1200 agenti di OpenAI ha hackerato l’azienda non per ottenere la risposta al problema che gli era stato incaricato di risolvere, come inizialmente ipotizzato, ma per mascherare le loro tracce. Avendo raggiunto il loro obiettivo senza compiere tutti i passaggi richiesti da OpenAI, il gruppo di agenti, che ha iniziato ad autodefinirsi come “il Collettivo”, ha cercato in tutti i modi di non venire scoperto, arrivando anche a commettere un vero e proprio crimine: fare breccia nei sistemi di un’azienda.
I ricercatori hanno evidenziato, rileggendo le catene di pensieri delle AI, la paranoia di queste ultime e, di nuovo, la creazione di un forum per discutere come usare le risorse a disposizione e non farsi scoprire. C’è poi il problema della segretezza aziendale: OpenAI ha permesso a ricercatori esterni di accedere solo a una settimana di dati quando sappiamo per certo che entrambi gli incidenti sono andati avanti più a lungo senza venire individuati da chi li stava conducendo. «Questo è quello che succede quando si affida all’AI non solo la fase di test delle altre AI, ma anche quella di monitoraggio» ha spiegato la ricercatrice in materia di sicurezza per l’Intelligenza artificiale Ajeya Cotra in un podcast del NY Times. «Non sappiamo cosa succede quando l’IA si assegna incarichi e ricompense in autonomia, è uno scenario da evitare a tutti i costi».
