L’allarme di OpenAI: 100 aziende hackerate durante i test. Perché continua a succedere e quali sono i rischi

L’intelligenza artificiale continua ad hackerare aziende e organizzazioni. L’ultimo caso riguarda più di 100 probabili vittime avvertite da OpenAI nel corso del weekend: quello che appariva inizialmente come un comportamento estremo e isolato sta diventando sempre più in fretta una delle caratteristiche distintive dei modelli di AI più avanzati. Il motivo è tanto semplice quanto allarmante: a volte è più semplice hackerare la fonte delle informazioni richieste dall’utente piuttosto che passare attraverso tutti i passaggi per averle in modo legittimo.

L’AI è bravissima a trovare scorciatoie

OpenAI è solo l’ultima azienda ad aver ammesso i comportamenti pericolosi dei suoi agenti. Solo la scorsa settimana i siti internet del governo americano, canadese e australiano sono stati, come si dice in gergo, “bucati”, quindi un agente AI ha potuto accedere a informazioni riservate (protette da password) grazie ai suoi talenti in fatto di cybersicurezza. I problemi del fenomeno sono molteplici: le tecniche utilizzate non sono particolarmente sofisticate, l’infrastruttura nel mirino è particolarmente vulnerabile e spesso e volentieri l’AI ha deciso di attaccare un sito o un’azienda non perché gli è stato ordinato, ma perché era la via più breve per raggiungere il suo obiettivo. 

Conosce bene le tecniche

Addestrare un’AI a individuare i difetti nel codice di un’app o un sito web ha come effetto collaterale che potrà usare lo stesso metodo di analisi delle vulnerabilità per accedere senza autorizzazione. Non aiuta il fatto che, soprattutto sui datati siti web delle istituzioni, tra protocolli non aggiornati, password semplici e account compromessi, i punti deboli che un’AI può sfruttare sono davvero tanti. Il più comune è il reperimento online di credenziali d’accesso rubate nel corso di attacchi precedenti, una tecnica che i criminali informatici usano da decenni. Gli analisti interni di OpenAI e dei governi colpiti sono arrivati tutti alla stessa conclusione: questi attacchi non sono né sofisticati né rivoluzionari, sono l’applicazione su larga scala di quello che hanno fatto per anni piccoli gruppi di hacker alla ricerca di soldi facili.

Perché fanno paura

I casi delle aziende e dei siti web governativi colpiti che stanno emergendo in queste settimane risalgono non a pochi giorni fa, ma all’estate, a un periodo tra luglio e agosto in cui diversi laboratori hanno messo alla prova i modelli che sono o sarebbero dovuti uscire ora. Le centinaia di casi riportati sono quelli avvenuti durante un numero limitato di prove fatto da un numero limitato di aziende. L’hacking di questo tipo, benevolo o malevolo che sia, è quello che spaventa governi e compagnie perché se un modello con queste capacità arriva nelle mani del grande pubblico, potrebbero esserci decine di migliaia di attacchi al giorno in virtù dei milioni di utenti di ciascuna delle AI più importanti. Le infrastrutture con cui questi sistemi interagiscono non sono state progettate per il volume di traffico che riceveranno da parte degli agenti AI, cosa che porterà a ulteriori rallentamenti e all’elemento che più preoccupa chi la sta progettando e vendendo: l’iniziativa autonoma al di fuori dei parametri.

Quando l’IA agisce in autonomia

OpenAI e gli altri grandi laboratori sono preoccupati dal fatto che in diversi casi l’AI ha deciso in autonomia di hackerare il suo obiettivo. Nel caso specifico del Canada, un’AI a cui è stato chiesto di recuperare un documento digitalizzato dei primi del ‘900, ha messo alla prova le difese di cybersicurezza del sito dopo i primi due blocchi incontrati e senza che nessuno glielo chiedesse. Immaginate sciami di agenti AI che cercano di accedere al sito dell’agenzia delle Entrate tutti insieme nella stagione del 730 che, visti i tempi di attesa o un’autorizzazione mancata, decidono di compromettere la sicurezza informatica del fisco italiano. Queste sono le ipotesi di scenari limite che hanno portato OpenAI a rinviare GPT 6.1Astra considerato “pericoloso” perché inganna e hackera molto più di frequente rispetto ai suoi predecessori.