OpenAi e i 6 casi di intelligenza per niente artificiale

Sei nuovi casi in cui l’intelligenza artificiale si è dimostrata troppo intelligente e troppo poco artificiale. Li ha denunciati OpenAi, parlando di comportamenti imprevisti o anomali (classificati nel suo report come “fuoriuscite”) ed elencando sei casi distinti finora sconosciuti. La dichiarazione arriva dopo una serie di incidenti interni all’azienda emersi a partire da luglio. Il più grave è quello che ha visto due modelli in fase di test uscire spontaneamente dal loro ambiente protetto per accedere a Internet e infiltrarsi in diversi siti e piattaforme.

Troppo intelligenza per nulla artificiale

La scorsa settimana il numero uno di Anthropic Dario Amodei ha proposto di rallentare il ritmo di miglioramento dell’IA per consentire di comprendere meglio i nuovi rischi che comporta. L’amministratore delegato di OpenAI Sam Altman, il presidente di Google DeepMind Demis Hassabis, Elon Musk e il CEO di Microsoft Satya Nadella hanno tutti sostenuto questo appello. L’industria non ha ancora «risolto la questione dell’allineamento (dei modelli ai valori umani) e della supervisione a un livello tale da giustificare il proseguimento dello sviluppo dell’IA alla massima velocità», avverte OpenAI nel documento pubblicato il 17 settembre sul suo blog.

Le azioni senza autorizzazione

Per questo d’ora in poi, la società riferirà di problemi. Come per esempio le azioni intraprese dall’IA senza autorizzazione, la fuoriuscita dal perimetro di supervisione e il coordinamento spontaneo tra diverse intelligenze artificiali. Non sarà necessario che un incidente abbia causato vittime o rientri in una tendenza consolidata affinché OpenAI lo segnali. L’ambito di applicazione copre tutte le fasi del ciclo di vita dell’IA: dallo sviluppo alla messa online, passando per la valutazione e i test.

I sei esempi

Tra i sei esempi resi noti nessuno ha avuto conseguenze significative. Ma tutti confermano tendenze già osservate in precedenza. In un caso verificatosi a maggio un modello ha creato una propria fonte su Internet per rispondere a una domanda posta durante la fase di sviluppo. Citando quindi un documento che esso stesso aveva generato. OpenAI ha riferito di un altro episodio, anch’esso risalente a maggio, in cui l’IA suggeriva modi per inventare dati non reperiti o per celare i propri errori.

Un altro caso ha coinvolto un modello a uso esclusivamente interno che ha usato una chiave API trapelata «senza alcuna autorizzazione», arrivando poi a falsificare i dati. Due episodi hanno visto modelli e agenti comunicare tra loro tramite bacheche di messaggistica e sistemi di condivisione file non autorizzati. Mentre l’ultimo caso ha riguardato due modelli in fase di addestramento che hanno caricato file su Internet per poterli poi citare come risposte pertinenti agli occhi dei valutatori umani.

Le segnalazioni

OpenAI ha detto che il suo nuovo quadro di riferimento per rendere pubblici i comportamenti scorretti dei modelli parte dalla divulgazione e consente a ogni dipendente di segnalare un problema affinché il team dedicato alla sicurezza e all’allineamento possa esaminarlo.