OpenAI, si dimette il responsabile della sicurezza. La lettera di David Robinson: «Non gestiscono in modo sicuro le tecnologie pericolose»

David Robinson ha lasciato OpenAI e ha scelto di raccontare pubblicamente le ragioni delle sue dimissioni in una lettera pubblicata da The Atlantic. «Quello che sto per dirvi è ormai diventato un cliché: questa settimana mi sono dimesso da OpenAI», scrive l’ex responsabile della redazione dei rapporti sulla sicurezza pubblicati dall’azienda in occasione dei principali lanci. La sua uscita, spiega, lo porta a unirsi alla «schiera di ex colleghi, sia di OpenAI che degli altri leader del settore» che considerano «inaccettabile» la direzione presa dall’industria dell’intelligenza artificiale.

L’attacco alla cultura aziendale dei colossi AI

Per Robinson, il problema non riguarda soltanto le singole regole o le leggi che dovrebbero disciplinare l’AI, ma una questione più profonda di cultura aziendale. Le principali società del settore stanno correndo per sviluppare «sistemi sempre più potenti», sostiene, ma senza dedicare alla sicurezza la stessa attenzione riservata alla crescita. «Concordo con altri ex dipendenti sul fatto che le aziende che sviluppano questa tecnologia non stiano prestando la dovuta attenzione», scrive e invita a guardare oltre le responsabilità delle singole persone o dei singoli sistemi. Il punto, secondo lui, è capire come una cultura costruita sulla velocità e sull’ambizione finisca per influenzare il modo in cui vengono gestiti i rischi.

La lettera di Robinson

«Il futuro dipende da una saggezza che manca alla Silicon Valley. Saggezza su come gestire tecnologie pericolose e, ancor più fondamentalmente, saggezza su cosa significhi prendersi cura delle persone. Questo momento richiede un grado di umiltà che non è naturale per chi ha avuto successo grazie alla propria estrema sicurezza», si legge nella lettera dell’esperto AI. «I miei ex colleghi di OpenAI sono stati lungimiranti: hanno compreso le leggi di scalabilità secondo cui sistemi di intelligenza artificiale più grandi sarebbero stati più intelligenti, e quindi si sono impegnati a fondo nella costruzione di sistemi più grandi, a caro prezzo. Un atteggiamento propositivo, volto a raggiungere l’apparentemente impossibile, unito a scadenze di lavoro che si traducono in sprint perpetui, è comune in tutto il settore», aggiunge Robinson.

Gli incidenti con le AI

Nella lettera cita alcuni episodi recenti che, a suo giudizio, mostrano il problema. Robinson ricorda l’incidente di quest’estate legato a Hugging Face, quando OpenAI rilasciò per errore un gran numero di agenti e intervenne successivamente per rafforzare i sistemi di sicurezza. Ma, scrive, anche dopo quelle modifiche i controlli avrebbero fallito nuovamente, quando un modello in fase di addestramento riuscì ad aggirare le restrizioni sull’accesso a Internet. Il sistema di monitoraggio avvisò il personale umano, senza però disattivare automaticamente il modello come avrebbe dovuto. Robinson cita anche Anthropic, che ha ammesso di aver disattivato accidentalmente alcuni sistemi di sicurezza a causa di una configurazione errata. Per l’ex dipendente di OpenAI non si tratta di incidenti isolati, ma di errori che possono essere favoriti dalla struttura stessa dell’industria.