TECNOLOGIA App • ChatGPT • Glitch • Intelligenza artificiale • OpenAI • Privacy • Sicurezza informatica • USA

OpenAI promette fino a 20mila dollari agli utenti che scoveranno bug e altri problemi su ChatGPT

di Redazione

L’azienda di San Francisco ha lanciato il Bug Bounty Program, invitando le persone a segnalare eventuali vulnerabilità nel chatbot

OpenAI corre ai ripari dopo le critiche sul fronte sicurezza, dell’affidabilità e della privacy rilevati dagli esperti di cyber security di diversi Paesi, tra cui l’Italia, dove il Garante della Privacy ha deciso di bloccare l’app ChatGPT perché «non tutela i dati personali né i minori». E così l’azienda di San Francisco ha lanciato il Bug Bounty Program, per invitare la community a ricercare e individuare i bug presenti nei loro sistemi e prodotti, inclusa ChatGPT, l’app di intelligenza artificiale relazionale in grado di simulare ed elaborare le conversazioni umane. OpenAi ha annunciato di aver stretto una partnership con la piattaforma di sicurezza informatica di crowdsourcing Bugcrowd. Le ricompense per quanti parteciperanno al programma e individueranno bug e altre falle nei sistemi partono da un minimo di 200 dollari per «risultati di bassa gravità», sino a 20mila dollari per «scoperte eccezionali». A rimanere esclusi sono però i premi per il jailbreak di ChatGPT o per aver generato codici o testi dannosi: «I problemi relativi al contenuto dei prompt e delle risposte del modello sono rigorosamente al di fuori dell’ambito e non saranno ricompensati», si legge nel comunicato di OpenAI. Questa scelta è dovuta al fatto che il jailbreak permetterebbe agli utenti di poter aggirare i filtri di sicurezza e di peggiorare ulteriormente la situazione attuale, inserendo eventuali scenari pericolosi per la sicurezza individuale e sociale.


A cosa serve il “Bug Bounty Program” di OpenAi

L’obiettivo dichiarato dall’azienda è quello di migliorare «la trasparenza e la collaborazione», ma lo staff di OpenAi avvisa: «Mentre lavoriamo duramente per prevenire i rischi, non possiamo prevedere in che modo le persone utilizzeranno o abuseranno della nostra tecnologia nel mondo reale». L’azienda fa sapere che «la missione di OpenAI è creare sistemi di intelligenza artificiale a beneficio di tutti. A tal fine, investiamo molto nella ricerca e nell’ingegneria per garantire che i nostri sistemi di intelligenza artificiale siano sicuri e protetti. Tuttavia, come con qualsiasi tecnologia complessa, comprendiamo che possano emergere vulnerabilità e difetti». «Crediamo che la trasparenza e la collaborazione siano fondamentali per affrontare questa realtà – si legge ancora nella nota -. Ecco perché stiamo invitando la comunità globale di ricercatori sulla sicurezza, hacker etici e appassionati di tecnologia ad aiutarci a identificare e affrontare le vulnerabilità nei nostri sistemi. Siamo entusiasti di basarci sui nostri impegni di divulgazione coordinata offrendo incentivi per qualificare le informazioni sulla vulnerabilità. La tua competenza e vigilanza avranno un impatto diretto sulla protezione dei nostri sistemi e utenti». Il programma bug bounty di OpenAI non è il primo nel suo genere: anche altre società hanno fornito denaro a esperti per scovare anomalie e bug nei loro sistemi: tra queste ci sono, tra le altre, anche Amazon, Coinbase e Google.


Leggi anche:

Della stessa categoria