Usa, 13enne pianifica il suicidio su Google: i genitori fanno causa all’azienda
La famiglia di una ragazzina americana che ha pianificato il suo suicidio con l’intelligenza artificiale di Google ha fatto causa a Mountain View. La ragazzina avrebbe organizzato anche il suo funerale con un computer della scuola. La denuncia, depositata nei giorni scorsi in un tribunale della California, rappresenta il primo caso noto in cui l’azienda viene accusata di negligenza in relazione all’integrazione dell’IA nei Chromebook, i portatili a basso costo del colosso tecnologico utilizzati da milioni di studenti negli Usa e nel resto del mondo.
La storia
La 13enne, identificata con il nome di Emma, non aveva accesso all’applicazione Gemini di Google né a ChatGPT di OpenAI: entrambi erano bloccati dalla sua scuola. Ma è riuscita a usare il motore di ricerca, che integra gli strumenti dell’Ia. «Le scuole dovrebbero disattivare la funzione di ricerca finché Google non rimuoverà la modalità IA dal motore di ricerca, o finché non garantirà che ogni singolo studente sia sempre al sicuro quando interagisce con l’IA» ha detto Andrew Liddell, uno dei legali della famiglia.
Il documento
Secondo la denuncia, Emma era una «ragazzina felice» della Carolina del Nord, con ottimi voti a scuola, appassionata di musica e attiva nelle Girl scouts. A marzo il software di monitoraggio della scuola ha segnalato un documento intitolato “funerale” e l’istituto ha avvisato i genitori: la madre, dopo aver effettuato l’accesso all’account della figlia, ha visto in tempo reale Emma scrivere una lettera d’addio e il padre e’ potuto intervenire tempestivamente. «Stiamo esaminando le accuse contenute nella causa e prendiamo la questione molto seriamente», ha dichiarato all’Afp il portavoce di Google, Jose Castaneda.
