Tre ragazze fanno causa a Grok: «Ci ha spogliate su X»
Tre adolescenti del Tennessee intentano causa collettiva nei confronti di xAI, la società di intelligenza artificiale di Elon Musk. Accusano il chatbot Grok di aver generato immagini pornografiche con loro protagoniste partendo da foto reali. La causa negli Usa segue le iniziative legali dell’Unione Europea sulla stessa tematica. Negli Stati Uniti la causa potrebbe arrivare a coinvolgere oltre mille vittime minorenni. Ed è collegata ai deepfake di Capodanno pubblicati su X (Twitter) su cui indaga oggi anche la California.
La denuncia
La denuncia è stata presentata al tribunale federale di San José. E cita il caso di un uomo poi arrestato che ha usato Grok per trasformare alcune foto delle ragazze prese dai social media o dagli annusari scolastici in immagini sessualizzate iperrealistiche. I deepfake sono circolati sul social media di Musk ma anche su Discord e Telegram prima di finire sul dark web. Dove sono diventate oggetto di scambio con altro materiale pornografico. «Ho visto mia figlia avere un attacco di panico quando si è resa conto che queste immagini erano state create e diffuse senza alcuna possibilità di essere cancellate. È stato straziante», ha detto la madre di una delle vittime in un comunicato stampa.
Incubi ricorrenti e attacchi di panico
Da allora, secondo la denuncia, una delle vittime soffre di incubi ricorrenti e un’altra ha bisogno di medicinali per dormire e ha paura di partecipare alla sua festa di laurea. Gli avvocati sostengono che xAI «ha deliberatamente progettato Grok per produrre contenuti sessualmente espliciti a scopo di lucro», senza implementare le misure di sicurezza utilizzate da altri importanti attori nel campo dell’IA contro la pedopornografia. La denuncia cita due leggi statunitensi. Il Masha Act, che consente alle vittime di pedopornografia di ottenere un risarcimento danni, e l’Human Trafficking Victims Protection Act.
Ti potrebbe interessare
Il risarcimento
Oltre al risarcimento, le querelanti chiedono che venga impedito a xAI di consentire questo tipo di manipolazione delle immagini. Tecnicamente negli Usa le piattaforme sono esenti da responsabilità per i contenuti generati dagli utenti. Ma Annika K. Martin, avvocata dello studio Lieff Cabraser, dice a Reuters che «senza xAI, questi contenuti illegali non sarebbero mai esistiti». Secondo uno studio del Center for Countering Digital Hate (CCDH), Grok ha generato quasi tre milioni di immagini sessualizzate in soli 11 giorni alla fine del 2025, di cui 23 mila raffiguranti minori.
La libertà di parola
Di fronte alle proteste, a metà gennaio xAI ha limitato la generazione di immagini con Grok ai soli abbonati a pagamento e ha assicurato di bloccare la generazione di immagini sessualizzate «nelle giurisdizioni in cui è illegale». Musk, che interviene quotidianamente su X, ha criticato le normative governative, accusandole di voler «sopprimere la libertà di parola».
