Deepfake a sfondo sessuale con l’AI, l’Ue indaga su X. Faro acceso anche su WhatsApp

«I deepfake sessuali non consensuali di donne e bambini sono una forma violenta e inaccettabile di degradazione». È con queste parole che Henna Virkkunen, Commissaria europea per la Sovranità tecnologica, ha commentato l’avvio di una nuova indagine formale contro X ai sensi delle norme sui servizi digitali. L’esecutivo Ue valuterà se la piattaforma social di proprietà di Elon Musk abbia correttamente valutato e mitigato i rischi legati all’integrazione di Grok, inclusa la diffusione di contenuti illegali come immagini sessualmente esplicite manipolate con l’intelligenza artificiale (i cosiddetti deepfake).

La nuova indagine su X

L’indagine di Bruxelles servirà a verificare se X abbia rispettato gli obblighi previsti dalle regole del Digital Services Act in materia di valutazione e mitigazione dei rischi sistemici, inclusi quelli legati alla diffusione di contenuti illegali, agli effetti negativi connessi alla violenza di genere e alle gravi conseguenze sul benessere fisico e mentale derivanti dall’uso delle funzionalità di Grok sulla piattaforma. Bruxelles esaminerà inoltre se l’azienda abbia effettuato e trasmesso alla Commissione una valutazione ad hoc dei rischi prima del dispiegamento di funzionalità con un impatto critico sul profilo di rischio del servizio. Nell’ambito dell’istruttoria, la Commissione continuerà a raccogliere prove – anche tramite richieste di informazioni, interviste o ispezioni – e potrà imporre misure provvisorie in assenza di adeguamenti significativi del servizio.

Il braccio di ferro tra l’Ue e Musk

La nuova indagine sulla piattaforma social di Elon Musk si inserisce in realtà nel procedimento avviato da Bruxelles a dicembre del 2023, che riguarda anche le misure di contrasto ai contenuti illegali e i rischi legati ai sistemi di raccomandazione. Per altre violazioni, tra cui l’uso di design ingannevole, la scarsa trasparenza pubblicitaria e l’insufficiente accesso ai dati per i ricercatori, la Commissione ha già adottato lo scorso dicembre una decisione di non conformità, infliggendo a X una sanzione di 120 milioni di euro.

Oltre 5 miliardi di immagini generate in un mese

Nel giorno in cui Bruxelles comunica l’avvio di una nuova indagine contro X, è la stessa piattaforma di Elon Musk a flettere i muscoli e rivelare che i suoi utenti hanno generato oltre 5,5 miliardi di immagini negli ultimi trenta giorni grazie a Grok Imagine. La funzione permette di generare immagini e video partendo da descrizioni di testo ed è integrata direttamente nel social network X. Il lancio è avvenuto in fase di test nel 2024 e poi a cascata in tutti i Paesi, tra cui l’Italia ad agosto del 2025. Solo pochi giorni fa – e dopo diverse polemiche – X ha introdotto nuove restrizioni che impediscono agli utenti di modificare e generare immagini di persone reali sessualizzate.

Nel mirino anche WhatsApp

Nel frattempo, c’è un’altra piattaforma che finisce nel mirino di Bruxelles. Si tratta di WhatsApp, che la Commissione europea ha deciso oggi di far rientrare tra i «grandi operatori digitali» con significativo potere di mercato, un’etichetta che obbliga la piattaforma di messaggistica a rispettare gli stessi obblighi del Digital Services Act a cui sono sottoposti Facebook, Instagram, X e TikTok. La mossa dell’esecutivo Ue arriva dopo che la funzione “canali” di WhatsApp ha raggiunto la soglia minima di almeno 45 milioni di utenti nell’Unione europea. Ora che la designazione è ufficiale, Meta avrà quattro mesi di tempo, ovvero entro metà maggio 2026, per garantire che WhatsApp rispetti tutti gli obblighi di legge aggiuntivi previsti. 

Foto copertina: EPA/Gian Ehrenzeller | Elon Musk al World Economic Forum di Davos