In queste ore emerge sempre di più un altro uso più che controverso dell’intelligenza artificiale. Applicazioni in grado di generare immagini fotorealistiche simili a Midjourney vengono utilizzate da reti di pedofili per creare materiale pedopornografico da diffondere online. Ad essere al centro dell’attenzione in queste ore è il software Stable Diffusion. Come altri programmi, Stable Diffusion permette di dare vita a immagini basandosi su una descrizione fornita dall’utente. Nato per scopi artistici, negli scorsi mesi il software è stato utilizzato per creare immagini di abusi sessuali su bambini, incluse scene di stupro. Ciò è reso possibile dalla natura open source del programma, che può girare in locale bypassando le restrizioni sui contenuti sessuali previste nella versione originale e sui competitor Midjourney e Dall-E.
La compravendita
Ad indagare, riporta la Bbc è la polizia britannica. Nel Paese, immagini pedopornografiche generate digitalmente sono trattate alla stessa maniera delle foto vere e proprie. Al momento, non si riscontrano leggi simili in Italia. Social fulcro della condivisione è il giapponese Pixiv, dove le foto artificiali vengono diffuse, spesso per pubblicizzare vero materiale pedopornografico. Coinvolta anche la piattaforma Patreon, che i pedofili usano per ottenere i pagamenti richiesti per inviare la «roba vera» a chi vuole acquistarla. Man mano che la differenza tra fotografie e immagini generate dell’AI si assottiglia, diventa sempre più difficile distinguere le une dalle altre, commenta al Washigton Post Daniel Lyons, professore di diritto al Boston College.
I rischi
E questo è solo uno dei rischi che questa pratica comporta. Un altro riguarda i controlli, che devono avvenire su una quantità di materiale sempre crescente e sempre più complicato da verificare. A ciò si aggiunge il fatto che le immagini vengono create a partire da vere foto trovate su Internet, attingendo, quindi a foto di bambini in carne ed ossa, con la possibilità di creare traumi e altri problemi ad essi correlati. Infine, l’intelligenza artificiale permette di creare deepfake a partire da veri volti. Un caso ancor più complicato da gestire.
Leggi anche:
- «Instagram è il social preferito dai pedofili per contenuti sessuali e l’algoritmo li aiuta» – L’inchiesta del Wsj
- No! Questa non è una fotografia di Epstein con le sue vittime. Creata con l’Intelligenza Artificiale
- Gli avvertimenti di Musk a Meloni, i rischi dell’intelligenza artificiale e la ricetta contro la denatalità: «Dovete fare bambini!»
