Zao, l’app cinese che crea più problemi di FaceApp

Per adesso può utilizzarla solo chi ha un numero di telefono cinese. Tutti i i rischi per la sicurezza spiegati dal giurista Tommaso Ricci

Scatti una foto, la passi con un filtro e poi scopri come sarai dopo cinquant’anni, o forse più. Per un paio di settimane FaceApp è stata la moda di questa estate. Semplice, dall’ottima resa e perfetta per essere condivisa sui social.

Dopo le prime prove però, in molti hanno cominciato a chiedersi qualcosa di più. Dove sarebbero finite quelle foto, chi le avrebbe gestite, come sarebbero stati archiviati i dati e, nel caso, a chi sarebbero stati ceduti.

Tutti sintomi di un’attenzione ai nostri dati personali. Un’attenzione figlia dei tanti scandali che hanno travolto il mondo dei social network negli ultimi anni, primo fra tutti Cambridge Analytica.

Da qualche settimana sta circolando un’app che è in grado di modificare il nostro volto in un modo ancora più sofisticato di FaceApp.

Si chiama Zao, viene dalla Cina e permette di sostituire il proprio volto con quello di attori mentre recitano nella scena di un film. Esatto, mentre recitano. Non in una foto statica ma in un video in cui vengono riprodotti i movimenti della bocca e le espressioni del volto.

Come funziona Zao, l’app basata sui deepfake

La tecnologia che permette il funzionamento di Zao è quella dei deepfake. Alla base ci sono sempre algoritmi di intelligenza artificiale, come FaceApp. Il procedimento però è più complesso. Se in FaceApp i dati dell’immagine di un volto venivano processati per creare una simulazione di invecchiamento, qui vengono elaborati a un livello ancora più profondo.

Vengono scomposti e mischiati insieme a quelli in archivio per creare una maschera in movimento, in modo tale da riprodurre esattamente le espressioni dell’attore a cui si vuole sovrapporre la propria immagine. In gergo questo procedimento viene definito face swapping e il video così creato un deepfake.

Fonte: Twitter | Un esempio di deepfake creato con Zao

Al momento l’app è disponibile solo per iOS, il sistema operativo di Apple. Per registrarsi occorre avere un numero di telefono cinese. Il volto viene catturato attraverso due sistemi: si scatta una foto, ottenendo però un effetto meno realistico, oppure si registra un breve video in cui viene richiesta una serie smorfie. Le clip create vengono pubblicate in social cinesi, come Wechat. Anche se queste stesse piattaforme hanno deciso di limitarne la diffusione.

Il pericolo dei video che sembrano veri

Di deepfake si è già parlato molto a partire dal 2017, da quando un utente di Reddit con il nickname “deepfake” ha cominciato a pubblicare sul forum questo tipo di video. A giugno Bill Posters e Daniel Howe hanno creato con l’azienda pubblicitaria Canny un video in cui un deepfake di Mark Zuckerberg parla del potere che si ottiene raccogliendo i dati degli utenti.

Fonte: Instagram | Il deepfake di Mark Zuckerberg

I problemi, immediati, di questa tecnologia sono due. Da una parte, ovviamente, le fake news. Circolano deepfake creati anche con il volto di Barack Obama o con quello di Angela Merkel. Dall’altra il revenge porn. Con una tecnologia del genere è possibile sostituire il volto degli attori porno con quello di ex partner o celebrity.

Un rischio tanto evidente che solo pochi giorni fa Facebook ha deciso di finanziare la Deepfake Detection Challenge, in collaborazione con Microsoft e alcune università statunitensi. L’obiettivo della gara è riuscire a creare il sistema più efficiente per riconoscere i deepfake. Chi riuscirà in questo a raggiungere questo scopo potrà vincere un premio in denaro.

I rischi di Zao, tra privacy e violazione del copyright

Tommaso Ricci è giurista esperto di Diritto delle Nuove Tecnologie e consulente nello studio internazionale Dla Piper. Negli scorsi mesi si era già occupato del caso FaceApp ed è lui a spiegare a Open cosa cambia ora con questa applicazione.

«La cosa sensazionale è che si è arrivati a rendere accessibile all’utente medio una tecnologia avanzata. La produzione dei deepfake fino a poco tempo fa era utilizzata solo da smanettoni molto bravi nel video editing». Ora invece bastano pochi minuti per registrare il proprio volto, un abbattimento delle barriere che «rischia di minare la nostra percezione della realtà».

In tutto il processo di creazione di questi video non è chiaro se gli spezzoni dei film siano soggetti a copyright: «Per adesso Zao sembra usata soprattutto per goliardia. Dal punto di vista legale i rischi legati a questa applicazione sono innanzitutto legati ai diritti sugli spezzoni di film e video musicali utilizzati. Bisognerebbe avere una licenza».

Oltre a questo, Ricci spiega che bisogna anche capire come vengono utilizzati i dati biometrici. «I dati che vengono raccolti potrebbero essere definiti anche dati biometrici. La tecnologia è così avanzata che c’è il rischio di creare modelli in grado anche di ingannare i sistemi di facial recognition. Bisogna vedere se il Gdpr si applica su Zao, perché per registrarsi serve un numero cinese».

Foto di copertina: Elaborazione di Vincenzo Monaco

Leggi anche: