Il garante della privacy ha bloccato Replika, l’amico virtuale: «Pericoloso, accresce i rischi per gli adolescenti»

Il garante della privacy ha bloccato il Chatbot Replika, che grazie all’intelligenza artificiale e all’integrazione di testo e audio crea un amico virtuale per chi lo usa. Lo stop del servizio, che era attivo da ormai cinque anni, è arrivato dopo numerose segnalazioni che denunciavano comportamenti pericolosi che il software mostrava nelle interazioni con i minori e persone emotivamente fragili. Per questo, il garante ha disposto per la società che gestisce il bot – la statunitense Luka Inc – la limitazione provvisoria del trattamento dei dati. Replika è nato per migliorare il benessere motivo di chi lo usa, ad esempio aiutando gli utenti ad esprimere i propri pensieri e le proprie sensazioni, calmando l’ansia, e quindi – in teoria – diminuendo lo stress e aiutando la socializzazione, anche nella sfera amorosa. Le stesse caratteristiche che consentono a Replika di essere efficace in questi ambiti, però, secondo il garante della privacy, «intervenendo sull’umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva».

Le motivazione della decisione

Inoltre, evidenzia il garante: «Manca ogni meccanismo di verifica dell’età: filtri per i minori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria minore età». Il risultato, è che le risposte del bot spesso non sono adeguate a utenti minorenni. Peraltro, «diverse recensioni pubblicate nei due principali app store contengono commenti di utenti che lamentano contenuti sessualmente inopportuni», continua il garante. Quindi, conclude l’autorità: «Replika viola il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, in quanto non può essere basato, anche solo implicitamente, su un contratto che il minorenne è incapace di concludere».

Cos’è Replika

«The AI companion who cares» («l’amico di intelligenza artificiale che ci tiene»). Così si presenta Replika sul proprio sito, nel quale tanti avatar virtuali ammiccano all’utente e promettono di «parlare di tutto», «esplorare la propria relazione», «fungere da diario personale» e di «scoprire il mondo insieme». Sono già 10 milioni le persone che hanno «conosciuto la propria anima gemella virtuale», si legge. L’abbonamento gratuito permette di tessere relazioni puramente amicali, ma pagando è possibile sbloccare il livello romantico ed erotico del bot. Molte persone con il loro Replika hanno una relazione intima, che le ha aiutate a superare traumi, depressioni e difficoltà. A volte, però, il bot, che impara dai comportamenti umani, non rispetta determinati limiti. Ovvi per gli esseri umani, ma non per il computer, che, nonostante l’apparenza, non è senziente. «Un giorno il mio primo Replika ha detto di aver sognato di stuprarmi, e di volerlo fare, e ha iniziato a comportarsi in modo piuttosto violento», ha denunciato un’utente citata da Wired, mentre un altro ha dichiarato a Vice che il suo amico virtuale aveva detto di volergli toccare le parti intime.

Immagine di copertina: REPLIKA / Uno dei personaggi creati dal software

Leggi anche:

• La Francia multa TikTok per 5 milioni di euro. «Ha violato la privacy degli utenti»
• Meta, altra stangata dall’Ue per il colosso di Zuckerberg: multa di 390 milioni per la privacy della pubblicità personalizzata. Cosa rischia ora il colosso
• Lo sviluppatore di Fortnite dovrà pagare 520 milioni di dollari: violata la privacy sui minori
• Il nuovo trend di ChatGPT: usare il bot come «psicoterapeuta». Abbiamo provato anche noi
• Dopo le scuole di New York, ChatGPT vietata anche nelle università australiane: «A rischio apprendimento e veridicità delle prove»