Riconoscimento facciale: come funzionano gli abiti che ingannano le telecamere – Il video

A differenza delle telecamere a circuito chiuso, i nuovi sistemi di videosorveglianza sono in grado di riconoscere i volti, tracciare gli spostamenti delle persone attraverso più telecamere e analizzare grandi quantità di filmati. In più, i progressi dell’intelligenza artificiale hanno reso queste tecnologie sempre più accessibili e diffuse. Di conseguenza, stanno nascendo anche nuove forme di resistenza, come abiti e accessori progettati per confondere gli algoritmi e difendere la privacy di chi li indossa. L’ultimo progetto arriva dalla Germania ed è firmato da Simon Weckert, artista e designer che da anni sperimenta modi per ingannare le nuove tecnologie e metterne in luce i limiti. Il suo lavoro arriva in un momento in cui la videosorveglianza è sempre più al centro del dibattito pubblico tedesco, dopo che il governo ha annunciato un piano per introdurre telecamere intelligenti nelle stazioni ferroviarie, con la possibilità di raccogliere dati biometrici.

Sempre più vestiti creati per eludere la videosorveglianza

Quello degli abiti anti-sorveglianza non è un fenomeno nuovo: già sette anni fa, l’hacker e stilista Kate Rose aveva creato un vestito per confondere i sistemi statunitensi che leggono le targhe delle automobili. Il capo era ricoperto da elementi simili a targhe, con parole dal Quarto emendamento della Costituzione degli Stati Uniti, quello che protegge i cittadini da «perquisizioni e sequestri irragionevoli». Nel 2018 è nata anche Cap_able, specializzata in abiti anti-sorveglianza, inizialmente accolti con scetticismo. «La gente pensava che stessi progettando maschere per rapinare le banche», ha raccontato la fondatrice al Guardian. Oggi, invece, le preoccupazioni legate alla sorveglianza algoritmica sono sempre più diffuse e diverse startup hanno iniziato a sviluppare prodotti con lo stesso obiettivo. Tra queste c’è un’altra azienda tedesca, Urban Privacy, che realizza abbigliamento anti-tracciamento e accessori pensati per proteggere la privacy. L’azienda propone, per esempio, custodie che isolano il telefono dalle reti di comunicazione e sciarpe con codici Qr che rimandano a un sito contenente un messaggio contro le fotografie non autorizzate.

Come funziona il digital camouflage

A prima vista, il digital camouflage di Simon Weckert sembra una composizione di forme e colori disposti secondo uno schema astratto, quasi «ipnotico», come lo descrive lo stesso artista sul suo sito. Il disegno è ben visibile all’occhio umano, soprattutto per via dei suoi colori appariscenti, ma è pensato per mettere in difficoltà i software che analizzano le immagini riprese dalle telecamere. Il principio alla base del progetto è quello degli attacchi avversari, una tecnica che sfrutta particolari configurazioni visive che portano i software AI a interpretare in modo sbagliato quello che vedono. Il progetto assume un significato particolare alla luce dei nuovi piani di sorveglianza annunciati in Germania, che comprendono anche sistemi descritti come scanner comportamentali che possono analizzare non soltanto l’identità delle persone, ma anche i loro comportamenti.

Simon Weckert, l’artista che sfida i limiti delle nuove tecnologie

Simon Weckert lavora da anni sul rapporto tra tecnologia e percezione della realtà, mostrando come anche i sistemi digitali più diffusi possano essere ingannati. Nel 2020, per esempio, aveva attraversato Berlino con un carretto su cui aveva caricato 99 smartphone. Google Maps aveva interpretato la presenza dei dispositivi come un segnale di traffico intenso, indicando una lunga coda dove in realtà non c’era. Con questo esperimento, l’artista voleva dimostrare come un sistema automatizzato possa arrivare a una conclusione sbagliata quando interpreta i dati senza comprenderne il contesto. Oggi Weckert ha creato un workshop intitolato «Machine Unlearning», che invita gli artisti a esplorare i limiti dell’intelligenza artificiale e a sperimentare nuovi modi per metterne in discussione il funzionamento. Grazie a tecniche come gli attacchi avversari, la prompt injection e il data poisoning mostrano come i sistemi di intelligenza artificiale possano essere manipolati o indotti a commettere errori.