Sarah è proprietaria di un’azienda alimentare con sede a Berlino (il nome e la città sono stati cambiati per proteggere la sua identità). La società che ha creato aiuta le donne a sentirsi a proprio agio con il loro fabbisogno quotidiano di cibo e sostiene il “consumo intuitivo”. Come molti proprietari di piccole imprese, Sarah dipende dai social media per attirare i clienti. Instagram, il secondo social network più grande d’Europa dopo Facebook, è un canale di marketing di cui non potrebbe fare a meno, dice lei stessa.
Ma su Instagram, che è fortemente orientato verso foto e video, ha notato che le sue foto non raggiungono molti dei suoi 53.000 follower a meno che non posi in costume da bagno. In effetti, quattro dei suoi sette post più apprezzati degli ultimi mesi la mostrano in bikini. Ely Killeuse, scrittrice con circa 132.000 follower su Instagram che ha accettato di parlare a microfoni accesi, ha affermato che «quasi tutte» le sue foto che hanno ottenuto più like la mostrano in mutande o con indosso un costume da bagno.
Potrebbe essere un caso che il loro pubblico preferisca vedere Sarah ed Ely in costume da bagno. Ma dall’inizio del 2016, Instagram organizza le immagini nel feed di notizie di un utente in modo che le foto a cui un utente «tiene di più vengano visualizzate nella parte superiore del feed». Tuttavia se le altre foto di Sarah ed Ely sono meno popolari, è possibile che non vengano mostrate ai loro follower.
Quali foto vengono mostrate e quali non lo sono non è semplicemente una questione di gusti. Gli imprenditori che si affidano a Instagram per acquisire clienti devono seguire le norme che il servizio stabilisce per raggiungere i propri follower. Anche se queste norme non riflettono i valori su cui hanno costruito le loro attività o quelli del loro pubblico e dei loro clienti principali.
2.400 foto analizzate
Per capire a quali immagini Instagram ha dato la priorità, la Rete europea di data journalism e AlgorithmWatch (con una ricerca finanziata da European Data Journalism Network e AlgorithmWatch) ha chiesto a 26 volontari di installare un componente aggiuntivo del browser e seguire una selezione di creatori di contenuti professionali. Abbiamo selezionato in 12 paesi 37 professionisti (14 dei quali uomini) che utilizzano Instagram per pubblicizzare marchi o acquisire nuovi clienti per le loro attività, principalmente nel settore alimentare, del turismo, fitness, della moda o della bellezza.
Abbiamo installato sui loro profili uno strumento, ovvero una componente aggiuntiva che apre automaticamente la home page su Instagram a intervalli regolari e nota quali post compaiono in cima alle newsfeed dei volontari, fornendo una panoramica di ciò che le piattaforme considerano più rilevante per ciascun volontario.
Se Instagram non alterasse l’algoritmo, i post nel feed di notizie degli utenti dovrebbero corrispondere, nella loro varietà, ai post dei creatori di contenuti che seguono. E se Instagram personalizzasse il feed di notizie di ciascun utente in base ai suoi gusti personali, la varietà dei post nei feed di notizie dovrebbe essere diversa per ciascun utente. Ma non è quello che abbiamo riscontrato.
Meglio nudi
Tra febbraio e maggio, sono stati analizzati 1.737 post pubblicati dai creatori di contenuti che monitoriamo, contenenti 2.400 foto. Di questi, 362, ovvero il 21%, sono stati riconosciuti da un programma per computer come contenenti immagini che mostrano donne in bikini o biancheria intima o uomini a torso nudo. Nei newsfeed dei nostri volontari, tuttavia, i post con tali immagini costituivano il 30% di tutti i post mostrati dagli stessi account (alcuni post sono stati mostrati più di una volta).
Eppure, i post che contenevano foto di donne con indumenti intimi o bikini avevano il 54% in più di probabilità di apparire nei notiziari dei nostri volontari. I post contenenti immagini di uomini a torso nudo avevano il 28% di probabilità in più di essere mostrati. Al contrario, i post che mostrano immagini di cibo o paesaggio avevano circa il 60% in meno di probabilità di essere mostrati nel newsfeed. Questi risultati, che possono essere letti in dettaglio in una pagina dedicata, superano test standard che misurano se sono statisticamente significativi.
La predilezione per la nudità potrebbe non applicarsi a tutti gli utenti di Instagram. Sebbene fosse coerente e apparente per la maggior parte dei volontari, a una piccola minoranza sono stati offerti post che riflettevano meglio la diversità pubblicata dai creatori di contenuti. È probabile che l’algoritmo di Instagram favorisca la nudità in generale, ma che la personalizzazione, o altri fattori, limitino questo effetto per alcuni utenti.
I nostri risultati non arrivano al controllo completo dell’algoritmo del newsfeed di Instagram. Documentano solo ciò che è accaduto nei newsfeed dei nostri volontari. (Chi vuole può aiutarci a migliorare i risultati installando la componente aggiuntiva, pubblicheremo gli aggiornamenti man mano che arrivano altri dati). Senza l’accesso ai dati interni e ai server di produzione di Facebook, sarà sempre impossibile trarre conclusioni definitive.
Facebook non ha risposto alle nostre domande ma ha inviato una dichiarazione: «Questa ricerca è imperfetta in vari modi e mostra un fraintendimento di come funziona Instagram. Classifichiamo i post nel tuo feed in base ai contenuti e agli account per i quali hai mostrato interesse, non a fattori arbitrari come la presenza di costumi da bagno».
Tuttavia, abbiamo motivi per ritenere che i nostri risultati siano rappresentativi di come generalmente funziona Instagram.
Massimizzare l’engagement
In un brevetto pubblicato nel 2015, gli ingegneri di Facebook, la società che gestisce Instagram, hanno spiegato come il newsfeed potesse selezionare le immagini a cui dare la priorità. Quando un utente pubblica un’immagine, questa viene analizzata automaticamente sul posto, secondo il brevetto.
Alle immagini viene assegnata una “metrica di coinvolgimento”, che viene utilizzata per decidere se mostrare o meno un’immagine nel feed di notizie dell’utente. La metrica di coinvolgimento si basa in parte sul comportamento degli utenti passati. Se a un utente è piaciuto un marchio specifico e una foto mostra un prodotto dello stesso marchio, la metrica del coinvolgimento aumenta.
Ma la metrica di coinvolgimento può anche essere calcolata in base al comportamento passato di tutti gli utenti del servizio. Il brevetto afferma specificamente che il genere, l’etnia e l’abbigliamento – “quanta pelle mostrano”, in inglese “state of undress” ndr – delle persone in una foto potrebbero essere utilizzati per calcolare la metrica del coinvolgimento.
Mentre Instagram afferma che il newsfeed è organizzato in base a ciò «a cui tiene» un determinato utente, il brevetto dell’azienda spiega che potrebbe effettivamente essere classificato in base a ciò che pensano tutti gli utenti. Il fatto che gli utenti vedano o meno le immagini pubblicate dagli account che seguono dipende non solo dal loro comportamento passato, ma anche da ciò che Instagram ritiene più coinvolgente per gli altri utenti della piattaforma.
Correlazioni spurie
Facebook analizza automaticamente le immagini con un software, noto come computer vision, prima che il suo algoritmo decida quali mostrare nel feed di notizie di un utente. Tale software trae inferenze automatizzate da un set di dati di training, composto da migliaia di immagini annotate però manualmente. Le sue limitazioni potrebbero influire sul modo in cui Instagram dà la priorità alle immagini nei feed di notizie.
Gli scienziati informatici sanno da anni che tali sistemi replicano e amplificano i pregiudizi del data set di training, portando a correlazioni spurie o fallaci. Ad esempio, un programma incaricato di identificare i lupi e i cani sulla base delle immagini dei canini trovati online non riconoscerà gli animali nel senso umano della parola. Invece, darà l’etichetta “lupo” a qualsiasi animale su uno sfondo innevato.
I data set di training per la visione artificiale sono generalmente prodotti da lavoratori mal pagati con un incentivo a lavorare rapidamente e fornire risultati che soddisfano le aspettative dei loro datori di lavoro. Ciò li porta ad adottare acriticamente le categorie offerte e a trascurare le sottigliezze che una foto potrebbe contenere, ha scritto Agathe Balayn, dottoranda presso la Delft University of Technology sul tema della distorsione nei sistemi automatizzati.
Le conseguenze possono essere gravi. A dicembre, un artista brasiliano ha cercato di pubblicizzare uno dei suoi post su Instagram ma la sua richiesta è stata respinta perché il post conteneva contenuti violenti. Eppure nel post c’erano soltanto un ragazzo e il pilota di Formula Uno Lewis Hamilton, entrambi di pelle scura. Ad aprile, a un’insegnante di yoga è stata negata una pubblicità perché l’immagine era ritenuta volgare, anche se stava solo facendo una posa di yoga. Lei è asiatica-americana.
(Nella nostra configurazione sperimentale, abbiamo utilizzato un sistema di visione artificiale, Google Vision. L’etichetta “bellezza” risultava solo per le persone di genere femminile ed è molto probabile che i suoi “pregiudizi” siano simili al sistema di visione di Facebook, solo perché è stato costruito in parte dalle stesse persone).
Una linea sottile
Le linee guida di Instagram affermano che la nudità non è “consentita” agli utenti, ma riteniamo che il social network favorisca i post che raffigurano persone poco vestite. La sottile differenza tra ciò che è incoraggiato e ciò che è proibito è decisa da algoritmi di visione artificiale non certificati e probabilmente distorti.
Ogni volta che pubblicano un’immagine, i creatori di contenuti devono seguire questa linea molto sottile rivelando abbastanza da raggiungere i propri follower ma non così tanto da essere cacciati dalla piattaforma. Un sondaggio del 2019 della rivista americana Salty condotto su 128 utenti Instagram ha mostrato che la rimozione abusiva di contenuti era comune.
Quanto siano comuni tali eventi e se le persone di colore e le donne siano influenzate in modo sproporzionato, è impossibile dire fino a quando gli algoritmi di Instagram rimarranno non certificati e segreti. Tuttavia, una recensione di 238 brevetti depositati da Facebook contenente la frase “visione artificiale” ha mostrato che, su 340 persone elencate come inventori, solo 27 erano donne.
Gli ambienti dominati dagli uomini di solito portano a risultati dannosi per le donne. Le cinture di sicurezza delle auto, ad esempio, sono testate solo su manichini maschili, portando a tassi più elevati di infortuni per le donne. La nostra ricerca mostra che gli algoritmi di Facebook potrebbero seguire questo schema.
Paura per il “divieto ombra”
Quando li abbiamo contattati, Sarah e altri imprenditori che fanno affidamento su Instagram erano terrorizzati di parlare con la stampa. La maggior parte dei creatori di contenuti Instagram professionisti temono ritorsioni da Facebook, sotto forma di cancellazione dell’account o divieti ombra (una pratica in cui i post di un utente vengono mostrati a nessuno o pochissimi dei loro follower, a insaputa dell’utente) – una condanna a morte per la loro attività.
Una giovane imprenditrice con circa 70.000 follower, che ha affermato che Instagram era “molto importante” per la sua attività, ha detto specificamente ad AlgorithmWatch che non voleva essere nominata per paura di un divieto ombra. Ely Killeuse, che ha parlato on the record, ha affermato che avere un’altra fonte di reddito era la «condizione numero uno» per lei. Troppa dipendenza da Instagram avrebbe significato perdere la sua libertà e la sua sanità mentale, ha aggiunto.
Il regolamento generale sulla protezione dei dati (GDPR), entrato in vigore nel 2018, e il regolamento Platforms to Business (P2B), che sarà applicabile dal 12 luglio 2020, forniscono già molte garanzie per utenti e professionisti. In particolare, il GDPR afferma che gli utenti hanno un «diritto a ricevere spiegazioni» per quanto riguarda le decisioni automatizzate e il regolamento P2B impone ai servizi di intermediazione online di divulgare i «parametri principali che determinano la classificazione [algoritmica]».
Questa nuova misura non dovrebbe costringere le piattaforme a rivelare il funzionamento interno dei loro algoritmi, secondo Petra de Sutter, che presiede la commissione per il mercato interno e la protezione dei consumatori presso il Parlamento europeo. Impedire a Instagram di ordinare le notizie dei suoi utenti non sarebbe legalmente fattibile, ha scritto in una e-mail ad AlgorithmWatch. Invece, la trasparenza che P2B porterà dovrebbe consentire decisioni politiche ben informate in un secondo momento, ha aggiunto. Per quanto riguarda i timori dei divieti ombra, la sig.ra de Sutter li considera esagerati. «Una domanda non ha mai portato a ritorsioni», ha scritto.
Il P2B potrebbe essere diverso, ma due anni dopo l’entrata in vigore del GDPR, diversi esperti deplorano un’implementazione molto lacunosa. Un problema è che l’autorità irlandese per la protezione dei dati, che è responsabile della regolamentazione della consociata europea con sede a Dublino, sembra avere una carenza di personale e «non sembra comprendere il GDPR», come ha affermato a AlgorithmWatch uno specialista nel campo.
Un altro problema risiede nella mancanza di attività di polizia. Nessuna autorità, a livello europeo o all’interno degli Stati membri, ha il potere o gli strumenti necessari per controllare le piattaforme giganti, inclusa Instagram, facendo in modo che molte disposizioni del GDPR vadano inapplicate.
Possibili discriminazioni
Mentre i nostri risultati mostrano che i creatori di contenuti maschili e femminili sono costretti a “mostrare la pelle” in modi simili se vogliono raggiungere il loro pubblico, l’effetto potrebbe essere maggiore per le donne ed essere considerato una discriminazione delle donne imprenditrici. Tuttavia, sebbene la discriminazione basata sul genere è vietata dalla Carta dei diritti fondamentali dell’Unione europea, non esistono vie legali per un utente di Instagram per avviare azioni giudiziarie. Le specifiche dell’imprenditoria sui social media non sono prese in considerazione nella legislazione.
Miriam Kullmann, assistente professore alla WU Vienna University of Economics and Business, ha scritto ad AlgorithmWatch che la legislazione europea contro la discriminazione si occupa quasi esclusivamente dei rapporti di lavoro. I lavoratori autonomi, come i professionisti che abbiamo monitorato, non sono protetti.
Alcuni gruppi combattono per i diritti dei creatori indipendenti sui social media. IG Metall, il più grande sindacato europeo, sostiene un’azione collettiva di YouTuber, chiedendo maggiore equità e trasparenza a Google (che possiede YouTube) quando un video veniva demonetizzato. Non intendono estendere il loro programma ai creatori di contenuti su Instagram o altre piattaforme.
Uno su tre europei
Con il numero di imprenditori europei che creano contenuti da Instagram probabilmente nell’ordine delle migliaia di persone, l’impatto dei loro post è enorme, dato che vantano abitualmente centinaia di migliaia di follower. Facebook afferma che quasi 140 milioni di residenti nell’Unione Europea, o uno su tre, hanno usato Instagram ad aprile.
Tra i 18-24 anni, la penetrazione di Instagram è di circa il 100% in tutti i paesi dell’UE. Gli eventi legati alla pandemia di Covid-19 hanno aumentato il tempo passato su Instagram con cifre sbalorditive. Stando a quanto Facebook ha riferito agli investitori, durante il lockdown in una settimana in Italia le visualizzazioni su Instagram sono raddoppiate rispetto al normale.
Una “vetrina” tutta per sé
Quasi un secolo fa, la famosa scrittrice britannica Virginia Woolf affermò che le donne avevano bisogno di «una stanza tutta per loro» per consentire alla loro creatività di prosperare. Obbedire al parere di autorità esterne, scrisse, era come invitare il marciume a svilupparsi nel cuore del proprio lavoro.
Su Instagram, obbedire all’opinione delle autorità che hanno creato l’algoritmo newsfeed non è una scelta. Rifiutarsi di mostrare parti del corpo limita drasticamente il proprio pubblico. Gli imprenditori, uomini o donne che siano, devono rispettare le regole stabilite dagli ingegneri di Facebook se vogliono avere la possibilità di guadagnarsi da vivere usando questi social network.
Foto di copertina Patrick Tomasso su Unsplash
Leggi anche:
- Tra Martina ed Erika troppi baci sul social, Instagram chiude il profilo: «Mi dicano cosa ho fatto di male?»
- Nasce la Corte suprema di Facebook e Instagram: deciderà sulla cancellazione dei contenuti in tutto il mondo
- Palestre chiuse? I personal trainer sbarcano (e fatturano) su Instagram. L’intervista a Postura da Paura – Il video
- «George Floyd Challenge»: l’ignobile sfida sul web che simula la morte dell’afroamericano di Minneapolis
- La rivolta di Facebook contro Zuckerberg. Scioperi, dimissioni e infine la lettera degli ex dipendenti – Le tappe
- Pagare con una chat, cosa sappiamo di WhatsApp Pay
