Uno studio pubblicato lo scorso gennaio da due ricercatori del Language Technologies Institute della Carnegie Mellon University, in Pennsylvania, ha dimostrato che l’algoritmo di YouTube per rilevare frasi razziste o relative all’hate speech «può fare degli errori». Il paper, i cui risultati sono stati diffusi dal britannico Independent, è stato pubblicato da Ashique R. KhudaBukhsh e Rupak Sarkar, ed è incentrato sulla chiusura di Agadmator, canale specializzato da oltre 1 milione di iscritti, oscurato per 24 ore lo scorso 28 giugno.
Il fatto
Tutto è iniziato per una frase gergale, «il bianco attacca il nero», usata durante una presentazione sul canale tra l’amministratore dell’account, il croato Antonio Radic, e il Gran Maestro giapponese Kikaru Nakamura. Intercettando la frase come minacciosa, l’algoritmo di YouTube ha quindi rimosso il video, considerando il contenuto e l’intero canale come uno spazio «dannoso e pericoloso». Lo stesso Radic aveva pubblicato un video dove spiegava ai follower quanto accaduto, domandandosi quali criteri fossero stati applicati dalla piattaforma di proprietà di Google.
La ricerca
Per rispondere a questa domanda, KhudaBukhsh e Sarkar hanno utilizzato due software utilizzati per la ricerca di argomenti e frasi offensive dove hanno caricato 680 mila commenti rilasciati su cinque canali scacchistici diversi. I due studiosi hanno quindi proseguito selezionando 1000 commenti tra quelli segnalati dall’algoritmo come offensivi da almeno uno dei due programmi. I risultati ottenuti scandagliando personalmente ogni frase sono chiari: l’82 per cento non conteneva riferimenti razzisti, ma solo termini gergali come blocco, contrattacco e cattura. «Non sappiamo quale strumento venga usato da YouTube, ma queste cose possono accadere se si usa l’intelligenza artificiale per scovare frasi o insulti razzisti», ha riferito all’Independent KhudaBukhsh.
Leggi anche:
- Coronavirus, buone notizie dagli Usa: «Forte protezione del vaccino Johnson & Johnson». Singapore apre al passaporto vaccinale
- «Sono come il virus»: polemiche in Germania per gli insulti contro una boyband coreana in radio – Il video
- Usa, l’accusa di Chess.com al campione di scacchi Hans Niemann: «Ha barato in più di 100 partite online»
- La scansione del retto che ha dovuto subire il campione di scacchi Hans Niemann, accusato di aver barato – Il video
- Russia, il giallo sul deputato ed ex campione di scacchi Karpov ricoverato in terapia intensiva
- Tregua tra Facebook e l’Australia: revocato il blocco della condivisione degli articoli dei media nazionali
- «Danni al cervello dopo l’overdose. Ma la musica mi ha salvata». Demi Lovato si racconta in un documentario – Il video
- Il razzismo spiegato da Barbie e Nikki: «Il discorso non è facile, ma è necessario» – Il video
- I QAnon sono un pericolo, YouTube rimuove i contenuti complottisti che alimentano odio e violenza
- Coronavirus, quanto è affidabile la ricerca su YouTube per informarci sul Covid-19?
