L’IA scambia patatine per una pistola, il caso in una scuola americana: arrestato uno studente

Uno studente americano arrestato a pistole spianate, fatto sdraiare a terra e perquisito. Una scena che non è rara da vedere nelle scuole statunitensi, dove regna la paura delle stragi. Ma in questo caso il ragazzo era «colpevole» solo di trasportare un sacchetto di patatine. Come riporta Fanpage, a far scattare il falso allarme è stato un software di intelligenza artificiale installato nei sistemi di videosorveglianza di un istituto a Baltimore, contea nel Maryland, che dovrebbe rilevare eventuali armi trasportate da chi viene inquadrato. «Mi sono spaventato, ho visto la pistola puntata verso di me e sono arrivare circa otto auto della polizia», ha raccontato il ragazzo, Taki Allen, a una rete locale.

Il sistema Ai per rilevare armi da fuoco

Quello implementato nella scuola, diffuso in tutta la contea dal 2023, è un software che analizza in tempo reale le immagini delle telecamere di sicurezza per individuare armi da fuoco come pistole o fucili. Il lavoro del software dovrebbe però affiancare quello dei supervisori umani, non sostituirlo. Ogni avviso dovrebbe essere verificato dagli incaricati della sicurezza, prima di far partire la chiamata di emergenza. Non è andata così alla Kenwood high school, dove per motivi ancora sconosciuti la chiamata alle forze dell’ordine è partita precocemente e nessuno è riuscito ad annullarla. «È stato un errore grave e profondamente spiacevole» ha dichiarato la sovrintendente Myriam Rogers, durante una conferenza stampa. «Il nostro obiettivo è garantire la sicurezza degli studenti, non metterli in situazioni traumatiche come questa».

Il tema della sicurezza affidata all’Ai

«Nessun bambino del nostro sistema scolastico dovrebbe essere fermato dalla polizia per aver mangiato un sacchetto di Doritos». In questi termini il consiglio della contea ha denunciato i troppi errori dell’intelligenza artificiale, basato su algoritmi e riconoscimento visivo, e hanno chiesto una revisione delle procedure. Lo stesso hanno chiesto i familiari dello studente vittima dell’errore: «Qualcosa va fatto, devono esserci dei cambiamenti e chi ha sbagliato deve rendere conto»