Bambini «sospettati di essere criminali» monitorati in tempo reale con il riconoscimento facciale

In un database nazionale in Argentina, decine di migliaia di voci descrivono in dettaglio i nomi, le date di nascita e i documenti d’identità nazionali delle persone sospettate di crimini. Il database, noto come Consulta Nacional de Rebeldías y Capturas (Registro nazionale dei fuggitivi e degli arresti), o CONARC, è iniziato nel 2009 come parte di uno sforzo per migliorare l’applicazione della legge per crimini gravi.

Ora una nuova indagine di Human Rights Watch ha scoperto che non solo i bambini vengono regolarmente aggiunti a CONARC, ma anche che il database alimenta anche un sistema di riconoscimento facciale dal vivo a Buenos Aires schierato dal governo della città.

Il sistema è probabilmente il primo del suo genere utilizzato per dare la caccia a bambini sospettati di attività criminale

Ciò rende il sistema probabilmente la prima istanza nota del suo genere utilizzata per dare la caccia a bambini sospettati di attività criminale.

Il sistema ha portato a numerosi falsi arresti, per la cui gestione la polizia non ha un protocollo stabilito. Non sembra esserci alcun meccanismo per poter correggere gli errori né nell’algoritmo né nel database. «È profondamente preoccupante, e aggiungere bambini all’equazione peggiora le cose» scrive il MIT Technology Review.

Buenos Aires ha iniziato a sperimentare il riconoscimento facciale dal vivo il 24 aprile 2019. Implementato senza alcuna consultazione pubblica, il sistema ha suscitato resistenza immediata. A ottobre, un’organizzazione nazionale per i diritti civili ha intentato una causa per contestarlo. In risposta, il governo ha redatto un nuovo disegno di legge, che ora sta attraversando processi legislativi, che legalizzerà il riconoscimento facciale negli spazi pubblici.

Il sistema ha portato a numerosi falsi arresti, per la cui gestione la polizia non ha un protocollo stabilito

Il software utilizza primi piani dei sospetti per cercare i soggetti in tempo reale tramite le telecamere della metropolitana della città. Una volta che il sistema segnala una persona, avvisa la polizia per effettuare l’arresto.

Mentre alcuni dei minori segnalati come criminali hanno 16 o 17 anni, vi sono casi misteriosi dove il soggetto ha 3 o 4 anni.

Buenos Aires è la prima città che utilizza il riconoscimento facciale dal vivo per rintracciare i bambini, ma moltre altre città occidentali, seguendo l’esempio della Repubblica Popolare Cinese, stanno seguendo

Buenos Aires è la prima città che utilizza il riconoscimento facciale dal vivo per rintracciare i bambini, ma moltre altre città occidentali, seguendo l’esempio della Repubblica Popolare Cinese, stanno seguendo.

A gennaio, Londra ha annunciato che avrebbe integrato il riconoscimento facciale dal vivo nelle sue operazioni di polizia. Pochi giorni fa, Mosca ha dichiarato di aver implementato un sistema simile in tutta la città.