Le forze dell’ordine in Argentina hanno un nuovo alleato. Si chiama Consulta Nacional de Rebeldìas y Capturas (Conarc) ed è un database, facilmente scaricabile dal web, che contiene nomi e dati sensibili di tutti coloro che sono sospettati di aver commesso un crimine.

Il Conarc include una tecnologia di riconoscimento facciale che combina le fotografie contenute nel database con le immagini raccolte in tempo reale da alcune telecamere sparse per la città di Buenos Aires. Una volta riconosciuto un soggetto sospetto, si procede con l’arresto.

Questo sistema orwelliano ha però dimostrato di avere numerose falle e molti cittadini ne hanno fatto le spese. Nel giugno 2019, per un errore di un funzionario della giustizia, il quale scambiò i dati della sua carta d’identità con quelli di un ricercato, Leonardo Colombo Vina è stato riconosciuto da una telecamera alla stazione Callao della metropolitana e immediatamente arrestato. Un’altra donna è stata ammanettata e trasferita in un’altra stazione di polizia con un’accusa di frode abitativa che risaliva al 2011. Anche in questo caso si trattò di un errore: il suo viso somigliava a quello della reale ricercata e questa inesattezza costò alla donna una notte in prigione. Anche la fondatrice della Ong Alerta Vida, Raquel Holway, fu arrestata per 40 minuti in un’altra stazione per una causa chiusa nel 2005, ma che il tribunale non le aveva ancora cancellato.

Il ministero della Sicurezza ha informato che il 4% degli arresti è stato effettuato a seguito di un falso positivo e la polizia non possiede alcun protocollo per gestire tali situazioni.

Quando a ottobre 2019 un’organizzazione nazionale per i diritti umani ha fatto causa al Conarc, il governo, in risposta, ha emanato una proposta di legge per permettere il riconoscimento facciale in luoghi pubblici. Ma a rendere il sistema ancora più controverso è il fatto che la piattaforma includa nomi di minori. A scoprirlo, uno studio dell’Osservatorio dei Diritti umani, che ha trovato nelle liste dei ricercati ben 166 bambini. Tra questi c’è M.G. di soli 4 anni, il più giovane tra i ricercati, citato per “crimini contro persone”.

Come dimostrano documenti ufficiali, il sistema è stato testato solo su visi adulti. Ciò rende il riconoscimento facciale più complesso per i minori che possono essere confusi e arrestati ingiustamente, con conseguenti ripercussioni sul loro futuro educativo e professionale.

Buenos Aires è solo la prima città ad aver utilizzato il riconoscimento facciale per i bambini. Anche Londra e Mosca hanno annunciato di voler utilizzare sistemi simili o hanno già cominciato a farlo, senza però fornire dettagli su come intendono proteggere i minori.

Perché è chiaro che i bambini, tuttavia, hanno bisogno di maggiori tutele. Per questo motivo, Unicef, prendendo parte all’Artificial Intelligence for Children Policy Project, ha stilato nove linee guida per aiutare i governi e le società private a proteggere i più piccoli dal lato oscuro dell’AI. Perché una sorveglianza invasiva potrebbe condizionare negativamente non solo le loro vite, ma anche l’intera società.

Per approfondire, continua a leggere su Technology Review