Un gruppo di ricerca del Minderoo Centre for Technology and Democracy dell’Università di Cambridge ha elaborato un meccanismo di audit per valutare la “compliance with the law and national guidance” su questioni come la privacy, l’uguaglianza e la libertà di espressione e di riunione. Secondo i ricercatori “[l’]uso da parte della polizia della tecnologia di riconoscimento facciale può rappresentare una seria minaccia per i diritti fondamentali alla privacy, all’uguaglianza e per il diritto di libertà di espressione e di riunione, soprattutto per le comunità emarginate”. L’audit rappresenta in questo senso uno strumento per aiutare le parti interessate a valutare l’etica e la legalità dell’uso del riconoscimento facciale da parte della polizia.
Nel Regno Unito, analogamente a quanto accade in altre parti del mondo (su questo Osservatorio sull’uso del riconoscimento facciale in Cina si veda qui e in Italia si veda qui e qui), le forze di polizia utilizzano la tecnologia di riconoscimento facciale, anche in tempo reale. L’adozione del riconoscimento facciale da parte della polizia per la prevenzione dei reati e l’individuazione e la cattura dei sospettati è stata oggetto di un dibattito significativo. I sostenitori di queste tecnologie e del loro uso da parte delle forze di pubblica sicurezza, ne evidenziano i benefici, in quanto strumenti utili a prevenire il crimine e le minacce terroristiche e l’individuazione di persone scomparse. I critici, di contro, osservano come l’utilizzo di queste tecnologie, soprattutto nel settore dell’ordine pubblico, sollevi numerosi dubbi e generi rischi di discriminazione e di violazione dei diritti fondamentali (sul rapporto tra riconoscimento facciale, privacy e diritti fondamentali si veda su questo Osservatorio qui; in materia di possibili discriminazioni si veda il rapporto NIST Interagency 8280, del dicembre 2019 che ha evidenziato che la maggior parte degli algoritmi di riconoscimento facciale presentano un’elevata percentuale di falsi positivi e, sebbene in misura minore, di falsi negativi).
La regolazione di queste tecnologie è ancora embrionale (in argomento si veda S. Del Gatto, Il riconoscimento facciale a che punto siamo? e su quest’Osservatorio si veda qui). In alcuni Stati il riconoscimento facciale è stato vietato, in altri, dove è consentito, mancano regole ad hoc e si utilizzano i principi contenuti delle norme esistenti. Per questo, con l’obiettivo di verificare il rispetto dei principi a tutela dei diritti fondamentali, un gruppo di ricerca del Minderoo Centre for Technology and Democracy dell’Università di Cambridge ha elaborato un meccanismo di audit per valutare la “compliance with the law and national guidance” su questioni come la privacy, l’uguaglianza e la libertà di espressione e di riunione. Secondo i ricercatori “[l’]uso da parte della polizia della tecnologia di riconoscimento facciale può rappresentare una seria minaccia per i diritti fondamentali alla privacy, all’uguaglianza e per il diritto di libertà di espressione e di riunione, soprattutto per le comunità emarginate”. L’audit rappresenta in questo senso uno strumento per aiutare le parti interessate a valutare l’etica e la legalità dell’uso del riconoscimento facciale da parte della polizia.
Nel rapporto, i ricercatori hanno inserito alcuni “standard etici e legali minimi” utilizzati per valutare, attraverso una serie di domande, la qualità della governance della tecnologia di riconoscimento facciale e li hanno poi applicati a tre casi di studio.
Il primo case study riguarda l’uso sperimentale del riconoscimento facciale dal vivo da parte della polizia del Galles del Sud da maggio 2017 ad aprile 2019. Nella causa R (Bridges) v. Chief Constable of South Wales Police, la Corte d’appello ha stabilito che tali utilizzi sono stati illegali in quanto “non vi erano indicazioni chiare su dove tali tecnologie potevano essere utilizzate e chi poteva essere inserito in una lista di controllo. Mancava, inoltre, una valutazione d’impatto sulla protezione dei dati e la polizia non aveva adottato misure ragionevoli per stabilire se il software usato avesse un pregiudizio razziale o di genere”. Secondo il Rapporto in commento, le censure esposte dalla Corte sono tutte condivisibili e anzi i risultati dell’audit su questo caso evidenziano “additional legal and ethical concerns beyond the scope of the court case, including the technology’s use at protests and the absence of effective oversight”.
Il secondo caso di studio attiene all’uso del riconoscimento facciale dal vivo da parte del Metropolitan Police Service (MPS) da agosto 2016 a febbraio 2019. Anche in questo caso, il Rapporto evidenzia come manchino indicazioni chiare su chi è stato incluso in watchlist e prove effettive del fatto che l’uso di questa tecnologia fosse “necessario in una società democratica” come richiesto dalla legge sui diritti umani. Il gruppo di ricercatori di Cambridge ha inoltre, riscontrato problemi in merito a possibili discriminazioni, alla mancanza di una supervisione efficace e all’assenza di trasparenza.
L’ultimo caso di studio è rappresentato dalla recente sperimentazione sul riconoscimento facciale avviato da telefono cellulare o operatore (OIFR) condotta dalla polizia del Galles del Sud (SWP) da dicembre 2021 a marzo 2022. In questo caso, SWP ha fornito più documenti relativi all’uso di OIFR rispetto a quanto fatto nel caso oggetto della sentenza R (Bridges) v. Chief Constable of South Wales Police, tuttavia, secondo il Rapporto, sebbene vi siano stati miglioramenti, permangono lacune significative per quanto riguarda gli standard minimi giuridici ed etici tra cui la mancanza di criteri relativi a chi è incluso nella watchlist, l’assenza di trasparenza, la mancanza di valutazioni circa l’esistenza di fattori di discriminazione e una scarsa supervisione indipendente.
In conclusione, in base all’esito dell’audit, in nessuno dei tre casi di studio, la polizia del Regno Unito ha rispettato gli standard minimi legali ed etici per l’utilizzo del riconoscimento facciale al fine di tutelare adeguatamente i diritti fondamentali delle persone, tra cui il diritto alla privacy e il diritto alla libertà di riunione e di espressione.
Quest’opera è distribuita con Licenza Creative Commons Attribuzione 4.0 Internazionale