La policía del Reino Unido no cumple con los «estándares legales y éticos» en el uso del reconocimiento facial

Un equipo del Centro Minderoo para la Tecnología y la Democracia de la Universidad de Cambridge creó la nueva herramienta de auditoría para evaluar el «cumplimiento de la ley y la orientación nacional» en torno a cuestiones como la privacidad, la igualdad y la libertad de expresión y reunión.

Con base en los hallazgos, publicados en un nuevo informe, los expertos se unen a los llamados para prohibir el uso policial del reconocimiento facial en espacios públicos.

“Hay una falta de mecanismos de reparación sólidos para las personas y las comunidades perjudicadas por los despliegues policiales de la tecnología”, dijo la autora principal del informe, Evani Radiya-Dixit, investigadora visitante en el Centro Minderoo de Cambridge.

“Para proteger los derechos humanos y mejorar la rendición de cuentas sobre cómo se usa la tecnología, debemos preguntarnos qué valores queremos incorporar en la tecnología”.

Los investigadores construyeron la herramienta de auditoría basándose en las pautas legales actuales, incluidas las leyes de igualdad y protección de datos del Reino Unido, así como los resultados de los casos judiciales del Reino Unido y los comentarios de las organizaciones de la sociedad civil y la Oficina del Comisionado de Información.

Aplicaron sus estándares éticos y legales a tres usos de la tecnología de reconocimiento facial (FRT) por parte de la policía del Reino Unido. Uno fue el caso judicial de Bridges, en el que un defensor de las libertades civiles con sede en Cardiff apeló contra el uso de FRT automatizado por parte de la policía de Gales del Sur para escanear en vivo multitudes y comparar rostros con los de una «lista de vigilancia» criminal.

Los investigadores también probaron los ensayos de la Policía Metropolitana de uso similar de FRT en vivo, y otro ejemplo de la Policía de Gales del Sur en el que los oficiales usaron aplicaciones FRT en sus teléfonos inteligentes para escanear multitudes con el fin de identificar «personas buscadas en tiempo real».

En los tres casos, encontraron que la información importante sobre el uso policial de FRT se «oculta», incluidos los escasos datos demográficos publicados sobre arrestos u otros resultados, lo que dificulta evaluar si las herramientas «perpetúan la elaboración de perfiles raciales», dicen los investigadores.

Además de la falta de transparencia, los investigadores encontraron poca responsabilidad, sin un recurso claro para las personas o comunidades afectadas negativamente por el uso o mal uso de la tecnología por parte de la policía. “Las fuerzas policiales no son necesariamente responsables de los daños causados ​​por la tecnología de reconocimiento facial”, dijo Radiya-Dixit.

Algunos de los usos de FRT carecían de la supervisión regular de un comité de ética independiente o incluso del público, dicen los investigadores, y no hicieron lo suficiente para garantizar que hubiera un «humano en el circuito» confiable al escanear hasta números de caras entre multitudes de miles mientras la caza de delincuentes.

En el juicio de la aplicación para teléfonos inteligentes de la policía de Gales del Sur, incluso la «lista de observación» incluía imágenes de personas inocentes según la ley del Reino Unido, aquellas que habían sido arrestadas pero no condenadas, a pesar de que la retención de tales imágenes es ilegal.

“Descubrimos que estos tres despliegues no cumplen con los estándares éticos y legales mínimos según nuestra investigación sobre el uso policial del reconocimiento facial”, dijo Radiya-Dixit.

La profesora Gina Neff, directora ejecutiva del Minderoo Center for Technology and Democracy, dijo: “En los últimos años, las fuerzas policiales de todo el mundo, incluso en Inglaterra y Gales, han implementado tecnologías de reconocimiento facial. Nuestro objetivo era evaluar si estos despliegues utilizaban prácticas conocidas para el uso seguro y ético de estas tecnologías”.

“La creación de un sistema de auditoría único nos permitió examinar los problemas de privacidad, igualdad, responsabilidad y supervisión que deberían acompañar cualquier uso de tales tecnologías por parte de la policía”, dijo Neff.

Los oficiales tienen cada vez menos recursos y están sobrecargados, escriben los investigadores, y FRT se considera una forma rápida, eficiente y económica de rastrear personas de interés.

Al menos diez fuerzas policiales en Inglaterra y Gales han probado el reconocimiento facial, con pruebas que involucran el uso de FRT con fines policiales operativos, aunque diferentes fuerzas usan diferentes estándares.

Las cuestiones de privacidad son profundas para la tecnología policial que escanea y potencialmente retiene una gran cantidad de imágenes faciales sin conocimiento ni consentimiento. Los investigadores destacan un posible «efecto escalofriante» si FRT lleva a una renuencia a ejercer los derechos fundamentales entre el público, por ejemplo, el derecho a protestar, por temor a las posibles consecuencias.

El uso de FRT también plantea problemas de discriminación. Los investigadores señalan que, históricamente, los sistemas de vigilancia se utilizan para monitorear a los grupos marginados, y estudios recientes sugieren que la tecnología en sí contiene un sesgo inherente que identifica erróneamente de manera desproporcionada a las mujeres, las personas de color y las personas con discapacidades.

Dadas las brechas regulatorias y las fallas en el cumplimiento de los estándares mínimos establecidos por el nuevo conjunto de herramientas de auditoría, los investigadores escriben que apoyan los llamados a una «prohibición del uso policial del reconocimiento facial en espacios de acceso público».