.

Inteligencia Artificial

Las atrocidades del reconocimiento facial pueden tener los días contados

1

La presión de la sociedad estadounidense ha obligado a Amazon y otras empresas a alargar de forma indefinida sus moratorias para el uso de sus tecnologías por parte de la policía, y ya hay tres propuestas de ley que podría prohibirla de forma más amplia. Este cambio en el país podría arrastras a otras sociedades

  • por Tate Ryan-mosley | traducido por Ana Milutinovic
  • 01 Junio, 2021

El 10 de mayo, 40 grupos activistas enviaron una carta abierta para exigir una prohibición permanente del uso del software de reconocimiento facial de Amazon, Rekognition, por parte de la policía estadounidense. La carta iba dirigida a los directores ejecutivos de la empresa, el actual, Jeff Bezos, y el entrante, Andy Jassy, y llegó solo unas semanas antes de que la moratoria de un año de Amazon sobre las ventas a las fuerzas del orden estadounidenses expirara.

La misiva muestra el choque entre el apoyo verbal de Bezos y Jassy a los activistas de Black Lives Matter durante las protestas por la justicia racial del verano pasado tras el asesinato de George Floyd y la información de que las fuerzas del orden de EE. UU. han utilizado otros productos de Amazon para identificar a los manifestantes.

El 17 de mayo, Amazon anunció que extendería su moratoria de forma indefinida, uniéndose a sus rivales IBM y Microsoft en este purgatorio autorregulado. La decisión representa un guiño al poder político de los grupos que luchan por detener esta tecnología y el reconocimiento de que empiezan a surgir nuevos campos de batalla legislativos. Muchos creen que probablemente pronto habrá una ley federal importante al respecto. 

"La gente está agotada"

El año pasado fue crucial para el reconocimiento facial: se descubrió el papel de esta tecnología en arrestos erróneos y se produjeron prohibiciones en casi dos docenas de ciudades y siete estados en EE. UU. Pero ese impulso lleva algún tiempo cambiando.

En 2018, varios investigadores de inteligencia artificial (IA) publicaron un estudio que compara la precisión del software comercial de reconocimiento facial de IBM, Microsoft y Face ++. Su trabajo encontró que esta tecnología identifica a los hombres de piel más clara con mucha más precisión que a las mujeres de piel más oscura; el sistema de IBM obtuvo la peor puntuación, con una diferencia del 34,4 % en la tasa de error entre los dos grupos.

También en 2018, la Unión Estadounidense de Libertades Civiles (ACLU, por sus siglas en inglés) puso a prueba el sistema Rekognition de Amazon y descubrió que identificó erróneamente a 28 miembros del Congreso de EE. UU. como delincuentes, un error que afectaba de manera desproporcionada a los congresistas de color. La organización escribió su propia carta a Amazon para exigir que prohibiera el uso de esta tecnología por parte del Gobierno, lo mismo que hizo el grupo de congresistas negros Congressional Black Caucus, pero Amazon no llevó a cabo ningún cambio.

(El portavoz de Amazon envió a MIT Technology Review la respuesta publicada en julio de 2018 donde exponía los problemas que encontró con la precisión y los métodos de la prueba de la ACLU).

"Si queremos comprometernos con la equidad racial en el sistema de justicia penal... una de las cosas más simples y claras que se pueden hacer es terminar con el uso de la tecnología de reconocimiento facial", Kate Ruane, ACLU.

Sin embargo, durante las protestas por la justicia racial contra la brutalidad policial del verano pasado, Amazon sorprendió a muchos al anunciar que paralizaba el uso policial de Rekognition, con excepciones para órganos federales como el Servicio de Inmigración y Control de Aduanas de Estados Unidos (ICE, por sus siglas en inglés). El comunicado de la compañía señalaba que esperaba que esa pausa "diera al Congreso de EE. UU. el tiempo suficiente para adoptar las normas apropiadas".

La directora del grupo de activistas sobre la tecnología Fight for the Future, Evan Greer, defiende la abolición del reconocimiento facial y considera que hay un creciente apoyo público para su regulación. Según Greer, la prolongación de la moratoria muestra que "Amazon está respondiendo a la enorme presión que está recibiendo, no solo en torno al reconocimiento facial", y añade: "Realmente reconozco el gran mérito de los levantamientos nacionales por la justicia racial que han ocurrido en el último año y medio".

"Una realidad política"

Aunque existe una creciente presión sobre los grandes proveedores de esta tecnología, la realidad es que la mayoría de los usuarios de las fuerzas del orden público y del Gobierno no compran el software de reconocimiento facial de empresas como Amazon. Entonces, aunque las moratorias y las prohibiciones son bienvenidas por los activistas, no impiden necesariamente el uso de las tecnologías. Mientras tanto, el Congreso de EE. UU. aún no ha aprobado ninguna ley federal sobre reconocimiento facial en los órganos policiales, gubernamentales o comerciales que regule a los proveedores más pequeños.

No obstante, algunos esperan que la ley federal llegue pronto, ya sea a través de una acción directa del Congreso estadounidense, una orden ejecutiva presidencial o en los próximos proyectos de ley de competencias y reformas policiales.

La principal asesora jurídica de la ACLU, Kate Ruane, afirma: "Creo que lo mejor sería que el Congreso de EE. UU. apruebe una moratoria sobre su uso". Y opina que los nuevos usos solo se deberían permitir tras un mayor trabajo legislativo.

Ya se han propuesto varios proyectos de ley federales que pararían el reconocimiento facial.

La CEO fundadora de la organización sin ánimo de lucro AI for the People, que aboga por la justicia racial en la tecnología, Mutale Nkonde, cree que es probable que veamos una ley federal adicional para las elecciones a mitad del mandato del próximo año. Y añade: "Creo que se introducirá una ley federal para todos los sistemas algorítmicos, incluido el reconocimiento facial. Me parece que esa es la realidad política".

Opina que el concepto de las evaluaciones de impacto que evalúan los sistemas tecnológicos sobre la base de los derechos civiles está ganando terreno en los círculos políticos en ambos bandos. La ACLU está presionando a la administración de Biden para conseguir una orden ejecutiva, y recientemente publicó una carta con otros 40 grupos solicitando una prohibición inmediata del uso de la tecnología por parte del Gobierno.

Ruane señala: "Si nos queremos comprometer con la justicia racial, con la equidad racial en el sistema de justicia penal, con ese tipo de reformas, una de las cosas más simples y claras que se puede hacer es poner fin al uso de la tecnología de reconocimiento facial".

"La gente se ha vuelto más radical"

Mientras tanto, espera que la autorregulación siga siendo uno de los métodos más efectivos para prevenir el uso tan amplio del reconocimiento facial. Es plausible que algunas agencias federales estadounidenses como los Departamentos de Vivienda, Seguridad Nacional y Educación consideren imponer reglas que prohíban el uso de esta tecnología.

Nkonde confía en que las moratorias se conviertan en prohibiciones y leyes permanentes: "Creo que las moratorias parecían la opción más adecuada antes de la muerte de George Floyd. Después de eso, la gente se ha vuelto más radical".

Pero Greer advierte que, a pesar de todo el impulso en contra del reconocimiento facial, la legislación centrada en la precisión racial de los sistemas podría no resolver algunos problemas más profundos. Y explica: "Creo que sería un error que los legisladores vean la precisión como el único problema con el reconocimiento facial que se debería abordar. La industria estaría muy contenta con un proyecto de ley que, por ejemplo, dijera algo como: 'Si va a vender un sistema de reconocimiento facial, tiene que ser 99 % preciso con las personas de todas las razas y tonos de piel diferentes'. "Incluso si el sesgo no está integrado en el sistema, el sistema policial sesgado que se está acelerando actualmente y sobrealimentado con esta tecnología todavía existe".

Inteligencia Artificial

 

La inteligencia artificial y los robots están transofrmando nuestra forma de trabajar y nuestro estilo de vida.

  1. La horrible 'app' de 'deepfakes' que coloca a mujeres en videos porno

    Se trata de algo sobre lo que los expertos llevan tiempo advirtiendo y eleva este tipo de abusos al siguiente nivel. Las consecuencias psicológicas y sociales de esta especie de violación pueden alargarse durante años y también afectan a los hombres en países donde se castiga la homosexualidad 

  2. Los datos biométricos de los afganos, arma para la venganza talibana

    Con decenas de datos por persona, desde escáneres de iris y vínculos familiares hasta su fruta favorita, el sistema destinado a reducir el fraude en las fuerzas de seguridad del país pondría en peligro a los ciudadanos registrados

  3. El perturbador aumento del uso del reconocimiento facial de EE. UU.

    A falta de regulación federal, un informe revela que las agencias nacionales del país lo utilizan cada vez más, en muchas ocasiones sin una supervisión adecuada, y la tendencia no para de aumentar. Además, muchas de ellas utilizan el controvertido sistema de Clearview AI