JB perdió su trabajo de media jo ada cuando empezó el confinamiento en marzo del año pasado y, como millones de otros estadounidenses, intentó solicitar el subsidio por desempleo, sin sospechar que su apariencia cambiada se interpondría en el camino. Meses después de enviar la documentación de forma electrónica y hacer varias llamadas a una línea directa que no daban ningún resultado, finalmente le pidieron a JB utilizar el sistema de reconocimiento facial de Califo ia (EE. UU.) para verificar su identidad. Pero, incluso después de varios intentos, el sistema no pudo encontrar la coincidencia entre el rostro de JB y la foto de su documento de identidad, y así se excluyó de las prestaciones para las que reunía todos los requisitos. Finalmente, JB dejó de intentarlo: el proceso era demasiado frustrante.
nLas fuerzas del orden y las empresas privadas llevan años utilizando el reconocimiento facial, pero el uso de esta tecnología para distribuir la ayuda del Gobie o se ha expandido rápidamente durante la pandemia. En EE.UU. los estados y las agencias federales han recurrido al reconocimiento facial como una forma automatizada y sin contacto directo para verificar la identidad de las personas que solicitan el paro y otras prestaciones sociales.
nA los expertos y activistas les preocupa que los errores de esta tecnología puedan impedir que las personas obtengan las ayudas que necesitan desesperadamente, y que podría provocar aún más peligro si funciona tal y como se diseñó.
nUsar nuestra cara para lo más trivial
nLa pandemia aceleró el uso de muchas herramientas de recopilación de datos biométricos: controles de temperatura en las puertas, cámaras térmicas en las escuelas, escáneres faciales en los aeropuertos. Cuando se trata de subsidios como el de desempleo, los gobie os estatales están recurriendo en especial al reconocimiento facial, para verificar la identidad de las personas antes de entregarles el dinero al que tienen derecho. La segunda ola de fondos de estímulo de EE. UU., aprobada en diciembre de 2020, requirió que los estados verificaran a los solicitantes de la Pandemic Unemployment Assistance (asistencia por desempleo por la pandemia), el fondo común de dinero federal.
nLas agencias de desempleo de 27 estados de EE. UU. (entre ellas la de Califo ia) trabajan con la empresa ID.me, que ofrece tecnología de reconocimiento facial, según el CEO Blake Hall. El Departamento de Empleo de EE. UU. también proporcionó millones de dólares en fondos a los estados para implementar las medidas de prevención del fraude, y se invirtió así más dinero en el reconocimiento facial. En los últimos meses ha habido informes en todo el país de incidentes en los que los sistemas de desempleo no reconocieron los escaneos faciales de los solicitantes, lo que puso a personas como JB en situaciones económicas precarias. El riesgo de identificación errónea no es igual para todos: se ha demostrado que el reconocimiento facial es menos preciso para las personas de color que para las personas blancas, y, según el estudio federal publicado en 2019, es más probable que los hombres sean identificados con más precisión que las mujeres. Esos hallazgos se analizaron más a fondo en otro estudio del año pasado.
nHall asegura que en una muestra de 700 usuarios, ID.me no encontró una correlación entre el tono de piel y la probabilidad de fallar en el paso de identificar a una persona.
nEl software de reconocimiento facial empezó a ser más común años antes de la pandemia, y sus posibles defectos están bien documentados: los periodistas han revelado cómo los departamentos de policía de EE. UU. utilizan enormes bases de datos de rostros en las investigaciones, con una precisión cuestionable. Las empresas han detenido o limitado el uso de esta tecnología en medio de pruebas de que no funcionaba tan bien en personas de color. Aun así, sigue extendiéndose: otras agencias federales planean expandir su uso, mientras que también se utiliza en muchas otras partes, desde centros comerciales hasta salas de conciertos. La famosa cadena de tiendas Macy's fue demandada el año pasado por su supuesto uso de reconocimiento facial en los clientes de las tiendas. Pero los usos de la tecnología relacionados con la pandemia para la elegibilidad de los subsidios, por ejemplo, tienen a los críticos especialmente preocupados.
nLa directora del grupo de derechos digitales Fight for the Future, Evan Greer, avisa: "Lo que no me deja dormir por la noche es que, con la pandemia acelerando las cosas, empezaremos a ver esto en todas partes. Estará en las tiendas y existirá la opción de pagar con la cara. Se normalizará en el transporte público. Se utilizará en las entrevistas de trabajo".
nCada vez más, esta tecnología se usa en lo que se presenta como el interés de la salud pública. Hace poco, Australia ha expandido su programa, que utilizaba el reconocimiento facial para cumplir las precauciones de seguridad por la COVID-19. Las personas que están en cuarentena están sujetas a controles aleatorios, en los que deben enviar un selfi para confirmar que están respetando las normas. También se recogen datos de ubicación, según Reuters.
nCuando se trata de cosas esenciales como los subsidios de emergencia para pagar la vivienda y la comida, la primera prioridad debe ser asegurarse de que todos puedan acceder a la ayuda, opina Greer. La prevención del fraude es un fin razonable en la superficie, agrega, pero el objetivo más urgente debe ser que las personas obtengan las prestaciones que necesitan.
n"Los sistemas se deben construir teniendo en cuenta los derechos humanos y las necesidades de las personas vulnerables desde el principio. No se puede pensar en eso después. No se deben corregir los errores después de que ya salieran mal", destaca Greer.
nHall, de ID.me, explica que los servicios de su empresa son preferibles a los métodos existentes de verificación de identidad y han ayudado a los estados a reducir el fraude "masivo" de prestaciones por desempleo desde que implementaron los controles de verificación facial. Resalta que las solicitudes de subsidio por desempleo tienen una tasa de aprobación real de alrededor del 91 %, ya sea por los propios usuarios o mediante una videollamada con un representante de ID.me.
nEl CEO indica: "[Ese] era nuestro objetivo al inicio. Si pudiéramos automatizar el 91 % de este proceso, entonces los estados que están simplemente superados en cuanto los recursos pueden usar esos recursos para brindar un servicio directo al 9 %".
nCuando los usuarios no pueden terminar el proceso de reconocimiento facial, ID.me les envía un correo electrónico para comprobarlo, según Hall. "Todo en esta empresa tiene que ver con ayudar a las personas a obtener acceso a las cosas para las que son elegibles", asegura.
nLa tecnología en el mundo real
nLos meses en los que JB sobrevivía sin ingresos fueron difíciles. La preocupación económica fue suficiente para causar estrés, pero otros problemas, como su ordenador estropeado, agravaron la ansiedad. Ni siquiera su antiguo empleador pudo o quiso ayudar a eliminar toda esa burocracia. JB afirma: "Es muy aislante pensar: 'Nadie me está ayudando en esta situación'".
nPor el lado del Gobie o, los expertos opinan que tiene sentido que la pandemia haya traído nueva tecnología al frente, pero los casos como el de JB muestran que la tecnología en sí misma no es la respuesta completa. La profesora asistente de política de datos en la Universidad de Nueva York (EE. UU.) Anne L.Washington cree que es tentador considerar que una nueva tecnología gube amental es un éxito cuando funciona la mayor parte del tiempo durante la fase de investigación, pero falla el 5 % del tiempo en el mundo real. Washington compara el resultado con el juego de las sillas musicales, donde en una sala de 100 personas siempre quedarán cinco sin asiento.
n"El problema es que los gobie os obtienen algún tipo de tecnología que funciona el 95 % del tiempo; y creen que ya está resuelto todo", opina. En cambio, la intervención humana se vuelve más importante que nunca. "Hace falta un sistema para gestionar regularmente a las cinco personas que se han quedado de pie", explica.
nExiste una capa adicional de riesgo cuando se trata de la empresa privada. El mayor problema que surge en el uso de un nuevo tipo de tecnología es dónde se guardan los datos, resalta Washington. Sin una entidad fiable que tenga el deber legal de proteger la información de las personas, los datos confidenciales podrían acabar en manos de otros. ¿Cómo nos sentiríamos, por ejemplo, si el Gobie o federal de EE. UU. hubiera confiado a una empresa privada los números de seguro social cuando se crearon?
n"El problema es que los gobie os obtienen algún tipo de tecnología que funciona el 95 % del tiempo; y creen que ya está resuelto todo".
nAnne L. Washington, Universidad de Nueva York
nEl uso generalizado y descontrolado de las herramientas de reconocimiento facial también tiene el potencial de afectar a los grupos ya marginados, más que a otros. Las personas transgénero, por ejemplo, tienen problemas frecuentes y específicos con las herramientas como Google Photos, que pueden cuestionar si las fotos anteriores y posteriores a la transición muestran a la misma persona. Eso significa enfrentarse al software una y otra vez.
n"[Hay] imprecisión en la capacidad de la tecnología para reflejar la amplitud de la diversidad real y los casos extremos que existen en el mundo real", afirma la tecnóloga de la Electronic Frontier Foundation (EFF) Daly Ba ett, que añade: "No podemos confiar en ellos para clasificar, calcular y reflejar de manera exacta esos hermosos casos extremos".
nPeor que el fracaso
nLas conversaciones sobre el reconocimiento facial suelen debatir cómo la tecnología podría fallar o discriminar. Pero Ba ett anima a las personas a pensar más allá de si las herramientas biométricas funcionan o no, o si se manifiestan sesgos en la tecnología. Ba ett rechaza la idea de que los necesitamos en absoluto. De hecho, los activistas como Greer advierten que las herramientas podrían ser aún más peligrosas cuando funcionan a la perfección. El reconocimiento facial ya se ha utilizado para identificar, castigar o reprimir a los manifestantes, aunque la gente también sabe defenderse. En Hong Kong (China), los manifestantes llevaban máscaras y gafas protectoras para ocultar sus rostros de la vigilancia policial. En Estados Unidos, los fiscales federales retiraron los cargos contra un manifestante identificado mediante reconocimiento facial que había sido acusado de agredir a agentes de policía.
nGreer destaca: "Creo que es comprensible que nos estemos centrando en estos defectos y en el sesgo, porque esta tecnología se está utilizando en estos momentos". "Pero cuando una tecnología […] se implementa en una sociedad que es profundamente injusta, incluso si la tecnología en sí es 'neutral' o no tiene ningún tipo de sesgo, tendrá el efecto de automatizar y empeorar esa discriminación".
nFight for the Future y EFF apoyan la prohibición del uso gube amental de las herramientas de reconocimiento facial. Ba ett considera que, incluso cuando se utiliza esta tecnología, las agencias gube amentales no deberían depender de un solo sistema como guardián del acceso, especialmente para las cosas esenciales que las personas necesitan para sobrevivir.
n"No es muy difícil imaginar cómo más adelante, incluso si tienen buenas intenciones actualmente, [estas tecnologías] podrían convertirse en armas contra las personas para diversos fines", señala Ba ett.
nSin embargo, para las personas marginadas, los efectos del reconocimiento facial ya están causando problemas. Más de un año después de que JB solicitara por primera vez el subsidio por desempleo, los detalles del arduo proceso todavía están grabados en su memoria. Cuando su primera solicitud expiró esta primavera, fue un alivio. Recientemente JB consiguió un nuevo trabajo y, por fin, las cosas volvieron a la normalidad. Concluye: "Fue como si por fin estuviera recuperando mi vida. Estoy muy feliz de no tener que lidiar con ese sistema. Y realmente espero no tener que hacerlo nunca más".
n