.

Computación

El reconocimiento facial del FBI es intrusivo, injusto y poco preciso

1

La mitad de la población adulta de EEUU forma parte, sin saberlo, de su base de datos. Pero el sistema falla el 15% de las veces y la cifra aumenta cuando se trata de ciudadanos afroamericanos

  • por Jamie Condliffe | traducido por Teresa Woods
  • 06 Abril, 2017

Crédito: Kidmograph.

Sonría: tal vez esté siendo mal identificado.

El año pasado, conocimos la increíble escala de la tecnología de reconocimiento facial del FBI, con su acceso a casi 412 millones de fotos - muchas de las cuales provienen de fuentes que no están relacionadas con la criminalidad, como los documentos de identificación. La agencia de inteligencia ha estado intentando dearrollar un sistema capaz de identificar criminales con precisión dentro de, digamos, imágenes de videovigilancia de circuito cerrado, aunque no se sabía entonces cuán bien funcionaba el software de la agencia, ni si realmente mejoraba las investigaciones.

Ahora tenemos al menos algunos conocimientos más sobre el programa. El Guardian informa de que una audiencia del comité de supervisión de la Cámara de Representantes de Estados Unidos reveló algunos interesantes detalles nuevos acerca de la proliferación y las capacidades de los sistemas de reconocimiento facial del FBI.

En primer lugar, hay muy buenas probabilidades de que cualquier estadounidense esté representado dentro de la base de datos. Entre esos millones de fotos, resulta que se cuentan las semejanzas de alrededor de la mitad de la población adulta del país. Esto ha sido posible gracias a que las imágenes derivadas de fuentes que no guardan relación con la criminalidad representan el 80% de la base de datos. Así que cuando alguien envía formularios y fotos para obtener un pasaporte, carné de conducir o algún otro tipo de identificación oficial, está ayudando a engordar el conjunto de datos.

Tal vez resulte más preocupante la calidad del reconocimiento facial del FBI. La audiencia reveló que su software actualmente identifica erróneamente a los individuos casi un 15% de las veces. En contraste, la tecnología de reconocimiento facial líder del mercado ahora es tan precisa que está siendo utilizada para autorizar pagos en China, y Baidu afirma que puede confirmar correctamente la identidad de alguien con un 99,77% de precisión.

En defensa del FBI, probablemente esté trabajando con imágenes de una calidad muy inferior, tanto en su base de datos como en las imágenes dentro de las cuales intenta ejeuctar el reconocimiento facial, que las que están disponibles para empresas como Baidu. Pero una tasa de error del 15% aún es alta, y podría dar paso a pistas falsas o intrusiones no justificadas a la privacidad.

Crédito: Ian Waldie (Getty Images).

El software también parece identificar incorrectamente con mayor frecuencia a los afroamericanos que a los causasianos. Desafortunadamente, el efecto es predecible: hemos explicado en el pasado que los sistemas de reconocimiento facial son inherentemente sesgados porque son entrenados con conjuntos de datos que infrarrepresentan algunas demográficas.

Pero ese problema puede tener consecuencias inquietantes. Como señala el Guardian, los afroamericanos tienen más probabilidades de que sean empleados sistemas de reconocimiento facial  para identificarlos, por lo que parece extraño - incluso injusto - utilizar herramientas que están claramente mal equipadas para discernir sus semejanzas.

Estas perlitas se suman a las preocupaciones de privacidad que ya han plagado la iniciativa del FBI de desarrollar un sistema capaz de identificar criminales con precisión. Los problemas, al menos, han sido desvelados - ahora sólo han de ser solucionados.

(Para saber más: The Guardian, El FBI investiga y busca sospechosos con un sistema que nadie sabe si funciona, TR10: Pagar con la caraLa precisión de los sistemas de reconocimiento facial de la policía depende de la raza)

Computación

Las máquinas cada vez más potentes están acelerando los avances científicos, los negocios y la vida.

  1. Ciberescándalo: Google para un hackeo antiterrorista de un país aliado

    La empresa detectó que un grupo "experto" de hackers usaba 11 poderosas vulnerabilidades para comprometer dispositivos iOS, Android y Windows, y corrigió los fallos. Los atacantes resultaron ser agentes de inteligencia occidentales cuya misión quedó paralizada, lo que podría ponerles en peligro

  2. El dilema de seguridad de Apple: el sistema protege a los hackers que logran entrar

    El diseño ultrabloqueado del iPhone evita la mayor parte de los ataques, pero los más sofisticados siempre encuentran una entrada. Una vez dentro, las propias defensas del sistema los esconden. A pesar de ello, parece el mejor enfoque y el resto del sector empieza a moverse en la misma dirección

  3. Microsoft alerta de que el ciberataque a Exchange es cada vez mayor

    Cuatro grupos de hackers carroñeros se han unido a la sofisticada campaña de ataque de Hafnium, lo que podría aumentar el número de víctimas a cientos de miles