.

Computación

El reconocimiento facial del FBI es intrusivo, injusto y poco preciso

1

La mitad de la población adulta de EEUU forma parte, sin saberlo, de su base de datos. Pero el sistema falla el 15% de las veces y la cifra aumenta cuando se trata de ciudadanos afroamericanos

  • por Jamie Condliffe | traducido por Teresa Woods
  • 06 Abril, 2017

Crédito: Kidmograph.

Sonría: tal vez esté siendo mal identificado.

El año pasado, conocimos la increíble escala de la tecnología de reconocimiento facial del FBI, con su acceso a casi 412 millones de fotos - muchas de las cuales provienen de fuentes que no están relacionadas con la criminalidad, como los documentos de identificación. La agencia de inteligencia ha estado intentando dearrollar un sistema capaz de identificar criminales con precisión dentro de, digamos, imágenes de videovigilancia de circuito cerrado, aunque no se sabía entonces cuán bien funcionaba el software de la agencia, ni si realmente mejoraba las investigaciones.

Ahora tenemos al menos algunos conocimientos más sobre el programa. El Guardian informa de que una audiencia del comité de supervisión de la Cámara de Representantes de Estados Unidos reveló algunos interesantes detalles nuevos acerca de la proliferación y las capacidades de los sistemas de reconocimiento facial del FBI.

En primer lugar, hay muy buenas probabilidades de que cualquier estadounidense esté representado dentro de la base de datos. Entre esos millones de fotos, resulta que se cuentan las semejanzas de alrededor de la mitad de la población adulta del país. Esto ha sido posible gracias a que las imágenes derivadas de fuentes que no guardan relación con la criminalidad representan el 80% de la base de datos. Así que cuando alguien envía formularios y fotos para obtener un pasaporte, carné de conducir o algún otro tipo de identificación oficial, está ayudando a engordar el conjunto de datos.

Tal vez resulte más preocupante la calidad del reconocimiento facial del FBI. La audiencia reveló que su software actualmente identifica erróneamente a los individuos casi un 15% de las veces. En contraste, la tecnología de reconocimiento facial líder del mercado ahora es tan precisa que está siendo utilizada para autorizar pagos en China, y Baidu afirma que puede confirmar correctamente la identidad de alguien con un 99,77% de precisión.

En defensa del FBI, probablemente esté trabajando con imágenes de una calidad muy inferior, tanto en su base de datos como en las imágenes dentro de las cuales intenta ejeuctar el reconocimiento facial, que las que están disponibles para empresas como Baidu. Pero una tasa de error del 15% aún es alta, y podría dar paso a pistas falsas o intrusiones no justificadas a la privacidad.

Crédito: Ian Waldie (Getty Images).

El software también parece identificar incorrectamente con mayor frecuencia a los afroamericanos que a los causasianos. Desafortunadamente, el efecto es predecible: hemos explicado en el pasado que los sistemas de reconocimiento facial son inherentemente sesgados porque son entrenados con conjuntos de datos que infrarrepresentan algunas demográficas.

Pero ese problema puede tener consecuencias inquietantes. Como señala el Guardian, los afroamericanos tienen más probabilidades de que sean empleados sistemas de reconocimiento facial  para identificarlos, por lo que parece extraño - incluso injusto - utilizar herramientas que están claramente mal equipadas para discernir sus semejanzas.

Estas perlitas se suman a las preocupaciones de privacidad que ya han plagado la iniciativa del FBI de desarrollar un sistema capaz de identificar criminales con precisión. Los problemas, al menos, han sido desvelados - ahora sólo han de ser solucionados.

(Para saber más: The Guardian, El FBI investiga y busca sospechosos con un sistema que nadie sabe si funciona, TR10: Pagar con la caraLa precisión de los sistemas de reconocimiento facial de la policía depende de la raza)

Computación

Las máquinas cada vez más potentes están acelerando los avances científicos, los negocios y la vida.

  1. ‘Chiplets’: el arma de China en su batalla tecnológica contra EE UU

    Al conectar varios chips menos avanzados en uno, las empresas chinas podrían eludir las sanciones impuestas por el gobierno estadounidense.

  2. Esta ciudad china quiere ser el Silicon Valley de los ‘chiplets’

    Wuxi, el centro chino del envasado de chips, está invirtiendo en la investigación de ‘chiplets’ para potenciar su papel en la industria de semiconductores

  3. La computación cuántica se abre camino a través del ruido

    Durante un tiempo, los investigadores pensaron que tendrían que conformarse con sistemas ruidosos y propensos a errores, al menos a corto plazo. Esto está empezando a cambiar.

    Jay Gambetta dirige el desarrollo de los ordenadores cuánticos de IBM y lideró la iniciativa de llevar estos sistemas a la nube.