Crédito: Kidmograph.
Sonría: tal vez esté siendo mal identificado.
El año pasado, conocimos la increíble escala de la tecnología de reconocimiento facial del FBI, con su acceso a casi 412 millones de fotos - muchas de las cuales provienen de fuentes que no están relacionadas con la criminalidad, como los documentos de identificación. La agencia de inteligencia ha estado intentando dearrollar un sistema capaz de identificar criminales con precisión dentro de, digamos, imágenes de videovigilancia de circuito cerrado, aunque no se sabía entonces cuán bien funcionaba el software de la agencia, ni si realmente mejoraba las investigaciones.
Ahora tenemos al menos algunos conocimientos más sobre el programa. El Guardian informa de que una audiencia del comité de supervisión de la Cámara de Representantes de Estados Unidos reveló algunos interesantes detalles nuevos acerca de la proliferación y las capacidades de los sistemas de reconocimiento facial del FBI.
En primer lugar, hay muy buenas probabilidades de que cualquier estadounidense esté representado dentro de la base de datos. Entre esos millones de fotos, resulta que se cuentan las semejanzas de alrededor de la mitad de la población adulta del país. Esto ha sido posible gracias a que las imágenes derivadas de fuentes que no guardan relación con la criminalidad representan el 80% de la base de datos. Así que cuando alguien envía formularios y fotos para obtener un pasaporte, ca é de conducir o algún otro tipo de identificación oficial, está ayudando a engordar el conjunto de datos.
Tal vez resulte más preocupante la calidad del reconocimiento facial del FBI. La audiencia reveló que su software actualmente identifica erróneamente a los individuos casi un 15% de las veces. En contraste, la tecnología de reconocimiento facial líder del mercado ahora es tan precisa que está siendo utilizada para autorizar pagos en China, y Baidu afirma que puede confirmar correctamente la identidad de alguien con un 99,77% de precisión.
En defensa del FBI, probablemente esté trabajando con imágenes de una calidad muy inferior, tanto en su base de datos como en las imágenes dentro de las cuales intenta ejeuctar el reconocimiento facial, que las que están disponibles para empresas como Baidu. Pero una tasa de error del 15% aún es alta, y podría dar paso a pistas falsas o intrusiones no justificadas a la privacidad.
Crédito: Ian Waldie (Getty Images).
El software también parece identificar incorrectamente con mayor frecuencia a los afroamericanos que a los causasianos. Desafortunadamente, el efecto es predecible: hemos explicado en el pasado que los sistemas de reconocimiento facial son inherentemente sesgados porque son entrenados con conjuntos de datos que infrarrepresentan algunas demográficas.
Pero ese problema puede tener consecuencias inquietantes. Como señala el Guardian, los afroamericanos tienen más probabilidades de que sean empleados sistemas de reconocimiento facial para identificarlos, por lo que parece extraño - incluso injusto - utilizar herramientas que están claramente mal equipadas para disce ir sus semejanzas.
Estas perlitas se suman a las preocupaciones de privacidad que ya han plagado la iniciativa del FBI de desarrollar un sistema capaz de identificar criminales con precisión. Los problemas, al menos, han sido desvelados - ahora sólo han de ser solucionados.
(Para saber más: The Guardian, El FBI investiga y busca sospechosos con un sistema que nadie sabe si funciona, TR10: Pagar con la cara, La precisión de los sistemas de reconocimiento facial de la policía depende de la raza)