Pero estos sesgos no aparecen por sí solos, ya que la IA no nace con prejuicios, sino que son los sesgos de sus propios desarrolladores o los de los datos de entrenamiento los que generan algoritmos discriminatorios. Al final, son los humanos los que generamos y transmitimos los sesgos.
En medio de una sociedad sesgada, Paola Villarreal se apoyó en la ciencia de datos y la tecnología para ayudar a las organizaciones sociales que intentan luchar contra la discriminación. Ambas herramientas permiten, por ejemplo, resaltar un sesgo racial en las actuaciones policiales. Gracias a este enfoque, Villarreal ha sido elegida entre los ganadores de Innovadores menores de 35 Latinoamérica 2018 de MIT Technology Review en español.
La joven mexicana empezó a programar de forma autodidacta a los 12 años y a los 15 ya se dedicaba profesionalmente al diseño de páginas web. En 2013 y 2014 fue directora de Innovación Tecnológica en el Laboratorio de Innovación de la Ciudad de México, donde diseñó e implementó el Data Lab, un portal de datos abiertos (open data) accesible a través de una API. En 2015 se mudó a EE. UU. gracias a una beca de las fundaciones de Ford y Mozilla y entró a formar parte de la American Civil Liberties Union de Massachusetts, una organización dedicada a la protección de los derechos civiles.
Es para esta organización que Villarreal desarrolló el proyecto Data for Justice. En él, la joven mexicana combina el análisis de datos del censo con datos de las actividades realizadas por la policía. Para realizar este proyecto, Villarreal desarrolló una herramienta que permite a cualquiera sin avanzados conocimientos de programación realizar un análisis narrativo y visual de un conjunto de datos, llamada ANT (Augmented Narrative Toolkit).
Así, mediante un poderoso análisis visual sobre el mapa de la ciudad de Boston (EE. UU.), la innovadora pudo demostrar la existencia de una fuerte correlación entre los lugares donde la policía realizaba arrestos por posesión o venta de marihuana y los barrios con mayor proporción de personas afroamericanas, latinas, y en general no caucásicas entre sus residentes, lo que alerta del posible sesgo racial sistemático en la acción de la policía.
Otra aplicación de sus análisis de datos fue la identificación de similares sesgos entre las acusaciones fraudulentas de posesión de narcóticos. Annie Dookhan, una técnica del laboratorio encargado de confirmar la naturaleza de las sustancias incautadas por la policía, fue encontrada culpable de negligencia en su manejo de las muestras remitidas. El análisis de los datos permitió determinar quiénes habían sido afectados y fue utilizado como prueba en el juicio que culminó en la reversión de más de 20.000 condenas.
El gerente para Venezuela de Wayra, Gustavo Reyes, miembro del jurado de Innovadores menores de 35 Latinoamérica 2018, valora especialmente que Villarreal "aúna en una misma perspectiva el uso de la tecnología para resolver los problemas sociales".