.

James Cridland / Flickr

Inteligencia Artificial

Reino Unido retira un algoritmo migratorio acusado de racista

1

El sistema para procesar las solicitudes de visado utiliza la nacionalidad entre las variables para priorizar las peticiones, lo que, según sus críticos, ha dado lugar a que las "personas de países blancos y ricos obtengan una 'respuesta rápida', mientras que las personas de color acaban al final de la fila"

  • por Will Douglas Heaven | traducido por Ana Milutinovic
  • 10 Agosto, 2020

La noticia: el Ministerio del Interior de Reino Unido ha afirmado que dejará de usar un algoritmo para procesar las solicitudes de visado que, según sus críticos, tiene un sesgo racial. Argumentan que el hecho de que el algoritmo utilice la nacionalidad para decidir qué solicitudes se procesan más rápido ha dado lugar a un sistema en el que las "personas de países blancos y ricos obtienen una 'respuesta rápida', mientras que las personas de color más pobres acaban al final de la fila".

Hace falta un rediseño: el Ministerio del Interior niega que su sistema tenga sesgo racial y el juicio todavía sigue en curso. Aun así, el organismo acordó dejar de usar el algoritmo y planea lanzar una versión rediseñada a finales de este año, después de llevar a cabo una revisión completa que buscará sesgos involuntarios. Mientras tanto, Reino Unido adoptará un sistema temporal que no utiliza la nacionalidad para clasificar las solicitudes. 

Sistema de semáforo: Reino Unido lleva desde 2015 filtrando las solicitudes de visado mediante un sistema de semáforo que asigna a cada solicitante un nivel de riesgo rojo, ámbar o verde. Las personas a las que se asignaba un nivel de riesgo rojo tenían más probabilidades de ser rechazadas.

Tendencia más amplia: se sabe que los algoritmos consolidan los sesgos institucionales, especialmente los racistas. A pesar de ello, cada vez se utilizan más para ayudar a tomar decisiones importantes, desde verificaciones de crédito hasta solicitudes de visado, audiencias previas y vigilancia policial. Los críticos advierten de que el sistema de inmigración de Estados Unidos también tiene sesgos raciales. Pero en la mayoría de los casos, resulta difícil analizar exactamente cómo funcionan estos algoritmos y exponer evidencias que demuestren sus sesgos porque muchos son propiedad privada y su uso no está abierto a supervisión pública. 

Pero las críticas van en aumento. En Estados Unidos, algunos departamentos de policía están eliminando sus controvertidos algoritmos predictivos y las empresas tecnológicas han dejado de suministrar la tecnología de reconocimiento facial sesgada. En febrero, un tribunal holandés dictaminó que era ilegal un sistema que predecía la probabilidad de que una persona cometiera fraude fiscal o de seguridad social porque se centraba injustamente en las minorías. La decisión del Ministerio del Interior de Reino Unido de revisar su sistema sin esperar una resolución judicial podría ser un hito.

Inteligencia Artificial

 

La inteligencia artificial y los robots están transofrmando nuestra forma de trabajar y nuestro estilo de vida.

  1. El mundo empieza a sentir la urgencia de proteger a los niños de la IA

    Los más pequeños son los más vulnerables a las amenazas de los algoritmos, por eso, Unicef y la Academia de Inteligencia Artificial de Pekín (China) han publicado sendas recomendaciones y van a lanzar proyectos piloto para que empresas y gobiernos empiecen a crear protecciones especiales para ellos

  2. Facebook crea un espacio virtual para robots que parece y suena real

    Su plataforma Habitat ahora permite incorporar sonidos realistas para que los modelos de IA aprendan cosas como abrir la puerta cuando alguien está llamando. El objetivo es mejorar la capacidad de navegación simulada y trasladar esos conocimientos a robots para que los apliquen en el mundo físico

  3. Estas normas internacionales impedirán que la IA engañe a los médicos

    Hasta ahora, los sistemas de inteligencia artificial utilizados en ensayos clínicos no se sometían a auditorías independientes ni debían rendir cuentas sobre su diseño, lo que permitía exagerar sus capacidades, pero eso está a punto de acabar gracias a estos nuevos estándares