.

Noun Project | Andrejs Kirma | Ms. Tech

Negocios

La IA necesita apoyo humano para acabar con los algoritmos sesgados

1

Microsoft y Facebook están creando herramientas para detectar automáticamente los sesgos algorítmicos. Pero varios expertos critican que no será suficiente, y piden auditores externos y una mayor concienciación de los desarrolladores para minimizar las injusticias de la inteligencia artificial

  • por Will Knight | traducido por Mariana Díaz
  • 31 Mayo, 2018

Microsoft está construyendo una herramienta para identificar automáticamente los sesgos en una gama de diferentes algoritmos de inteligencia artificial (IA). Hasta la fecha, se trata del esfuerzo más valiente para automatizar la detección de injusticias que pueden introducirse en el aprendizaje automático, y podría ayudar a que las empresas empleen la IA sin que discrimine a ciertas personas (ver Google advierte: el verdadero peligro de la IA no son los robots asesinos sino los algoritmos sesgados).

Las grandes empresas de tecnología están librando una carrera para vender algoritmos básicos de aprendizaje automático a los que sus clientes pueden acceder a través de la nube (de hecho, la inteligencia artificial en la nube ha sido seleccionada entre nuestras 10 Tecnologías Emergentes de 2018). A medida que más clientes utilicen estos algoritmos para automatizar decisiones importantes, el problema del sesgo será cada vez más peligroso (ver Los algoritmos sesgados están por todas partes, y parece que a nadie le importa). Y dado que no es difícil introducir prejuicios en los modelos de aprendizaje automático, las técnicas capaces de automatizar la detección de estos sesgos podrían convertirse en una parte muy valiosa de la IA.

El investigador sénior de Microsoft Rich Caruna, que está trabajando en el cuadro de mandos de detección de sesgos, opina: "Cosas como la transparencia, la inteligibilidad y la explicación son tan novedosas en el sector que muy pocos tenemos experiencia suficiente para dominar todo lo que debemos buscar y todas las formas en las que ese sesgo puede acechar a nuestros modelos".

Los algoritmos sesgados preocupan a cada vez más investigadores y expertos en tecnología (ver Unámonos para evitar la discriminación de los algoritmos que nos gobiernan). A medida que los algoritmos se usan cada vez más para automatizar decisiones importantes, existe el riesgo de que el sesgo se automatice, se despliegue a escala y sea más difícil de detectar para las víctimas.

Caruna dice que el producto de detección de sesgos de Microsoft ayudará a los investigadores de IA a detectar más casos de injusticia, pero no todos. Y explica: "Está claro que no podemos alcanzar la perfección, siempre habrá algún sesgo que no se detecte o que no se pueda eliminar, pero el objetivo es hacer todo lo que podamos".

"Lo más importante que las compañías pueden hacer ahora es educar a sus trabajadores para que conozcan la gran cantidad de vías con las que los sesgos pueden surgir y manifestarse, y para que creen herramientas para que los modelos sean más fáciles de entender y que el sesgo sea más fácil de detectar", agrega Caruna.

Facebook anunció su propia herramienta para detectar sesgos en su conferencia anual para desarrolladores celebrada el pasado 2 de mayo. Su herramienta, Fairness Flow, detecta automáticamente si un algoritmo está haciendo un juicio injusto sobre alguien en función de su raza, sexo o edad. Facebook explicó que necesitaba un flujo de equidad porque cada vez más personas en la compañía usan IA para tomar decisiones importantes.

La profesora de la Universidad de California en Berkeley (EE. UU.) Bin Yu, considera que las herramientas de Facebook y Microsoft parecen dar un paso en la dirección correcta, pero que podrían resultar suficientes. Sugiere que las grandes empresas deberían tener expertos externos que auditen sus algoritmos para demostrar que no son parciales. "Alguien más tiene que investigar los algoritmos de Facebook, no pueden ser un secreto para todos", concluye Yu.

 

Negocios

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. La apuesta de sustituir el efectivo por 'blockchain' se decide en Japón

    El país depende enormemente del dinero físico, y casi no practica los pagos electrónicos. Este podría ser el escenario perfecto para hacer el salto definitivo a las criptomonedas basadas en cadenas de bloques y el Gobierno ha decidido apoyar la idea

  2. 'Smart cities', la nueva pesadilla de las personas discapacitadas

    En muchas ocasiones, las innovaciones tecnológicas que incorporan las ciudades inteligentes no han sido pensadas para una parte importante de su ciudadanía: los discapacitados. Pero una nueva ola de activistas y empresas está lanzando alternativas capaces de arreglar el problema

  3. Decir que EE. UU. y China libran una guerra fría ni es cierto ni ayuda a nadie

    Es cierto que hay tensiones y competencia entre ambos países, pero en nuestra economía globalizada, también hay una enorme interdependencia entre ellos. Así que el término solo sirve para que las personas de un lado sean más hostiles hacia las del otro