Las grandes empresas de tecnología están librando una carrera para vender algoritmos básicos de aprendizaje automático a los que sus clientes pueden acceder a través de la nube (de hecho, la inteligencia artificial en la nube ha sido seleccionada entre nuestras 10 Tecnologías Emergentes de 2018). A medida que más clientes utilicen estos algoritmos para automatizar decisiones importantes, el problema del sesgo será cada vez más peligroso (ver Los algoritmos sesgados están por todas partes, y parece que a nadie le importa). Y dado que no es difícil introducir prejuicios en los modelos de aprendizaje automático, las técnicas capaces de automatizar la detección de estos sesgos podrían convertirse en una parte muy valiosa de la IA.
nEl investigador sénior de Microsoft Rich Caruna, que está trabajando en el cuadro de mandos de detección de sesgos, opina: "Cosas como la transparencia, la inteligibilidad y la explicación son tan novedosas en el sector que muy pocos tenemos experiencia suficiente para dominar todo lo que debemos buscar y todas las formas en las que ese sesgo puede acechar a nuestros modelos".
nLos algoritmos sesgados preocupan a cada vez más investigadores y expertos en tecnología (ver Unámonos para evitar la discriminación de los algoritmos que nos gobie an). A medida que los algoritmos se usan cada vez más para automatizar decisiones importantes, existe el riesgo de que el sesgo se automatice, se despliegue a escala y sea más difícil de detectar para las víctimas.
nCaruna dice que el producto de detección de sesgos de Microsoft ayudará a los investigadores de IA a detectar más casos de injusticia, pero no todos. Y explica: "Está claro que no podemos alcanzar la perfección, siempre habrá algún sesgo que no se detecte o que no se pueda eliminar, pero el objetivo es hacer todo lo que podamos".
n"Lo más importante que las compañías pueden hacer ahora es educar a sus trabajadores para que conozcan la gran cantidad de vías con las que los sesgos pueden surgir y manifestarse, y para que creen herramientas para que los modelos sean más fáciles de entender y que el sesgo sea más fácil de detectar", agrega Caruna.
nFacebook anunció su propia herramienta para detectar sesgos en su conferencia anual para desarrolladores celebrada el pasado 2 de mayo. Su herramienta, Fai ess Flow, detecta automáticamente si un algoritmo está haciendo un juicio injusto sobre alguien en función de su raza, sexo o edad. Facebook explicó que necesitaba un flujo de equidad porque cada vez más personas en la compañía usan IA para tomar decisiones importantes.
nLa profesora de la Universidad de Califo ia en Berkeley (EE. UU.) Bin Yu, considera que las herramientas de Facebook y Microsoft parecen dar un paso en la dirección correcta, pero que podrían resultar suficientes. Sugiere que las grandes empresas deberían tener expertos exte os que auditen sus algoritmos para demostrar que no son parciales. "Alguien más tiene que investigar los algoritmos de Facebook, no pueden ser un secreto para todos", concluye Yu.
nn