.

Eric Gay/AP

Negocios

Las actuales medidas contra la falta de diversidad en IA no sirven

1

La proporción de mujeres y miembros de minorías entre el profesorado, los conferenciantes y los investigadores de inteligencia artificial es irrisoria. Un nuevo informe denuncia que limitarse a aumentar su presencia no funciona porque la estrategia no aborda la raíz de estas desigualdades

  • por Karen Hao | traducido por Ana Milutinovic
  • 25 Abril, 2019

Los números demuestran que la falta de diversidad en la industria de inteligencia artificial (IA) es extrema. Las mujeres representan solo el 18 % de los ponentes en las principales conferencias, el 20 % del profesorado y el 15 % y el 10 % del personal de investigación en Facebook y Google, respectivamente. Y cuando se analiza la diversidad racial, los resultados son aún peores: los trabajadores negros representan solo el 2,5 % de toda la fuerza laboral de Google y el 4 % de Facebook y Microsoft. No hay datos disponibles para las personas transexuales ni de otras minorías de género, pero es poco probable que la tendencia esté contrarrestada.

La situación se vuelve aún más preocupante cuando se tiene en cuenta que la influencia de esta industria ha crecido drásticamente, y ya tiene impacto en las contrataciones, el acceso a la vivienda, la justicia penal y el ejército. El problema es que esta tecnología ha automatizado los prejuicios de sus creadores, y esto está teniendo efectos alarmantes: devalúa el currículum vitae de las mujeresperpetúa la discriminación en el empleo y la vivienda, y consagra prácticas policiales racistas y condenas penitenciarias.

Estas consecuencias no harán más que ir a peor si no encontramos un enfoque diferente para solucionar este problema. Así lo afirma un nuevo informe  publicado la semana para por el instituto de investigación AI Now.

"El problema de la falta de diversidad en la tecnología [...] ha llegado a un nuevo punto de inflexión urgente. Millones de personas están sujetas a los efectos de estas herramientas y se ven afectadas por cualquier sesgo de IA que se cueza", afirmó la cofundadora del instituto, Meredith Whittaker, en la rueda de prensa de presentación del informe. 

El equipo de AI Now ha identificado dos de las razones por las que los esfuerzos para abordar la falta de diversidad de la inteligencia artificial han fracasado. Primero, aunque se está priorizando el aumento de "mujeres en tecnología", no sucede lo mismo con la raza, el género y otras cualidades. En segundo lugar, existe un interés desproporcionado en "arreglar la tubería": una estrategia que se limita a aumentar el número de candidatos de grupos infrarrepresentados que pasan de la escuela a la industria. Pero este proceso pasa por alto otros perjuicios sistémicos que lastran la permanencia en el campo de las mujeres y las minorías. Entre estos perjuicios destacan el acoso, la brecha salarial y los desequilibrios de poder.

Para mejorar la diversidad del lugar de trabajo de una manera más integral, los investigadores ofrecen varias recomendaciones. Incluyen medidas para cerrar la brecha salarial e igualar las oportunidades, aumentar la diversidad en los puestos de liderazgo en todos los departamentos y cambiar las estructuras de incentivos para que las empresas contraten y retengan a trabajadores de grupos menos representados.

Pero el problema también va más allá de las prácticas de contratación y compensación, afirma la investigadora de Data & Society Jessie Daniels, que estudia la intersección entre el racismo y la tecnología, y que no participó en el informe. La industria de la tecnología se ha basado fundamentalmente en la idea de que la tecnología existe independientemente de la sociedad. La experta detalla: "A principios de la década de 1990, existía la idea de que internet nos liberaría de cosas como la raza, el género y la enfermedad. Creíamos que iríamos a este lugar llamado 'ciberespacio' donde ya no tendríamos que pensar en el cuerpo físico o la identidad". 

Esta forma de pensar ha permanecido en la industria hasta el día de hoy y es responsable de los repetidos fracasos para aumentar la diversidad de los empleados y de los repetidos escándalos en torno al sesgo de la IA. Las empresas tecnológicas se crearon, y los productos tecnológicos se diseñaron "creyendo en la fantasía" de que existirían independientemente del sexismo, del racismo y del contexto social que los rodearía. "Eso no es un error, es uno de sus rasgos distintivos", concluye Daniels. 

Negocios

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. La importancia de usar la IA en el ejército sin aplicarla a las armas

    Las Fuerzas Armadas de EE. UU. lanzarán junto al MIT una incubadora de inteligencia artificial para desarrollar tecnologías que sirvan al "bien público" y que optimicen el día a día del organismo. Para evitar polémicas, ambas entidades afirman que no trabajarán en aplicaciones armamentísticas

  2. La polémica política, ética y comercial del reconocimiento facial

    El Gobierno de San Francisco tiene prohibido usar esta tecnología, pero la norma no afecta a las compañías privadas, cuyos fines pueden ser igual de discriminatorios que los públicos. El debate, tanto a nivel ciudadano como usuario, está servido

  3. Cinco preguntas para saber si una IA es útil, eficaz y ética

    A medida que la inteligencia artificial penetra en la industria es necesario confirmar que los productos que ofrecen las empresas son válidos y de calidad. Para averiguarlo, le ofrecemos una guía con cinco preguntas