La situación se vuelve aún más preocupante cuando se tiene en cuenta que la influencia de esta industria ha crecido drásticamente, y ya tiene impacto en las contrataciones, el acceso a la vivienda, la justicia penal y el ejército. El problema es que esta tecnología ha automatizado los prejuicios de sus creadores, y esto está teniendo efectos alarmantes: devalúa el currículum vitae de las mujeres, perpetúa la discriminación en el empleo y la vivienda, y consagra prácticas policiales racistas y condenas penitenciarias.
nEstas consecuencias no harán más que ir a peor si no encontramos un enfoque diferente para solucionar este problema. Así lo afirma un nuevo informe publicado la semana para por el instituto de investigación AI Now.
n"El problema de la falta de diversidad en la tecnología [...] ha llegado a un nuevo punto de inflexión urgente. Millones de personas están sujetas a los efectos de estas herramientas y se ven afectadas por cualquier sesgo de IA que se cueza", afirmó la cofundadora del instituto, Meredith Whittaker, en la rueda de prensa de presentación del informe.
nEl equipo de AI Now ha identificado dos de las razones por las que los esfuerzos para abordar la falta de diversidad de la inteligencia artificial han fracasado. Primero, aunque se está priorizando el aumento de "mujeres en tecnología", no sucede lo mismo con la raza, el género y otras cualidades. En segundo lugar, existe un interés desproporcionado en "arreglar la tubería": una estrategia que se limita a aumentar el número de candidatos de grupos infrarrepresentados que pasan de la escuela a la industria. Pero este proceso pasa por alto otros perjuicios sistémicos que lastran la permanencia en el campo de las mujeres y las minorías. Entre estos perjuicios destacan el acoso, la brecha salarial y los desequilibrios de poder.
nPara mejorar la diversidad del lugar de trabajo de una manera más integral, los investigadores ofrecen varias recomendaciones. Incluyen medidas para cerrar la brecha salarial e igualar las oportunidades, aumentar la diversidad en los puestos de liderazgo en todos los departamentos y cambiar las estructuras de incentivos para que las empresas contraten y retengan a trabajadores de grupos menos representados.
nPero el problema también va más allá de las prácticas de contratación y compensación, afirma la investigadora de Data & Society Jessie Daniels, que estudia la intersección entre el racismo y la tecnología, y que no participó en el informe. La industria de la tecnología se ha basado fundamentalmente en la idea de que la tecnología existe independientemente de la sociedad. La experta detalla: "A principios de la década de 1990, existía la idea de que inte et nos liberaría de cosas como la raza, el género y la enfermedad. Creíamos que iríamos a este lugar llamado 'ciberespacio' donde ya no tendríamos que pensar en el cuerpo físico o la identidad".
nEsta forma de pensar ha permanecido en la industria hasta el día de hoy y es responsable de los repetidos fracasos para aumentar la diversidad de los empleados y de los repetidos escándalos en to o al sesgo de la IA. Las empresas tecnológicas se crearon, y los productos tecnológicos se diseñaron "creyendo en la fantasía" de que existirían independientemente del sexismo, del racismo y del contexto social que los rodearía. "Eso no es un error, es uno de sus rasgos distintivos", concluye Daniels.
n