Así lo afirma la investigadora de ciencias de la computación de la Universidad de Co ell (EE.UU.) Rediet Abebe, especializada en algoritmos, inteligencia artificial y su aplicación para el bien social .
nDurante su ponencia en la reciente conferencia en EmTech Digital de MIT Technology Review, la experta alertó de que ha descubierto una sorprendente falta de colaboración en ciertas áreas de la investigación de la IA. Según sus palabras, "las soluciones basadas en algoritmos y en inteligencia ya están integradas en cada aspecto de nuestras vidas: en las decisiones sobre préstamos, vivienda, en las interacciones con el sistema de justicia penal. Pero no hay conexión entre los investigadores y los profesionales que las usan y las comunidades afectadas".
nLas consecuencias involuntarias de los modelos algorítmicos generan cada vez más controversia. Ya sabemos, por ejemplo, que las herramientas de evaluación de riesgo que funcionan con IA están entrenadas con datos históricos sesgados. Además, los sistemas de reconocimiento facial entrenados con conjuntos de datos sesgados son mucho más propensos a identificar erróneamente a las mujeres negras que a las de piel clara. Los intentos de solucionar un problema a menudo perpetúan otros problemas sistémicos.
nLa investigadora afirmó: "Hace falta una representación adecuada de las comunidades afectadas. Deben estar presentes y conta os los problemas a los que se enfrentan. También nos hace falta información de los expertos en ciertas áreas como las ciencias sociales y las humanidades... Ellos llevan trabajando y pensando en esto desde antes de que yo naciera. Estas oportunidades perdidas de usar la IA para el bien social, suceden cuando nos falta una o más de estas perspectivas".
nAbebe explicó que intenta abordar este problema desde el Diseño de Mecanismos para el Bien Social, un gran grupo de investigación interdisciplinario del que es cofundadora y que cree que podría servir de modelo para aumentar la colaboración y participación.
nLa organización ha centrado sus esfuerzos en algunas áreas como la desigualdad global, la aplicación de la IA en los países en desarrollo, el sesgo algorítmico y la discriminación, y el impacto de la toma de decisiones algorítmicas en áreas políticas específicas, como los mercados laborales online, la asistencia médica y la vivienda.
nComo ejemplo de su trabajo, Abebe destacó un proyecto para usar la IA para investigar qué familias deberían recibir ayuda económica del Gobie o cuando se ven afectadas por un "shock de ingresos", por ejemplo, cuando no cobran su sueldo mensual o reciben una factura inesperada.
nEn vez de utilizar modelos tradicionales, su equipo de Co ell y Princeton probó un método interdisciplinario que aportó datos y experiencia de las comunidades afectadas. La responsable detalló: "Pudimos identificar a familias con dificultades económicas que normalmente no encontraríamos. Existen muchas familias que aparentan estar bien [cuando son analizadas por los modelos típicos de IA]... pero son más susceptibles a un shock económico".
nTambién señaló el trabajo realizado por el economista ganador del Premio Nobel Alvin Roth en la Universidad de Stanford (EE.UU.). El experto ha utilizado la investigación interdisciplinaria para desarrollar modelos que combinen mejor a los donantes de riñón con los pacientes. Además, mencionó un proyecto de la investigadora de la Universidad de Michigan (EE.UU.) Tawanna Dillahunt que ha diseñado una herramienta para demandantes de empleo de bajos recursos. Y advirtió que los investigadores deberían seguir su ejemplo y tratar de estar mejor informados antes de introducir sus tecnologías en el mundo.
nLa experta concluyó: "Simplemente les recomiendo que salgan de su zona de confort. Que vayan a una charla a la que normalmente no asistirían, por ejemplo, sobre desigualdad. Si encuentran algo interesante, pueden aprender los puntos de vista de otras comunidades".
n