.

RYAN YOUNG

Inteligencia Artificial

Comunitaria e igualitaria: la IA ética que impulsa la científica que dejó Google

1

Después de salir de la empresa, se unió al Instituto de Investigación de IA Distribuida de la científica Timnit Gebru (también ex Google) y su trabajo ya va avanzando

  • por Anmol Irfan | traducido por Ana Milutinovic
  • 02 Noviembre, 2022

"Renuncio porque estoy cansada". Eso escribió Alex Hanna el 2 de febrero, su último día en el equipo de IA ética de Google. Pensaba que su empresa -y la industria tecnológica en su conjunto-, estaba haciendo poco para promover la diversidad y mitigar los daños que sus productos habían provocado a las personas marginadas. "En una palabra: la tecnología tiene el problema de ser de blancos. Google no es solo una organización tecnológica. Google es una organización de tecnología blanca", escribió en una publicación en Medium.

Hanna no se tomó mucho descanso: el 3 de febrero ya se había unido al Instituto de Investigación de IA Distribuida (DAIR por Distributed AI Research Institute) como la segunda empleada del grupo.

Esta decisión coronó un período agitado en la vida profesional de Hanna. A finales de 2020, su jefa, Timnit Gebru, fue despedida de su puesto como codirectora del equipo de ética en la IA, después de cuestionar en un artículo la ética de los grandes modelos de lenguaje (incluido el de Google). Unos meses más tarde, también le mostraron la puerta de salida a la siguiente jefa de Hanna, Meg Mitchell.

DAIR, fundado por Gebru a finales de 2021 y financiado por varias organizaciones filantrópicas, tiene como objetivo desafiar la comprensión existente de la inteligencia artificial (IA) a través de un enfoque de investigación centrado en la comunidad y que va desde abajo hacia arriba. El grupo trabaja de forma remota e incluye equipos en Berlín (Alemania) y Sudáfrica.

"Queríamos encontrar una forma diferente de IA, que no tuviera las mismas limitaciones institucionales que las empresas y gran parte de la investigación académica", explica Hanna, actual directora de investigación del grupo. Aunque este tipo de investigaciones son más lentas, "permiten el estudio para los miembros de la comunidad: diferentes tipos de conocimiento que se respetan y compensan y que se utilizan para el trabajo comunitario".

Menos de un año después, DAIR todavía está definiendo su modelo, según Hanna. Pero la investigación va avanzando. El instituto tiene tres empleados a tiempo completo y cinco colaboradores: una combinación de investigadores académicos, activistas y profesionales con sus propios planes de investigación pero que también ayudan a desarrollar los programas del instituto. Raesetje Sefala, colaboradora de DAIR, utiliza imágenes satelitales y tecnología de visión artificial para centrarse en el cambio de los barrios en la Sudáfrica post-apartheid, por ejemplo. Su proyecto analiza el impacto de la desegregación y mapea las áreas de bajos ingresos. Otra colaboradora de DAIR, Milagros Miceli, realiza un proyecto sobre las asimetrías de poder en el trabajo subcontratado de datos. Muchos trabajadores de datos que entran en las empresas de tecnología para analizar y gestionar grandes cantidades de información residen en el Sur Global y, por lo general, reciben una miseria.

A Hanna, DAIR le parece algo muy natural. Su autodenominado "camino no tradicional hacia la tecnología" comenzó con un doctorado en Sociología y trabajo sobre la justicia laboral. En los estudios de posgrado, utilizó herramientas de aprendizaje automático para analizar cómo los activistas se conectaban entre sí durante la revolución de 2008 en Egipto, de donde es su familia. "La gente decía que [la revolución] ocurría en Facebook y Twitter, pero no se puede crear un movimiento de la nada", opina Hanna. "Comencé a entrevistar a los activistas y a entender lo que hacían sobre el terreno además de su actividad online".

DAIR apunta a un gran cambio estructural usando la investigación con IA para arrojar luz sobre temas que de otro modo no se explorarían y para difundir conocimientos que de otra manera no se valorarían. "En mi carta de renuncia dirigida a Google, señalé cómo las organizaciones tecnológicas encarnan muchos valores y prácticas de la supremacía blanca", indica Hanna. "Modificar eso significa buscar cuáles son esos puntos de vista y cómo deshacer esas prácticas organizacionales". Esos son los valores que defiende DAIR, concluye Hanna.

Inteligencia Artificial

 

La inteligencia artificial y los robots están transformando nuestra forma de trabajar y nuestro estilo de vida.

  1. La IA generativa puede convertir tus recuerdos en fotos que nunca existieron

    El proyecto Synthetic Memories ayuda a familias de todo el mundo a recuperar un pasado que nunca se fotografió

    Una imagen en blanco y negro generada por ai de una mujer y un niño mirando por una ventana
  2. "La pregunta es cuánta participación humana se necesita para que algo sea arte"

    Alex Reben hace arte con (y sobre) IA. Hablé con él sobre lo que la nueva ola de modelos generativos significa para el futuro de la creatividad humana

    Detalle de un cuadro de una cabeza deformada en la que unas enormes orejas en la parte frontal de la cara tapan los ojos y una lengua brillante con textura de fresa sobresale de la boca abierta.
  3. Compensación y atribución para los creadores, la apuesta de Adobe por una IA generativa diferente

    La empresa afirma que es la prueba de que los modelos de IA de calidad no tienen por qué incluir polémicos contenidos protegidos por derechos de autor

    Imagen generada mediante IA de una mano que utiliza una cuchilla de precisión para cortar un dibujo de la realidad