.

Ética

La dudosa ética de las empresas éticas de etiquetado de datos de IA

1

En un sector dominado por empleos precarios, un pequeño grupo de compañías como CloudFactory, iMerit y Samasource promete que sus trabajadores están bien remunerados y atendidos. Pero, a falta de regulación, es imposible saber si realmente lo están haciendo

  • por Kate Kaye | traducido por Ana Milutinovic
  • 14 Agosto, 2019

Era una tarde fría de febrero en Nueva York (EE. UU.), cuando el informático Leon Campbell se sentó en su oficina, preparó un pódcast sobre videojuegos y abrió una plataforma de software en su ordenador portátil. Durante un par de horas, se dedicó a hacer clic en las esquinas de los vehículos que aparecían en imágenes para que el software creara recuadros de texto a su alrededor.

Al identificar imágenes de coches, Campbell y otros como él generan una gran cantidad de datos para entrenar los algoritmos como los de los vehículos autónomos.  Campbell, que tiene 24 años y es autista, lo considera un trabajo bastante monótono. Suele consistir en "dibujar recuadros en sitios similares y reajustarlos para que se mantengan alrededor del objeto cuando salen un poco fuera del marco". Sin embargo, está contento de tener este trabajo. El joven cuenta: "Me ayuda a prepararme para futuros emprendimientos que quiero perseguir", y añade que le gustaría convertirse en programador o diseñador de juegos.

Se necesita mucho personal humano para crear sistemas de inteligencia artificial (IA). Gran parte de su trabajo consiste en seleccionar, hacer categorías y etiquetar los datos antes de que los sistemas de IA los reciban para buscar patrones. El Instituto AI Now, un organismo especializado en la ética de la IA, se refiere a este oficio como el "trabajo oculto" de la tubería de IA, un trabajo que "proporciona la labor humana invisible que suele ser la responsable de crear la 'magia' de la IA cuando estos sistemas se implementan en distintos productos y servicios".

Campbell es un miembro relativamente privilegiado de ese grupo laboral. Trabaja 28 horas a la semana para Daivergent, una plataforma de trabajo online diseñada para ayudar a las personas autistas a obtener una experiencia laboral útil y prepararse para una carrera. Gana entre 10 euros y 18 euros por hora. (Daivergent no quiso revelar su salario exacto, pero dijo que era el "sueldo típico" de la compañía y de acuerdo con el "nivel de mercado" para la ciudad de Nueva York).

A diferencia de él, la mayoría de las personas que etiquetan datos no trabajan en las oficinas de Manhattan, sino desde sus hogares en países como India, Kenia, Malasia y Filipinas. Se conectan a las plataformas online para anotar diferencias entre cebollas verdes y tallos de apio o entre los tipos de gafas de sol (la forma de ojo de gato y de aviador). Tal y como se detalla en el reciente libro Ghost Work de Mary Gray y Siddharth Suri, la mayoría de ellos son trabajadores con salarios bajos, con un empleo inseguro y sin oportunidad de avanzar en su carrera.

Pero un pequeño grupo de empresas de etiquetado de datos quiere cambiar esa situación. No obstante, estas empresas que buscan que a los trabajadores "les vaya bien haciendo el bien" en los servicios de datos para IA se están dando cuenta de que el camino hacia el progresismo empresarial suele ser difícil.

Un juego de números

Generalmente, los trabajadores que etiquetan datos inician sesión en la plataforma de trabajo colaborativo Mechanical Turk de Amazon o Appen. Allí realizan tareas solicitadas por parte de las empresas de inteligencia artificial que pagan a las plataformas un centavo por minuto. En una competencia despiadada, estas plataformas compiten en escala, velocidad y coste.

Appen, por ejemplo, cuenta con un millón de proveedores que realizan tareas como crear categorías de imágenes médicas o traducir texto para los chatbots. Cuando la empresa compró al proveedor de etiquetado de datos Figura Eight por 268 millones de euros en marzo, explicó que la adquisición ayudaría a cumplir con los "requisitos de escala, velocidad y calidad" de los clientes.

"Realmente se trata de una carrera hacia el abismo. Este sector es muy, muy competitivo; todos tratan de encontrar una fuerza laboral un poco más barata en otro lugar del mundo", afirma el director para el Éxito del Cliente en Alegion, Daniel Kaelin, una compañía de servicios de etiquetado de datos de Texas (EE. UU.). 

¿Qué quiere decir "impacto"?

Alegion es una de varias plataformas, incluidas CloudFactory, Digital Divide Data (DDD), iMerit y Samasource, que quieren que el trabajo con los datos de IA sea digno. Se autodenominan compañías de "impacto" y afirman que ofrecen trabajo de datos de forma ética, con mejores condiciones laborales y perspectivas profesionales que las demás empresas de la industria. Es como el comercio justo de los granos de café, pero para enormes conjuntos de datos.

Sin embargo, no hay regulaciones para este planteamiento, solo unos débiles estándares del sector sobre lo que significa la ética de este trabajo. Y las definiciones de las propias compañías varían mucho.

En iMerit, por ejemplo, las personas que llevan varios años trabajado en la compañía han subido un escalón para convertirse en líderes de equipo, responsables de proyectos y formadores de dominio, explica la cofundadora y CEO de la compañía, Radha Basu. La empresa tiene 2.300 empleados a tiempo completo, la mayoría de ellos con sede en India; la mitad son mujeres, que pueden tener hasta seis meses de permiso de maternidad. iMerit se creó en 2012 como una compañía con ánimo de lucro de doble impacto: eso significa que se mide a sí misma en métricas de impacto social, como la inclusión y la diversidad, así como en las medidas económicas tradicionales.

Las personas en Kenia y Uganda que trabajan para el proveedor de servicios de datos Samasource también tienen empleos a tiempo completo con beneficios como el seguro médico, pensión, comidas subvencionadas y 90 días de permiso de maternidad. Por otro lado, DDD contrata a jóvenes con ingresos bajos, a migrantes rurales y "habitantes de barrios marginales urbanos", de los cuales, al menos el 50 % son mujeres, para realizar tareas digitales de seis a ocho horas al día, según el informe de la compañía de 2018. La empresa subvenciona una parte de la formación y ayuda a sus empleados "asociados" a pasar a otros puestos de trabajo.

Alegion y CloudFactory, en cambio, suelen hacer contratos por horas, que es la norma entre las empresas de etiquetado de datos. CloudFactory afirma que el 79 % de sus "trabajadores en la nube" aseguran que esta compañía es su principal fuente de ingresos, frente al 28 % en 2015. Sin embargo, para Alegion, "gran parte de ellos usa este empleo como una fuente de ingresos extra", destaca el CEO de Alegion, Nathaniel Gates. "No es una carrera para ellos", añade.

El director de Impacto Global de Alegion desde 2018, Troy Stringfield, defiende la idea de "impacto", que la compañía (que ya tiene siete años) adoptó en el último año. El responsable afirma que el impacto significa crear trabajos que mejoren la vida de las personas. Y añade: "Nos preguntamos: '¿Cuál es el salario digno? ¿Qué les hace mejores de lo que son?'".

Pero la directora de proyectos de la Global Impact Sourcing Coalition (GISC), Sara Enright, un organismo sectorial financiado por sus miembros, considera cuestionable el hecho de que este trabajo deba medirse en términos de impacto. Enright detalla: "Si es solo un trabajo puntual en el que una persona accede al salario de jornada parcial de una hora al día, de vez en cuando, eso no es un empleo de impacto, porque en realidad no conduce al desarrollo profesional ni, por ende, al alivio de la pobreza".

CloudFactory, DDD, iMerit y Samasource (pero no Alegion) son miembros de la GISC, que ha establecido un "estándar de empleo de impacto". Este estándar define los requisitos mínimos y las mejores prácticas voluntarias para generar empleo que "mejore la vida de las personas que de otro modo tendrían pocas oportunidades para encontrar un trabajo formal". La organización, fundada en 2016, exige que el desempeño de sus miembros se evalúe cada dos años en materia de no discriminación, igualdad salarial y otros criterios.

No obstante, los miembros de GISC no son penalizados ni expulsados ​​si no aprueban esa evaluación. Las compañías también emiten sus informes públicos de forma diferente. Samasource, por ejemplo, publica sus auditorías de impacto que muestran la demografía de la fuerza laboral, el número de personas que "salieron de la pobreza" etcétera. Los informes anuales de DDD incluyen datos sobre los ingresos medios mensuales de los empleados y el aumento estimado de los ingresos de por vida.

Por su parte, CloudFactory publicó un informe de impacto social en 2015, pero no ha vuelto a publicar ningún otro desde entonces. En declaraciones a MIT Technology Review, la compañía explica que informaba anualmente las métricas de impacto a la Fundación Rockefeller, uno de sus inversores. Pero, por otro lado, iMerit explicó que, como empresa con ánimo de lucro, no publica dichos informes, mientras que Alegion destacó que tenía "otros objetivos generales que quería cumplir antes", pero no mostró las métricas específicas.

El problema de expandirse

En su intento por expandirse, las compañías como Alegion e iMerit también tratan de construir un grupo de trabajadores de datos en EE. UU., centrado en las poblaciones desfavorecidas y marginadas de allí. Eso les da un lucrativo acceso hacia clientes gubernamentales, financieros y de atención médica que exigen unas medidas estrictas de seguridad, utilizan datos médicos y financieros regulados, o necesitan que el trabajo se realice en EE. UU. por otras razones legales.

Para reclutar a esos trabajadores estadounidenses, las empresas de impacto pueden recurrir a compañías como Daivergent, que hacen de intermediarias con otras organizaciones como Autism Society y Autism Speaks. (Ahí es donde trabaja Campbell). Alegion también realizó una prueba con trabajadores procedentes de IAM23, un grupo de apoyo para los veteranos militares.

Pero el intento de implementar el modelo basado en la subcontratación externa resulta problemático en Estados Unidos. "Todavía hace falta mano de obra barata", subraya Stringfield de Alegion.

iMerit también ha tenido problemas para crear su fuerza laboral en Estados Unidos. Cuando la compañía se instaló en Nueva Orleans (EE. UU.) el año pasado, prometiendo 100 nuevos empleos, el alcalde, Mitch Landrieu, le felicitó públicamente. Pero tras más de un año, la compañía tiene solo 30 empleados a tiempo completo en esta ciudad. Para llegar a 100 necesita más contratos, explica el director de Marketing de la compañía, Jai Natarajan.

Parte del argumento de la compañía es que no solo se trata de ofrecer un trabajo económico de productos básicos, sino algo bastante especializado. En junio, por ejemplo, Basu de iMerit estaba en Nueva Orleans ayudando a desarrollar un programa de formación para los trabajadores que realizaban un tipo de análisis de imágenes de 45 a 90 minutos por tarea. "La gente piensa en los empleos de impacto y asume que las personas que provienen de entornos pobres solo saben etiquetar datos al nivel más bajo. Pero eso no es así", sostiene. No obstante, la carrera por obtener el precio mínimo en el sector del etiquetado de datos ayuda a reforzar la percepción general de que el trabajo es simple y, por tanto, debería ser barato. Eso hace que la postura de iMerit (la de que sus servicios requieren habilidades superiores) resulte difícil de vender.

Competir con las principales empresas con ánimo de lucro también ha sido difícil para Samasource, cuya fundadora, Leila Janah, lanzó hace 11 años como organización sin ánimo de lucro. La autoproclamada "nerd de la justicia social total" que ha dado charlas en SXSW, en varias conferencias de TedX y en la reunión anual de 2016 del FMI, escribió un libro en 2017, Give Work: Reversing Poverty One Job at a Time. Después de lanzar su producto de cuidado de la piel de lujo de comercio justo LXMI, Janah apareció en las páginas especiales de Vogue en 2018, junto con varios diseñadores de moda, modelos, una pareja de hermanos de patinaje artístico sobre hielo y otros que "realizan cambios y lideran debates donde sea que vayan sus carreras."

A pesar de sus esfuerzos, Janah afirma que Samasource no tenía ninguna posibilidad contra las empresas con ánimo de lucro. La responsable explica: "Básicamente, todas estas compañías nos iban a dejar atrás... con cero intereses en la ética o en el pago de salarios justos, pero 18 millones de euros de capital riesgo para generar datos de entrenamiento con una fuerza laboral anónima".

Así que cambió a un modelo híbrido en el que la organización sin ánimo de lucro posee la mayoría de las acciones de una compañía con ánimo de lucro que puede obtener capital de los inversores. Es un modelo cada vez más común para emprendedores sociales en áreas como los microcréditos, la atención médica y la formación profesional.

Pero eso suponía un compromiso. Samasource decidió que, para atraer a los inversores, no tenía más remedio que otorgarles derecho a voto. "De lo contrario, no había inversores dispuestos a invertir en una empresa cuya junta sin ánimo de lucro dictara los pasos", sostiene Janah y añade que su junta "sintió que el riesgo de que los inversores eliminaran el modelo de impacto de Samasource era muy bajo", pero no quiso dar más detalles sobre si los inversores realmente tomaron alguna decisión que lo haya debilitado.

¿Lavado de impacto?

Sin una regulación sobre la presentación de informes y sin validación de terceros, tenemos que creernos las afirmaciones de las empresas de que lo que están haciendo no es solo un truco publicitario o, como algunos lo llaman, un "lavado de impacto".

"Es justo cuestionar a una empresa que, sin pruebas, afirma: 'Mire el impacto que estamos logrando simplemente al proporcionar buenos trabajos'. El simple hecho de crear un negocio en un país en desarrollo no lo convierte necesariamente en una empresa de impacto, solo porque ofrece buenos empleos a personas que de otro modo no tendrían esos trabajos", opina Enright.

A diferencia de los productos de comercio justo, las empresas no están sujetas a una gran presión pública para ser honestas, ya que ofrecen sus servicios a otras empresas, no directamente a los consumidores. "Los consumidores pueden valorar el aspecto ético, por ejemplo, en la Patagonia y en varias marcas de consumo, y lo podemos creer como consumidores. Pero queda por ver qué significa el trato ético en el sector B2B", explica Natarajan de iMerit. Como señaló el número de 2014 de Pulse, una revista del sector de la subcontratación, las empresas tendrían que elegir los proveedores de trabajo conscientes del impacto. Sin leyes o presión pública, no está claro qué puede impulsarlos a tomar esa decisión, y sin estándares y responsabilidades, no está claro cómo deberían evaluar a los proveedores.

Al final, puede que la regulación sea el único motor capaz de cambiar las prácticas laborales. Gray, la coautora de Ghost Work, concluye: "No hay forma de cambiar el empleo desde el interior de los mercados. Sí, están haciendo todo lo que pueden, y eso es como decir que tengo una bicicleta sin pedales, y estoy haciendo todo lo que puedo para conducirla tan rápido como su diseño me permita. No es posible organizar los derechos de los trabajadores y del empleo justo sin involucrar a la sociedad civil, y es algo que aún no se ha hecho".

*Kate Kaye es periodista independiente y fundadora de la web de informes ética de IA RedTail.

Ética

  1. China empieza a preocuparse (por fin) por la ética de la IA

    Científicos, políticos y tecnólogos del país acaban de presentar su primer un código ético para la inteligencia artificial. Y lo mejor de todo es que se parece bastante a las iniciativas previas que ya se están aplicando en Occidente

  2. La polémica política, ética y comercial del reconocimiento facial

    El Gobierno de San Francisco tiene prohibido usar esta tecnología, pero la norma no afecta a las compañías privadas, cuyos fines pueden ser igual de discriminatorios que los públicos. El debate, tanto a nivel ciudadano como usuario, está servido

  3. Los 14 expertos que Google debió elegir para su fallido comité de ética

    El grupo original contaba con miembros antiinmigración y negacionistas del cambio climático, y solo incluía a un filósofo. Además, el gigante no explicó cómo hizo su selección. Tras este estrepitoso fracaso, presentamos a un diverso grupo de expertos más adecuado, y cada uno tiene algo que decirle a Google