.

Tecnología y Sociedad

Sólo las personas cultas serán capaces de acabar con los algoritmos sesgados

1

Los algoritmos ya toman decisiones que cambian la vida de la gente, y se definen en función de la realidad. Pero la realidad no siempre es justa, y sólo aquellos con mayor contexto social serán capaces de instruir a las máquinas para que sean justas e imparciales

  • por Cynthia Dwork | traducido por Patricia R. Guevara
  • 26 Octubre, 2017

¿Por qué a los diseñadores de algoritmos y los científicos de datos les cuesta tanto tener en cuenta los sesgos y las injusticias?

Por ejemplo, imagínese en un ambiente de trabajo que resulte hostil para las mujeres. Supongamos que el éxito se define como el hecho de que alguien que lleva en su puesto de dos a tres años obtenga un ascenso. Entonces, cualquier algoritmo basado en los datos históricos estimará que no es una buena idea contratar mujeres. Lo más interesante es que no estamos hablando de decisiones históricas de contratación. Incluso si las decisiones de contratación fueron totalmente imparciales en su momento, la realidad (la discriminación real en el entorno hostil) sigue ahí. Es un tema más profundo, más estructural, más arraigado y más difícil de superar.

Creo que el verdadero gran uso del aprendizaje automático y de la inteligencia artificial vendrá de la mano de personas realmente cultas que conozcan la historia, la sociología y la psicología, que sean capaces de descubrir quién debe ser tratado de manera similar a quién.

No niego que en el futuro los ordenadores serán capaces de hacer esto, pero ahora mismo no lo veo posible. ¿Cómo sabes cuándo tienes el modelo correcto capaz de captar lo que realmente ha sucedido en la sociedad? Necesitas entender de que estás hablando. Ahí está el famoso dicho: "Todos los modelos son incorrectos, pero algunos son útiles".

*Cynthia Dwork es informática en la Universidad de  Harvard (EEUU) y está desarrollando formas de asegurarse de que las máquinas funcionen de manera justa.

Tecnología y Sociedad

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. "España será un paraíso para 'start-ups', pero no solo por su fiscalidad"

    La secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas, desgrana las claves de las Misiones de I+D en IA, analiza el estado de la digitalización de las empresas y la sociedad españolas, aclara las confusiones generadas por la Ley de 'Start-ups' y repasa las lecciones aprendidas tras el lanzamiento de la 'app' Radar COVID

  2. La peligrosa apuesta de Reino Unido traerá más COVID-19 prolongada y muertes

    Hay muchas incógnitas en torno a la arriesgada decisión de Reino Unido de levantar todas las restricciones asociadas a la pandemia, como si aparecerá una variante capaz de esquivar las vacunas. Lo que sí sabemos seguro es que habrá más casos persistentes y más hospitalizaciones. Muchos expertos piden recuperar las precauciones

  3. Redes sociales y firmas 'online': las armas políticas de la Generación Z

    Las plataformas digitales pueden redefinir el compromiso cívico y permitir que las opiniones los jóvenes y las personas mayores tengan un papel más profundo en la formulación de políticas. Dos estudiantes lograron abrir un profundo debate en su antiguo instituto gracias a una campaña que reunió casi 9.000 apoyos