.

Getty Images/Leon Neal

Negocios

Polémica en Google por incluir a una negacionista en su comité de ética

1

Mas de un millar de empleados han firmado una carta para protestar por la composición de su nuevo consejo independiente de ética de IA. Destaca Kay Coles James, a la que acusan de tránsfoba, negacionista del cambio climático y con una posición dura contra la inmigración

  • por Will Knight | traducido por Ana Milutinovic
  • 03 Abril, 2019

Mas de un millar de empleados de Google, investigadores académicos y otros miembros de la industria tecnológica han firmado una carta para protestar por la composición del consejo independiente de ética que el gigante ha creado para supervisar sus proyectos de inteligencia artificial (IA).

La compañía anunció la creación d este grupo la semana pasada durante la conferencia EmTech Digital de MIT Technology Review en San Francisco (EE.UU.). El denominado Consejo Externo de Consulta de Tecnologías Avanzadas (ATEAC, por sus siglas en inglés), está compuesto por ocho miembros de distintos perfiles: economistas, filósofos, políticos y tecnólogos con experiencia en temas como el sesgo algorítmico. Su plan sería celebrar cuatro reuniones anuales y escribir informes para aportar observaciones sobre los proyectos de la empresa que utilizan la inteligencia artificial.

Pero dos de esos miembros han sembrado la polémica. Uno es el CEO de Trumbull, Dyan Gibbens, una compañía que desarrolla sistemas autónomos para Defensa, una opción polémica dado que miles de empleados de Google ya protestaron por la decisión de la compañía de suministrar IA para análisis de imágenes hechas por drones de las Fuerzas Aéreas de EE. UU. Pero la mayor indignación viene de la inclusión de la presidenta de la Fundación Heritage, Kay Coles James, cuyo laboratorio de ideas se opone a la regulación de las emisiones de carbono, tiene una posición dura contra la inmigración y está en contra de la protección de los derechos LGBTQ.

Otro miembro del Consejo, el profesor de la Universidad Carnegie Mellon especializado en los temas de la privacidad digital, Alessandro Acquisti, anunció el 30 de marzo que no asumirá el cargo. En un tuit afirmó: "Aunque me dedico a investigar y lidiar con los fundamentales problemas éticos sobre la imparcialidad, derechos e inclusión en la IA, no creo que este sea el foro adecuado para mi participación con este importante trabajo".

De hecho, la creación del ATEAC, y la inclusión de Gibbens y James, podría esconder la intención de apaciguar a los críticos de derechas de Google. Casi al mismo tiempo que se comunicó la creación del consejo, el CEO de Google, Sundar Pichai, se reunió con el presidente de EE. UU., Donald Trump. Más tarde, Trump tuiteó: "Afirmó firmemente que está totalmente comprometido con los militares de Estados Unidos, no con los militares chinos. [Nosotros] también hablamos de la equidad política y de varias cosas que Google puede hacer por nuestro país. ¡La reunión acabó muy bien!"

Pero un empleado de Google involucrado en la redacción de la carta de protesta, quien habló bajo condición de anonimato, afirma que James era algo más que una voz conservadora en el Consejo: "Es una reaccionaria que niega que existan personas transexuales, que respalda radicalmente las posturas antinmigrantes y que apoya las opiniones contra el cambio climático y contra la ciencia".

Algunos algoritmos de IA pueden reforzar los sesgos que ya existen en la sociedad (ver La IA que evalúa a delincuentes perpetúa la injusticia hacia las minorías). Se ha demostrado que algunos de ellos identifican erróneamente a las personas transexuales, por ejemplo. En ese contexto, el empleado anónimo afirma: "El hecho de que [James] haya sido incluida es bastante impactante. Estas tecnologías están configurando nuestras instituciones sociales, nuestras vidas y el acceso a los recursos. Cuando la IA falla, no perjudica a los ricos hombres blancos que trabajan en las compañías tecnológicas. Falla perjudicando exactamente a mismas comunidades a las que las políticas de la Fundación Heritage ya pretenden perjudicar".

Los mensajes publicados en una plataforma interna de comunicaciones de Google criticaron especialmente el nombramiento de James. Según un post, anteriormente publicado por Verge y confirmado por el empleado, James "no se merece una plataforma legitimada por Google, y por supuesto que no pertenece a ninguna conversación sobre cómo se debe aplicar al mundo la tecnología de Google".

En la tarde de ayer en España, la carta abierta, publicada en Medium, ya contaba con casi 1.300 firmas de empleados de Google y otras 143 personas, incluidos varios profesores eminentes. La carta afirma: "Las opiniones de James no solo son contrarias a los valores declarados de Google, sino que son directamente contrarias al proyecto de garantizar que el desarrollo y la aplicación de IA prioricen la justicia por encima de las ganancias. Un proyecto de este tipo debería, por eso, contar con los representantes de las comunidades vulnerables en el centro del proceso decisorio".

Negocios

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. Así actúan los tres gigantes que sostienen la industria china de la IA

    Bastan tres gráficos para ver hasta dónde llegan los tentáculos de Baidu, Alibaba y Tencent en la inteligencia artificial china. Más de la mitad de las empresas de IA aplicada a todos los sectores del país han recibido financiación de alguna de estas tres compañías

  2. "Las colaboraciones son una nueva forma de hacer investigación"

    Tras años a la sombra de Google y Apple, la vicepresidenta de Colaboraciones en Tecnologías Emergentes de IBM, Sophie Vandebroek, intenta devolver a gigante su liderazgo tecnológico en inteligencia artificial. Su estrategia se basa en las sinergias con investigadores, empresas y universidades

  3. Las élites empiezan a preocuparse por el problema de los 'deepfakes'

    Las imágenes y vídeos falsos pero increíblemente realistas creados con inteligencia artificial empiezan a impedir que confiemos en todo lo que vemos y amenaza con atacar la reputación de la gente. En EE. UU. por fin han empezado a trabajar para regular el problema