.

Ms. Tech | Unsplash

Inteligencia Artificial

La gran semana contra la IA sesgada: la UE y EEUU empiezan a regular

1

La Unión Europea ha publicado su tan esperado conjunto de regulaciones sobre inteligencia artificial, con restricciones sobre la vigilancia masiva y la manipulación. Por su parte, la FTC ha anunciado que empezará a perseguir a las empresas que utilicen y vendan algoritmos sesgados

  • por Will Douglas Heaven | traducido por Ana Milutinovic
  • 23 Abril, 2021

Está siento una semana extraordinaria para el rechazo gubernamental al mal uso de la inteligencia artificial (IA). El miércoles, la Unión Europea (UE) publicó su tan esperado conjunto de regulaciones sobre la IA, cuyo primer borrador se filtró la semana pasada. Se trata de un reglamento es amplio, con restricciones sobre la vigilancia masiva y el uso de IA para manipular a las personas.

Pero la declaración de intenciones de la Comisión Federal de Comercio de Estados Unidos (FTC, por sus siglas en inglés), descrita el 19 de abril en una breve publicación de blog de la abogada Elisa Jillson, podría tener más impacto en el futuro inmediato. Según la publicación, la FTC planea perseguir a las empresas que utilicen y vendan los algoritmos sesgados.

Puede que la noticia haya puesto nerviosas a varias empresas, opina el profesor de la Universidad de Washington (EE. UU.) Ryan Calo, especializado en tecnología y derecho. Y afirma: "En realidad, no es solo esta publicación de blog, es un ejemplo muy claro de lo que parece ser un cambio radical".

La UE es conocida por su mano dura contra las Big Tech, mientras que la FTC ha tenido un enfoque más suave, al menos en los últimos años. La agencia tiene como objetivo vigilar las prácticas comerciales desleales y deshonestas. Sus competencias son limitadas: no tiene jurisdicción sobre las agencias gubernamentales, bancos u organizaciones sin ánimo de lucro. Pero puede intervenir cuando las empresas no reflejan fielmente las funciones de los productos que venden, y eso significa que las que afirman que sus sistemas de reconocimiento facialalgoritmos de vigilancia predictiva o herramientas de atención médica no están sesgados ahora podrían estar en el punto de mira. "Ahí es donde tienen el poder, y es un poder enorme", sostiene Calo.

Pasar a la acción

La FTC no siempre ha estado dispuesta a ejercer dicho poder. Tras las críticas de la década de 1980 y 1990 de que era demasiado agresiva, se echó atrás y tuvo menos enfrentamientos, especialmente contra las empresas tecnológicas. Esto parece estar cambiando.

En la publicación del blog, la FTC advierte a los proveedores que las afirmaciones sobre la inteligencia artificial deben ser "veraces, no engañosas y respaldadas por pruebas. Por ejemplo, digamos que un desarrollador de inteligencia artificial dice a los clientes que su producto proporcionará 'decisiones de contratación 100 % imparciales', pero el algoritmo se construyó con datos que carecían de diversidad racial o de género. El resultado podría ser engaño, discriminación y una acción judicial por parte de la FTC".

La actividad de la FTC tiene apoyo bipartidista en el Senado de EE. UU., donde  esta semana se les preguntó a los comisionados qué más podían hacer y qué necesitaban para hacerlo. "Hay viento en popa", asegura Calo.

Por otro lado, las regulaciones sobre la IA de la UE, aunque establecen unos límites claros, son solo recomendaciones. Al igual que en el caso del Reglamento General de Protección de Datos (GDPR) aprobado en 2018, la decisión de cómo implementarlas dependerá de cada Estado miembro de la UE.

Una parte del lenguaje también es vago y está abierto a interpretación. Por ejemplo, la disposición contra las "técnicas subliminales más allá de la conciencia de una persona para distorsionar materialmente su comportamiento" de una manera que pueda causar daño psicológico. ¿Se aplica eso a las fuentes de noticias de las redes sociales y a la publicidad dirigida? "Podemos esperar que muchos lobbies intenten excluir explícitamente la publicidad y los motores de recomendación", opina el profesor del University College London (Reino Unido) Michael Veale, que se dedica al derecho y la tecnología.

Se necesitarán años de desafíos legales en los tribunales para aclarar los detalles y las definiciones. "Eso será solo después de un proceso muy largo de investigación, denuncias, multas, apelación, contrapelación y remisión al Tribunal de Justicia de la Unión Europea. En ese momento, el ciclo comenzará de nuevo", resalta Veale. Pero la FTC, a pesar de su campo de acción limitado, tiene autonomía para actuar al momento.

Una gran limitación que comparten la FTC y la Comisión Europea es su incapacidad de frenar el uso de la tecnología de IA dañina por parte de los gobiernos. Las regulaciones de la UE incluyen salvaguardias en cuanto el uso estatal de la vigilancia, por ejemplo. Y la FTC solo está autorizada a perseguir empresas. Podría intervenir impidiendo que los proveedores privados vendan software sesgado a los organismos encargados de hacer cumplir la ley. Pero será difícil implementarlo, dado el secretismo en torno a tales ventas y la falta de reglas sobre lo que las agencias gubernamentales deben notificar al adquirir la tecnología.

Sin embargo, las noticias de esta semana reflejan un enorme cambio mundial hacia una regulación seria de la IA, de esa tecnología que se ha desarrollado e implementado con poca supervisión hasta ahora. Los perros guardianes de la ética llevan años pidiendo restricciones sobre las prácticas injustas y dañinas en el uso de la IA.

La UE considera que sus regulaciones colocan a la IA bajo las protecciones existentes de las libertades civiles. "La inteligencia artificial debe servir a las personas y, por lo tanto, la inteligencia artificial siempre debe respetar los derechos de las personas", afirmó la presidenta de la Comisión Europea, Ursula von der Leyen, en un discurso antes de hacer público el reglamento. Este reglamento también ayudará a la IA con su problema de imagen. Como expresó Ursula von der Leyen: "Queremos animar a nuestros ciudadanos a poder confiar en su uso".

Inteligencia Artificial

 

La inteligencia artificial y los robots están transofrmando nuestra forma de trabajar y nuestro estilo de vida.

  1. 'Digital twins' con IA para anticipar los fallos de la cadena de suministro

    La pandemia no ha hecho más que agravar los problemas de suministro que ya existían en el comercio internacional. Ante la imposibilidad de solucionarlos, cada vez más empresas recurren a gemelos digitales alimentados con inteligencia artificial, capaces de predecir contratiempos y diseñar la mejor forma de amortiguarlos

  2. La IA demuestra el gran vínculo entre la forma del cuerpo y la inteligencia

    En lugar de crear un robot físico y enseñarle tareas, esta investigación diseñó distintos 'unimales' virtuales con formas extrañas y les pidió que desempeñaran distintas tareas. Los más hábiles siguieron evolucionando hasta alcanzar su configuración más óptima para varias capacidades

  3. Ego4D, el peligroso proyecto de Facebook para que la IA vea como nosotros

    Es el mayor conjunto de datos de vídeo en primera persona de la historia, con 3.025 horas de grabaciones recogidas por 855 personas en nueve países. Al igual que ImageNet, podría revolucionar la inteligencia artificial, pero plantea graves preocupaciones sobre cómo se utilizará la tecnología resultante