.

Inteligencia Artificial

Europa tramita una nueva ley para frenar los excesos de la IA

1

La Unión Europea está planeando una nueva regulación con el fin de frenar los peores daños asociados con la inteligencia artificial

  • por Melissa Heikkilä | traducido por Ana Milutinovic
  • 02 Junio, 2022

 

La inteligencia artificial (IA) recuerda al Salvaje Oeste. Las aplicaciones de IA se utilizan cada vez más para la toma de decisiones importantes sobre la vida de las personas, con poca o ninguna supervisión o responsabilidad. Esto puede tener consecuencias terribles: arrestos erróneos, evaluaciones incorrectas de los estudiantes e incluso la ruina financiera. Las mujeres, los grupos marginados y las personas de color son a menudo los más afectados por la tendencia de IA a fallar y extralimitarse.

La Unión Europea cree que tiene una solución: la madre de todas las leyes sobre la IA, denominada Reglamento sobre la IA. Es la primera normativa que pretende detener estos daños mediante la regulación de todo el sector. Si la UE tiene éxito, podría establecer un nuevo estándar global para la supervisión de la IA.

Pero el mundo de las normativas de la Europa comunitaria puede ser complicado y opaco. Por eso presentamos una guía rápida de todo lo que hay que saber acerca del Reglamento de la UE sobre la IA. El borrador está actualmente en manos de los europarlamentarios y de los países miembro para su revisión y posible modificación.

¿Por qué es tan importante?

El Reglamento sobre la IA es enormemente ambicioso: requerirá verificaciones adicionales para aquellos usos de IA considerados de "alto riesgo". Es decir, aquellos que tienen el mayor potencial para perjudicar a las personas. Esto podría incluir los sistemas utilizados para evaluar exámenes, contratar empleados o ayudar a los jueces a deliberar. El primer borrador del Reglamento también incluye la prohibición de los usos "inaceptables" de la IA, como calificar a las personas en función de su credibilidad percibida.

El Reglamento también restringiría el uso del reconocimiento facial por parte de las agencias de aplicación de la ley en los lugares públicos. Hay un grupo importante de voces potentes, incluidos miembros del Parlamento Europeo y países como Alemania, que quieren una prohibición total o una moratoria sobre ese uso en público tanto por parte de las fuerzas del orden como de las empresas privadas, argumentando que esta tecnología facilita la vigilancia masiva.

Si la UE lo llegara a conseguir, sería uno de los frenos más potentes hasta ahora para esta tecnología. Algunos estados y ciudades de EE UU, como San Francisco y Virginia, ya han introducido restricciones en el reconocimiento facial, pero la prohibición de la UE se aplicaría a 27 países y a una población de más de 447 millones de personas.

¿Cómo afectará a los ciudadanos?

En teoría, debería proteger a las personas de los peores efectos secundarios de la IA, al garantizar que las aplicaciones tengan al menos cierto nivel de escrutinio y responsabilidad.

Las personas podrán confiar en que están protegidas frente a las formas más dañinas de inteligencia artificial, según expresa el europarlamentario italiano Brando Benifei, miembro clave del equipo que revisa el Reglamento.

El Reglamento requiere que las personas sean notificadas cuando encuentren deepfakes, sistemas de reconocimiento biométrico o aplicaciones de IA que aseguran poder leer sus emociones. Los legisladores también están debatiendo si la normativa debe establecer un mecanismo para que las personas se puedan quejar y buscar alguna solución si resultan perjudicadas por un sistema de inteligencia artificial.

Desde el Parlamento Europeo también se está presionando para que se prohíban los sistemas policiales predictivos que utilizan IA para analizar grandes conjuntos de datos con el fin de desplegar de manera preventiva a la policía en áreas propensas a la delincuencia o para intentar predecir el posible carácter delictivo de una persona. Estos sistemas son muy controvertidos y los críticos consideran que a menudo resultan racistas y carecen de transparencia.

¿Y qué pasa fuera de la UE?

El RGPD (Reglamento General de Protección de Datos de la UE) es la exportación tecnológica más reconocida de la UE y se ha copiado en todas partes, desde California hasta la India.

La mayoría de los países desarrollados están de acuerdo con el enfoque sobre la IA que ha adoptado la UE, que apunta a la inteligencia artificial de mayor riesgo. Si los europeos consiguen crear una forma coherente de regular esta tecnología, eso podría funcionar como modelo para otros países que esperan llevarlo a cabo también.

"Las empresas estadounidenses, en cumplimiento del Reglamento sobre la IA de la UE, también terminarán elevando sus estándares de transparencia y responsabilidad también para los usuarios estadounidenses", opina Marc Rotenberg, director de la organización sin ánimo de lucro Center for AI and Digital Policy, especializada en la regulación de la inteligencia artificial.

El Reglamento también se analiza de cerca por parte de la administración de Biden. EE UU alberga algunos de los laboratorios de IA más grandes del mundo, como los de Google AI, Meta y OpenAI, y lidera la investigación en este campo, según varias clasificaciones mundiales, por lo que la Casa Blanca quiere saber cómo se podría aplicar algún tipo de regulación a estas empresas. Por ahora, algunas personas influyentes del Gobierno estadounidense, como el asesor de seguridad nacional Jake Sullivan, la secretaria de Comercio Gina Raimondo y la directora de IA de la Casa Blanca, Lynne Parker, han acogido con beneplácito el esfuerzo de Europa para regular la inteligencia artificial.

"Se trata de un gran contraste con la forma en la que EE UU vio en su día el desarrollo del RGPD: en EE UU la gente creía que acabaría con internet, eclipsaría el Sol y terminaría con la vida en el planeta tal como la conocemos", señala Rotenberg.

A pesar de cierta cautela inevitable, EE UU tiene buenas razones para dar la bienvenida a la normativa. Existe una gran preocupación por la creciente influencia de China en la tecnología. Para Estados Unidos, la postura oficial es que mantener el dominio occidental de la tecnología es una cuestión de si prevalecen los "valores democráticos". Quiere mantener cerca a la UE, su "aliado de ideas afines".

¿Cuáles son los mayores desafíos?

Algunos de los requisitos del Reglamento son técnicamente imposibles de cumplir en la actualidad. El primer borrador requiere que los conjuntos de datos estén libres de errores y que las personas puedan "comprender completamente" cómo funcionan los sistemas de IA. Los conjuntos de datos que se utilizan para entrenar los sistemas de IA son enormes, y tener una verificación humana de que están completamente libres de errores requeriría miles de horas de trabajo, si es que tal cosa fuera posible. Además, las redes neuronales de hoy en día son tan complejas que ni siquiera sus creadores entienden completamente cómo llegan a sus conclusiones.

Las empresas tecnológicas también se sienten profundamente incómodas con los requisitos de dar a los auditores externos o reguladores acceso a su código fuente y algoritmos para cumplir con la normativa.

"El borrador actual está creando mucha incomodidad porque bastante gente cree que se puede cumplir con las regulaciones tal y como están redactadas actualmente", resalta la presidenta y directora ejecutiva de la organización sin ánimo de lucro EqualAI, Miriam Vogel, que trabaja para reducir el sesgo involuntario de los sistemas de inteligencia artificial, y también preside el recién fundado Comité Asesor Nacional de IA de EE UU, que asesora a la Casa Blanca sobre la política en este campo.

También se está gestando un gran debate alrededor de la cuestión si el Reglamento sobre la IA debería prohibir el uso del reconocimiento facial por completo. Es un tema polémico porque los países de la UE odian cuando Bruselas intenta dictar cómo deben manejar los asuntos de seguridad nacional o aplicación de la ley. Varios países, como Francia, quieren crear excepciones para usar el reconocimiento facial con el fin de proteger la seguridad nacional. En cambio, el nuevo Gobierno de Alemania, voz influyente en la toma de decisiones de la UE, ha destacado que apoya la prohibición total en los lugares públicos.

Otra gran discusión será sobre qué tipos de IA se clasifican como de "alto riesgo". El Reglamento sobre la IA tiene una lista que va desde las pruebas de detección de mentiras hasta los sistemas utilizados para asignar pagos de asistencia social. Hay dos campos políticos opuestos: uno teme que el amplio alcance de la regulación ralentice la innovación y el otro argumenta que el Reglamento, tal y como está escrito, no hará lo suficiente para proteger a las personas.

¿No sofocará esto la innovación?

Una crítica común de los defensores de Silicon Valley es que la regulación creará trámites burocráticos adicionales para las empresas de inteligencia artificial. Europa no está de acuerdo con eso. La UE responde que el Reglamento sobre la IA solo se aplicará al conjunto de usos de mayor riesgo. Se aplicaría únicamente entre el 5 % y el 15 % de todas las aplicaciones, según estima la Comisión Europea.

Las empresas tecnológicas "deben estar seguras de que queremos brindarles un conjunto de normas estables, claras y legalmente sólidas para que puedan desarrollar la mayor parte de la IA con una regulación muy limitada", explica Benifei.

Las organizaciones que no cumplan con la normativa se enfrentarán a multas de hasta 30 millones de euros. En el caso de las empresas, la sanción puede alcanzar el 6 % de sus ingresos anuales a nivel mundial. La experiencia demuestra que Europa no tiene miedo de imponer multas a las empresas tecnológicas. Amazon fue multado con 746 millones de euros en 2021 por infringir el RGPD y Google tuvo que pagar la multa de 4.300 millones de euros en 2018 por infringir las leyes europeas antimonopolio.

¿Cuándo entrará en vigor?

Pasará al menos otro año antes de tener un texto final, y un par de años más antes de que las empresas tengan que cumplirlo. Existe la posibilidad de que la elaboración de los detalles de un Reglamento tan completo con tantos elementos polémicos se prolongue durante mucho más tiempo. El RGPD tardó más de cuatro años en tramitarse, y pasaron seis años antes de su entrada en vigor. En el mundo de la legislación de la UE, todo es posible.

Inteligencia Artificial

 

La inteligencia artificial y los robots están transofrmando nuestra forma de trabajar y nuestro estilo de vida.

  1. Al “santo grial” de la IA le falta eficiencia en tiempo y energía

    El 'machine learning' automatizado (AutoML) promete acelerar el proceso de desarrollo de los modelos de IA y hacer que la tecnología sea más accesible

  2. DeepMind ya ha predicho la estructura de casi todas las proteínas conocidas

    Ofrece esos datos de forma gratuita, lo que podría impulsar nuevos descubrimientos científicos

  3. Este perro robot es capaz de enseñarse a sí mismo a caminar

    La IA podría ayudar a los robots a aprender nuevas habilidades y adaptarse rápidamente al mundo real