Los 10 principios para que la IA sea justa, transparente y segura

n

Los principios, publicados por la Oficina de Política Científica y Tecnológica de EE. UU. (OSTP, por sus siglas en inglés), tienen tres objetivos principales: garantizar la participación pública, limitar el exceso regulatorio y, lo más importante, promover una IA fidedigna, justa, transparente y segura. Durante la rueda de prensa de presentación, la subdirectora de Tecnología de Estados Unidos, Lynne Parker, afirmo que los principios están definidos de manera amplia deliberadamente para permitir que cada agencia establezca regulaciones más específicas adaptadas a su sector.

n

En la práctica, ahora se requerirá que las agencias federales de EE. UU. presenten un memorando a la OSTP para explicar cómo cualquier regulación propuesta relacionada con IA cumple con estos principios. Aunque la oficina no está autorizada a reprobar las regulaciones, este procedimiento podría crear la presión y coordinación necesarias para mantener un determinado estándar.

n

"La OSTP está intentando crear un tamiz regulatorio. Un proceso como este parece un intento muy razonable de incorporar un control de calidad en la política sobre la IA", opina el director del Proyecto sobre la Tecnología, Economía y Seguridad Nacional del MIT, R. David Edelman.

n

Los principios (según mi interpretación) son los siguientes:

n

n
1. n

   Confianza pública en la IA. El Gobierno debe promover aplicaciones de IA fiables, sólidas y fidedignas.

   n
n
2. n

   Participación pública. La sociedad debería tener la oportunidad de dar su opinión en todas las etapas del proceso de la elaboración de normas.

   n
n
3. n

   Integridad científica y calidad de la información. Las decisiones políticas se deben basar en la ciencia. 

   n
n
4. n

   Evaluación y gestión de riesgos. Las agencias deben decidir qué riesgos son aceptables y cuáles no.

   n
n
5. n

   Beneficios y costes. Las agencias deben sopesar los impactos sociales de todas las regulaciones propuestas.

   n
n
6. n

   Flexibilidad. Cualquier enfoque debe poder adaptarse a los rápidos cambios y actualizaciones de las aplicaciones de IA.

   n
n
7. n

   Trato justo y sin discriminación. Las agencias deben asegurarse de que los sistemas de IA no discriminen.

   n
n
8. n

   Divulgación y transparencia. La sociedad confiará en la inteligencia artificial solo cuando sepa cuándo y cómo se utiliza.

   n
n
9. n

   Seguridad y protección. Las agencias deben mantener seguros y protegidos todos los datos utilizados por los sistemas de IA.

   n
n
10. n

    Coordinación entre las agencias. Las agencias deben hablar entre ellas para ser coherentes y previsibles en las políticas relacionadas con la IA.

    n
n

n

El nuevo plan representa un notable cambio de sentido frente a la postura de la Casa Blanca de hace menos de dos años, cuando las personas que trabajaban en la administración Trump aseguraron que no tenían ninguna intención de crear una estrategia nacional de inteligencia artificial. En cambio, la administración argumentó que minimizar la interferencia del Gobierno era la mejor manera de ayudar a que la tecnología prosperara.

n

Pero al ver que cada vez más gobiernos de todo el mundo, y especialmente China, invierten tanto en IA, Estados Unidos ha sentido una gran presión para seguir su ejemplo. Durante la rueda de prensa, los representantes ofrecieron una nueva lógica para este cambio de postura del Gobierno en el desarrollo de la IA. 

n

El director de Tecnología de EE. UU., Michael Kratsios, afirmó: "Los principios regulatorios de EE. UU. para la IA ofrecen orientación oficial y reducen la incertidumbre para los innovadores acerca de cómo su propio Gobierno aborda la regulación de las tecnologías de inteligencia artificial". Añadió que su decálogo estimulará aún más la innovación, lo que permitirá a Estados Unidos dar forma al futuro de la tecnología a nivel mundial y contrarrestar las influencias de los regímenes autoritarios.

n

Hay varias maneras en las que esto podría ocurrir. Si se hace bien, alentaría a las agencias a contratar más personal con conocimientos técnicos, a crear definiciones y estándares para una IA fidedigna y llevaría a una regulación más reflexiva en general. Si se hace mal, podría animar a las agencias a evitar los requisitos o poner obstáculos burocráticos a las regulaciones necesarias para garantizar una IA fiable.

n

Edelman es optimista y concluye: "El hecho de que la Casa Blanca destaque la IA fiable como un objetivo resulta muy importante. Envía un importante mensaje a las agencias".

n