.

Ms Tech | Getty

Tecnología y Sociedad

Necesitamos una coalición global que recupere la democracia digital

1

Las empresas de tecnología han asumido muchos aspectos de la gobernanza tecnológica, y lo han hecho casi sin reglas ni restricciones y basándose en sus intereses comerciales. Frente al autoritarismo digital de China y Rusia, los países democráticos solo tienen una opción: un organismo internacional independiente

  • por Marietje Schaake | traducido por Ana Milutinovic
  • 06 Octubre, 2020

¿Debería Twitter censurar las mentiras tuiteadas por el presidente de Estados Unidos, Donald Trump? ¿Debería YouTube eliminar los videos con bulos sobre el coronavirus (COVID-19)? ¿Debería Facebook esforzarse más contra los discursos de odio? Estas preguntas, que surgen a diario en los medios, pueden dar la sensación de que el principal riesgo para las democracias en relación con las tecnologías es la gestión de contenido por parte de las empresas de las redes sociales. Sin embargo, estas controversias son simplemente síntomas de una amenaza mayor: la profundidad del poder privatizado sobre el mundo digital.

Todos los países democráticos del mundo se enfrentan al mismo desafío, pero ninguno es capaz de resolverlo por sí solo. Necesitamos una alianza democrática global para establecer normas, reglas y pautas para las empresas tecnológicas y acordar protocolos para las actividades digitales transfronterizas, incluida la interferencia electoral, la guerra cibernética y el comercio online. Los ciudadanos están mejor representados cuando los términos de gobernanza vienen definidos por una coalición de sus gobiernos, en lugar de por un puñado de ejecutivos corporativos, y cuando existen mecanismos de control, balance y supervisión.

Las empresas tecnológicas gobiernan nuestras vidas de muchas formas y lo hacen casi sin regulación. Estas compañías toman decisiones basadas en su propio interés, con las que establecen normas y estándares que afectan a miles de millones de personas en distintos campos, desde la construcción de infraestructura crítica y su defensa, o incluso la producción de ciberherramientas ofensivas, hasta el diseño de sistemas de inteligencia artificial (IA) y bases de datos gubernamentales.

Cada vez más, las empresas asumen roles gubernamentales o desarrollan productos que afectan los derechos fundamentales. Por ejemplo, los sistemas de reconocimiento facial que nunca se regularon adecuadamente antes de su desarrollo e implementación se utilizan tan ampliamente que roban a las personas su privacidad. De manera similar, las empresas sistemáticamente recogen datos privados, a menudo sin consentimiento, como una norma de la industria que los reguladores han tardado en abordar.

Dado que las tecnologías evolucionan más rápido que las leyes, aumentan las discrepancias entre el sector privado y la supervisión pública. Un ejemplo es el de las empresas de ciudades inteligentes o smart cities, que prometen que los gobiernos locales podrán aliviar los atascos al monitorizar los coches en tiempo real y ajustar la sincronización de los semáforos. A diferencia de, digamos, una carretera construida por una empresa de construcción, esta infraestructura digital no es necesariamente de dominio público. Las empresas que la construyen adquieren datos y generan un valor que podría no llegar de vuelta a la sociedad.

Esta disparidad entre el sector público y privado está cada vez más fuera de control. Existe una brecha de información, de talento y de computación. Estas brechas generan una desigualdad de poder y de responsabilidades. De esa forma, existe toda una capa de control sobre nuestra vida diaria sin legitimidad democrática y con poca supervisión.

¿Por qué debería importarnos? Porque las decisiones que toman las empresas sobre los sistemas digitales pueden no adherirse a los principios democráticos fundamentales como la libertad de elección, la competencia leal, la no discriminación, la justicia y la responsabilidad. Las consecuencias no deseadas de los procesos tecnológicos, las decisiones erróneas o los diseños impulsados por el negocio podrían crear graves riesgos para el orden público y la seguridad nacional. Y un poder que no está sujeto a los sistemáticos controles y balances va en contra de los principios fundamentales de la mayoría de las democracias.

Hoy en día, la regulación de la tecnología a menudo se percibe como una competición a tres bandas entre los sistemas dirigidos por el estado en China y Rusia, el sistema impulsado por el mercado en Estados Unidos y la visión centrada en los valores de Europa. Pero la realidad es que solo hay dos sistemas dominantes de gobernanza tecnológica: el privatizado descrito anteriormente, que se aplica en todo el mundo democrático, y el autoritario.

Para llamar al orden a las empresas tecnológicas de todo el mundo, necesitamos algo nuevo: una alianza global que ponga la democracia por delante de todo.

El enfoque de dejar hacer de los gobiernos democráticos y su resistencia a refrenar a las empresas tecnológicas privadas también se manifiesta a nivel internacional. Mientras los gobiernos democráticos han permitido que las empresas lideren bastante, los gobiernos autoritarios han ideado las normas a través de foros internacionales. Este desafortunado cambio coincide con la tendencia del declive democrático en todo el mundo, ya que las grandes democracias como la India, Turquía y Brasil se han vuelto más autoritarias. Sin esfuerzos deliberados e inmediatos de los gobiernos democráticos para recuperar su capacidad de actuar, los modelos de gobierno corporativo y autoritario erosionarán la democracia por todas partes.

¿Significa eso que los gobiernos democráticos deberían construir sus propias plataformas de redes sociales, centros de datos y teléfonos móviles? No. Pero tienen que recuperar urgentemente su papel en la creación de reglas y restricciones que defiendan los principios fundamentales de la democracia en la esfera de la tecnología. Hasta ahora, estos gobiernos han comenzado a llevarlo a cabo lentamente con leyes a nivel nacional o, en el caso de Europa, a nivel comunitario. Pero para llamar al orden a las empresas tecnológicas de todo el mundo, necesitamos algo nuevo: una alianza global que ponga la democracia por delante de todo.

Formar equipos

Las instituciones globales creadas después de la Segunda Guerra Mundial, como las Naciones Unidas (ONU), la Organización Mundial del Comercio (OMC) y la Organización del Tratado del Atlántico Norte (OTAN), establecieron un orden internacional basado en normas. Pero sus mandatos y agendas nunca han tenido en cuenta el mundo digital, aunque muchas por fin están empezando a centrarse en la cooperación digital, en el comercio electrónico y en la ciberseguridad. Y mientras crece la importancia del comercio digital (que requiere sus propias regulaciones, como las normas para el comercio electrónico y los criterios para el intercambio de datos), los miembros de la OMC no han acordado las reglas globales para los servicios de la fabricación inteligente, las cadenas digitales de suministro y otras transacciones digitales.

Por lo tanto, lo que necesitamos ahora es una gran coalición democrática capaz de ofrecer una alternativa significativa a los dos modelos de la tecnogobernanza existentes, el privatizado y el autoritario. Debería ser una coalición global, de los países que cumplen con los criterios democráticos.

La Comunidad de Democracias, la coalición de estados que se creó en el año 2000 para promover la democracia pero que nunca tuvo mucho impacto, podría renovarse y actualizarse para incluir una misión ambiciosa sobre la gobernanza tecnológicoa. Como alternativa, se podría crear un D7 o un D20, una coalición similar al G7 o al G20, pero compuesta por las democracias más grandes del mundo.

Tal grupo acordaría las regulaciones y estándares para la tecnología en consonancia con los principios democráticos fundamentales. Luego, cada país miembro los implementaría a su manera, al igual que los estados miembros de la Unión Europea (UE) hacen actualmente con las directivas de la UE.

¿Qué problemas resolvería este tipo de coalición?  Por ejemplo, se podría adoptar una definición compartida sobre la libertad de expresión para las empresas de las redes sociales. Esa definición podría ser similar al enfoque europeo ampliamente compartido, donde la expresión es libre pero hay claras excepciones para el discurso de odio y las incitaciones a la violencia.

O la coalición podría limitar la microsegmentación o microtargeting de los anuncios políticos en las redes sociales: podría, por ejemplo, prohibir que las empresas permitan a los anunciantes crear y dirigir los anuncios en función de la religión, el origen étnico, la orientación sexual o los datos personales recogidos. O, como mínimo, podría abogar por una mayor transparencia sobre el microtargeting para crear un debate con más información sobre qué prácticas de recopilación de datos deberían estar fuera de los límites.

Esta coalición democrática también podría adoptar los estándares y métodos de supervisión para las operaciones digitales de los procesos electorales y campañas políticas. Esto significaría acordar los requisitos de seguridad para las máquinas de votación, además de estándares de anonimato, pruebas de estrés y métodos de verificación, como requerir una copia de seguridad en papel para cada voto. Y toda la coalición podría acordar imponer sanciones a cualquier país o actor no estatal que interfiera con elecciones o procesos consultivos en cualquiera de los estados miembros.

Otra tarea que podría asumir la coalición sería la de desarrollar  normas comerciales para la economía digital. Por ejemplo, los miembros podrían acordar no exigir nunca que las empresas entreguen el código fuente del software a las autoridades estatales, como hace China. También podrían ponerse de acuerdo sobre la adopción de las normas comunes de protección de datos para las transacciones transfronterizas. Tales movimientos permitirían crear una especie de zona de libre comercio digital en los países con ideas afines.

China ya tiene algo parecido con el eWTP, una plataforma comercial que permite el comercio global libre de impuestos para las transacciones inferiores a un millón de dólares. Pero el eWTP, obra del gigante del comercio electrónico Alibaba, está en manos de las empresas del sector privado con sede en China. Se sabe que el Gobierno chino tiene acceso a los datos a través de las empresas privadas. Sin una alternativa pública basada en normas, el eWTP podría convertirse en la plataforma global de facto para el comercio digital, sin un mandato democrático ni supervisión.

Otro tema que esta coalición podría abordar sería la seguridad de las cadenas de suministro de los dispositivos como teléfonos y ordenadores portátiles. Muchos países han prohibido los teléfonos inteligentes y los equipos de telecomunicaciones de Huawei por temor a que la tecnología de esta empresa integre vulnerabilidades o puertas traseras que el Gobierno chino podría usar. El desarrollo proactivo de estándares conjuntos para proteger la integridad de las cadenas de suministro y los productos crearía una igualdad de condiciones entre los miembros de la coalición y generaría confianza en las empresas que acuerden cumplirlos.

La siguiente área que merecería la atención de la coalición sería la ciberguerra y el conflicto híbrido (donde se combinan los ataques digitales y físicos). Durante la última década, cada vez más países han identificado los conflictos híbridos como una amenaza a la seguridad nacional. Cualquier país con ciberoperaciones altamente calificadas puede causar estragos en aquellas naciones que no inviertan en distintas defensas contra ellas. Por otro lado, los ciberataques de grupos privados han modificado el equilibrio de poder entre los estados.

No obstante, en este momento, no existen criterios internacionales que definan cuándo un ciberataque representa un acto de guerra. Esto anima a los ciberdelincuentes a atacar a través de muchos pequeños golpes. Además de su inmediato efecto económico o geopolítico, estos ataques erosionan la confianza en la justicia.

Una coalición democrática podría trabajar para cerrar esta brecha de responsabilidades y crear un tribunal internacional independiente para investigar tales ataques, quizás similar a la Corte Permanente de Arbitraje en La Haya (Holanda), que resuelve las disputas internacionales. Los líderes de la alianza democrática podrían entonces decidir, sobre la base de los fallos del tribunal, si deberían aplicar sanciones económicas y políticas.

Estas son solo algunas de las formas en las que una coalición democrática global podría promover las normas que faltan en la esfera digital. Los estándares de la coalición podrían convertirse en globales si sus miembros representan una gran parte de la población mundial. El Reglamento General de Protección de Datos (RGPD) de la UE ofrece un ejemplo de cómo podría funcionar. Aunque el RGPD se aplica solo a Europa, las empresas tecnológicas de todo el mundo deben seguir sus reglas para los usuarios europeos, y esto hace que sea más difícil oponerse ya que otras jurisdicciones adoptan leyes parecidas. De manera similar, los no miembros de la coalición democrática podrían acabar respetando muchas de esas normas para disfrutar de los beneficios.

Si los gobiernos democráticos no asumen más poder en la tecnogobernanza a medida que los países autoritarios se vuelven más poderosos, el mundo digital, que es parte de nuestra vida cotidiana, no será democrático. Sin un sistema de clara legitimidad para los que gobiernan, sin controles, balances y mecanismos de supervisión independiente, resulta imposible responsabilizar a las empresas de tecnología. Solo construyendo una coalición global para la gobernanza tecnológica, los gobiernos democráticos podrán volver a poner la democracia en primer lugar.

*Marietje Schaake es directora de políticas internacionales en el Cyber Policy Center de la Universidad de Stanford y miembro de políticas internacionales en el Instituto de Stanford para la Inteligencia Artificial Centrada en los Humanos (ambos en EE. UU.). Entre 2009 y 2019, Marietje fue miembro del Parlamento Europeo por el partido democrático liberal holandés.

Tecnología y Sociedad

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. 'Animal Crossing': un salvavidas contra la soledad del confinamiento

    Cuando el coronavirus obligó a la gente a encerrarse en casa, muchas personas recuperaron la sensación de normalidad en algunos videojuegos amables y colaborativos gracias a su capacidad de generar relaciones parasociales y de resolver la desesperada necesidad de tener control sobre algo

  2. Las tácticas de QAnon para captar a los religiosos más vulnerables

    Distintos pastores evangélicos ven cómo sus feligreses abandonan la parroquia para adentrarse en las garras de esta teoría de la conspiración de la ultraderecha que apela a su voluntad de ayudar a niños víctimas de abusos y trata para llenar sus mentes de todo tipo de bulos

  3. "La movilidad está cambiando. La gente ya no compra coches"

    Al liderar una empresa especializada en innovar un sector tan tradicional como el energético, el CEO de Enel X, Francesco Venturini, conoce de primera mano los retos de la digitalización, pero, también, el enorme potencial de las nuevas tecnologías para ahorrar costes y ofrecer nuevos productos y servicios