.

Computación

La tecnogobernanza china: ¿quién necesita democracia si tiene datos?

1

Gracias a una combinación de vigilancia, inteligencia artificial y 'big data', China está silenciando cada vez más las voces críticas y dirigiendo el país mediante algoritmos opacos capaces sepultar a los ciudadanos en listas negras y campos de reeducación política y religiosa

  • por Christina Larson | traducido por Ana Milutinovic
  • 31 Agosto, 2018

En 1955, el escritor de ciencia ficción Isaac Asimov publicó un breve relato sobre un experimento de "democracia electrónica". Un ciudadano, seleccionado para representar a toda una población, respondía a las preguntas generadas por un ordenador llamado Multivac. La máquina procesaba sus respuestas para calcular los resultados de unas elecciones que nunca tendrían lugar. La ficticia historia de Asimov se desarrollaba en EE. UU., y ahora, China está haciendo realidad una iniciativa bastante parecida a la de Multivac.

Cualquier régimen autoritario sufre "un problema básico de averiguar qué está pasando en los niveles inferiores y en la sociedad", explica la politóloga y experta en China de la Universidad de Villanova en Filadelfia (EE. UU.) Deborah Seligsohn. Si no se permite el debate público, el activismo civil y la opinión electoral, ¿cómo se puede gobernar con eficacia un país que alberga a una de cada cinco personas del planeta y cuya economía y sociedad son cada vez más complejas? ¿Cómo se puede reunir suficiente información para tomar decisiones? ¿Y cómo un Gobierno que no invita a sus ciudadanos a participar consigue seguir generando confianza y controlando el comportamiento público sin poner a un policía delante de cada hogar?

El líder de China entre 2002 y 2012, Hu Jintao, intentó resolver estos problemas mediante un deshielo democrático moderado, lo que facilitaba que las quejas de la sociedad llegaran hasta la clase dominante. Pero su sucesor, Xi Jinping, se ha deshecho de esta estrategia. Su plan para comprender y responder a lo que está sucediendo en una nación de 1.400 millones de personas se basa en una combinación de vigilancia, inteligencia artificial (IA) y big data para supervisar minuciosamente la vida y el comportamiento de la gente.

El hecho de que las democracias del mundo hayan sufrido un par de años complicados han ayudado a que la elite política china justifique cada vez más el hecho de excluir a los votantes. Los acontecimientos como la elección de Donald Trump, el Brexit, el ascenso de los partidos de extrema derecha en Europa y el reinado de terror de Rodrigo Duterte en Filipinas subrayan lo que muchos críticos consideran como problemas inherentes a la democracia, especialmente el populismo, la inestabilidad y el liderazgo insuficientemente personalizado.

Desde que se convirtió en el secretario general del Partido Comunista de China en 2012, Xi ha presentado una serie de ambiciosos planes para el país, muchos de ellos basados en la tecnología, incluido el objetivo de convertirse en el líder mundial en inteligencia artificial antes del año 2030 (ver China despierta al dragón de la inteligencia artificial).

Xi busca la "soberanía cibernética" para mejorar la censura y ejercer un control total sobre internet nacional. En mayo, en una reunión de la Academia China de Ciencias afirmó que la tecnología era la clave para lograr "el gran objetivo de construir una nación socialista y modernizada". En enero, cuando se dirigió al país por televisión, las estanterías a sus ambos lados contenían tanto títulos clásicos como El Capital de Karl Marx, como algunas publicaciones nuevas entre las que había dos libros sobre inteligencia artificial: The Master Algorithm de Pedro Domingos y Augmented: Life in the Smart Lane de Brett King.

"Ningún gobierno tiene un plan más ambicioso y de largo alcance para aprovechar el poder de los datos para cambiar su forma de gobernar que el chino", dice el investigador del Instituto Peterson de Economía Internacional en Washington (EE.UU.) Martin Chorzempa. Incluso algunos observadores extranjeros podrían sentirse tentados a preguntarse si esa gobernanza basada en datos ofrece una alternativa viable al modelo electoral que parece cada vez más disfuncional. Pero confiar demasiado en la sabiduría de la tecnología y los datos conlleva sus propios riesgos.

Datos en lugar de diálogo

Los líderes chinos llevan mucho tiempo deseando aprovechar las opiniones del público pero sin abrir la puerta a un incendiario debate y críticas a las autoridades. Durante la mayor parte de la historia imperial y moderna de China, ha habido una tradición de campesinos descontentos que viajan hasta Pekín para encabezar pequeñas manifestaciones como "demandantes" públicos. De esta forma, si las autoridades locales no entienden o no se preocupan por sus injusticias, tal vez el emperador pueda darles una respuesta mejor.

Bajo el mandato de Hu, algunos miembros del Partido Comunista detectaron una actitud receptiva, aunque limitada, para exponer y corregir ciertos tipos de problemas. Hasta el final de su Gobierno, periodistas anticorrupción, abogados defensores de los derechos humanos y críticos online abrieron debates en blogs sobre la corrupción local.  Cuando Xi empezó a gobernar, cada día recibía un informe sobre las preocupaciones y altercados públicos a partir de información de las redes sociales, según un exfuncionario estadounidense con conocimiento sobre este asunto. En los últimos años, las principales demandas de los campesinos que viajan a la capital han estado relacionadas con escándalos como las incautaciones ilegales de terrenos por parte de las autoridades locales y la leche en polvo contaminada.

Pero la policía impide cada vez más que estos "demandantes" lleguen a Pekín. "Ahora se requiere el DNI para comprar un billete de tren, lo que facilita que las autoridades identifiquen a los posibles 'alborotadores' como los que protestaron contra el Gobierno en el pasado", explica la principal investigadora principal de Human Rights Watch en China, Maya Wang. La experta añade: "Varios demandantes nos contaron que habían sido detenidos en los andenes de los trenes". Blogueros, activistas y abogados también están siendo silenciados o encarcelados de forma sistemática, como si los datos pudieran ofrecer al Gobierno la misma información sin los incómodos problemas asociados a la libertad.

Una demostración de una startup de Shangai de su sistema de reconocimiento facial.

Foto: Una 'start-up' china demuestra su sistema de reconocimiento facial.

La idea de China de utilizar la tecnología en red como herramienta de gestión pública se remonta al menos a mediados de la década de 1980. "Cuando el Gobierno chino notó que la tecnología de la información se convertía en parte de la vida cotidiana, se dio cuenta de que iba a disponer de una nueva y poderosa herramienta para reunir información y controlar la cultura, para hacer que los chinos sean más 'modernos' y más 'gobernables', obsesiones eternas de los líderes", explica el historiador de la Universidad de Harvard (EE. UU.) Julian Gewirtz. Los avances posteriores, incluido el progreso de la IA y los procesadores más rápidos, han conseguido que esa visión esté más de la realidad.

Por lo que sabemos, no existe un plan maestro único que vincule la tecnología y la gobernanza en China. Pero hay varias iniciativas que comparten una estrategia común de recolección de datos sobre personas y empresas para la toma de decisiones y construir sistemas de incentivos y castigos capaces de influir en el comportamiento. Algunas de estas iniciativas son el "Sistema de crédito social" del Consejo de Estado de 2014, la Ley de ciberseguridad de 2016, varios experimentos a nivel local y privado sobre "crédito social", planos de "ciudades inteligentes" y normativas basadas en la tecnología en la región occidental de Xinjiang. A menudo, estas iniciativas implican alianzas entre el Gobierno y las compañías tecnológicas de China.

El Sistema de crédito social es la iniciativa de mayor alcance, aunque sería mejor llamarlo sistema de "confianza" o "reputación". Ente los objetivos de este plan, que abarca tanto a las personas como a las empresas, el Gobierno destaca la "construcción de sinceridad en los asuntos gubernamentales, sinceridad comercial y la credibilidad judicial". ("En China, todo el mundo tiene una tía que ha sido estafada. Existe una necesidad legítima de abordar el colapso de la confianza pública", sostiene el jefe del uso de la geotecnología de la consultora Eurasia Group, Paul Triolo). De momento, el proyecto sigue en fase de diseño, pero ya hay varios pilotos que prevén cómo podría funcionar en 2020, cuando se supone que se implementará por completo.

El algoritmo resalta comportamientos sospechosos, como visitar una mezquita o poseer demasiados libros

La primera y principal herramienta del sistema de confianza son las listas negras. Durante los últimos cinco años, el sistema judicial de China publicaba los nombres de las personas que no habían pagado las multas o cumplido sus sentencias. Bajo las nuevas regulaciones de crédito social, esta lista se compartirá con varias empresas y agencias gubernamentales. Las personas que figuran en esta lista no pueden pedir dinero prestado, reservar vuelos ni alojarse en hoteles de lujo.

Las empresas nacionales de transporte de China han creado sus propias listas negras para castigar a los pasajeros por comportamientos negativos, como bloquear las puertas de los trenes o por buscar peleas durante un viaje. A estos 'delincuentes' se les prohíbe comprar billetes durante seis meses o un año. A principios de este año, Pekín presentó una serie de listas negras para prohibir que las empresas "deshonestas" reciban contratos gubernamentales futuros o concesiones de terrenos.

Algunos gobiernos locales han empezado a probar sus "puntuaciones" de crédito social, aunque no está claro si formarán parte del plan nacional. La ciudad norteña de Rongcheng, por ejemplo, puntúa a cada uno de sus 740.000 residentes, según informó Foreign Policy. Todos empiezan con 1.000 puntos. Si realizan una donación a una organización benéfica o ganan un premio del Gobierno, suman puntos. Pero si violan una ley de tráfico, como conducir bajo los efectos del alcohol o con exceso de velocidad, pierden puntos. Los residentes con buenas puntuaciones pueden obtener descuentos en los suministros de calefacción de invierno o conseguir hipotecas con mejores condiciones. Los ciudadanos con malas valoraciones podrían perder acceso a préstamos bancarios o a ascensos en puestos públicos. El Ayuntamiento exhibe carteles de modelos locales a seguir, personas que han mostrado su "virtud" y disponen de una alta puntuación.

"La idea del crédito social es supervisar y gestionar el comportamiento de las personas y las instituciones", afirma la miembro del Instituto Mercator de los Estudios de China en Berlín (Alemania) Samantha Hoffman. "Si se registra alguna violación en alguna parte del sistema, eso puede desencadenar respuestas en otras partes del sistema. Se trata de un concepto diseñado para apoyar el desarrollo económico y la gestión social, y resulta intrínsecamente político", añade la experta.

Pero China no es el único país que intenta controlar sus ciudadanos. En EE. UU., por ejemplo, una mala calificación de solvencia puede impedir un préstamo hipotecario, mientras que una condena por delito grave suspende o anula el derecho al voto, por ejemplo. La diferencia en este caso es que las medidas de EE. UU. "no están conectadas de la misma manera; no hay un plan general", señala Hoffman.

Una de las mayores preocupaciones es que los ciudadanos sean incapaces de recurrir las acusaciones falsas o incorrectas, ya que China carece de un poder judicial independiente. Hay quien ha encontrado su nombre en una lista negra de viajes sin haber recibido ninguna notificación después de una decisión judicial. Los "demandantes" y los periodistas de investigación están bajo control del otro sistema, y ​​las personas que han seguido un proceso de rehabilitación de drogas son vigiladas por otro sistema de supervisión diferente. "En teoría, las bases de datos de consumidores de drogas deberían borrar los nombres después de cinco o siete años, pero he visto muchos casos en los que no ha sido así", explica Wang de Human Rights Watch. "Resulta enormemente difícil salir de alguna de estas listas", añade.

Estallidos ocasionales de ira en internet sugieren que la sociedad está resentida. La reciente noticia de que una estudiante había sido rechazada por una universidad debido a que su padre figuraba en una lista negra de crédito encendió un fuego de ira online. La decisión de la universidad no había sido oficialmente autorizada ni ordenada por el Gobierno. Más bien, en su entusiasmo por apoyar las nuevas normativas, los responsables universitarios simplemente las aplicaron como una conclusión lógica.

La opacidad del sistema provoca que resulte muy difícil evaluar la efectividad de este tipo de experimentos. El Gobierno ha eliminado a casi todas las voces críticas desde 2012, y desafiar el sistema, aunque sea mínimamente, es cada vez más arriesgado. La información disponible está profundamente viciada; la falsificación sistemática de datos de todo tipo, desde el crecimiento del PIB hasta el uso de la energía hidroeléctrica, intoxica las estadísticas del Gobierno chino. El investigador de la Universidad Nacional de Australia Borge Bakken estima que las cifras oficiales de delincuencia, que el Gobierno quiere minimizar, podrían representar tan solo el 2,5% de toda la conducta delictiva.

En teoría, la gobernanza basada en datos podría ayudar a solucionar estos problemas. Podría evitar las distorsiones al permitir que el Gobierno recopile información directamente. Esa es la idea que respalda, por ejemplo, la introducción de monitores de calidad del aire que envían datos a las autoridades centrales en lugar de depender de los funcionarios locales que podrían colaborar con las industrias contaminantes. Pero muchos aspectos de una buena gobernanza son demasiado complicados como para poder ser monitorizados de esa forma, por lo que la obtención de datos sigue dependiendo de los mismos funcionarios locales.

El Gobierno chino raramente publica datos de rendimiento para evaluar estos sistemas. Pensemos en las cámaras que identifican a los peatones imprudentes en algunas ciudades y los avergüenzan al proyectar sus rostros en vallas publicitarias, o las que rastrean los hábitos de oración de los musulmanes en el oeste de China. Su precisión sigue siendo cuestionable. Cabe preguntarse si el software de reconocimiento facial entrenado con las caras chinas de etnia es capaz de reconocer adecuadamente a los miembros de los grupos minoritarios de Eurasia. Además, incluso si la recopilación de datos es correcta, ¿cómo los usa el Gobierno para dirigir o frustrar el comportamiento futuro? Los algoritmos policiales que predicen quién está más predispuesto a convertirse en delincuente no están abiertos al escrutinio público, ni tampoco las estadísticas sobre si la delincuencia o el terrorismo han aumentado o disminuido. (Por ejemplo, en la región occidental de Xinjiang, la información disponible solo muestra que el número de detenidos se disparó en un 731% desde 2016 hasta 2017.)

En la ciudad de Xiangyang, las cámaras conectadas a la tecnología de reconocimiento facial proyectan fotos de jaywalkers, con nombres y números de identificación, en una valla publicitaria.

Foto: En la ciudad de Xiangyang, las cámaras con reconocimiento facial proyectan fotos de peatones imprudentes, con su nombre y su DNI en una valla publicitaria.

"No es la tecnología la que creó las normativas, pero sí que aumenta enormemente los tipos de datos que el Gobierno chino puede recopilar sobre individuos", afirma el investigador principal del Instituto Lowy y autor de The Party: The Secret World of China’s Communist Rulers, Richard McGregor. "En China internet actúa como un servicio privado de inteligencia digital administrado en tiempo real", añade.

Policía algorítmica

El profesor de comunicaciones en la Universidad de California en Berkeley (EE. UU.) Xiao Qiang publicó un artículo a principios de este año The Washington Post. En el texto, denominaba la gobernanza basada en datos de China como "un estado digital totalitario". Los aspectos distópicos se muestran claramente en el oeste de China.

Tradicionalmente, Xinjiang ("Nuevo Territorio") ha sido el hogar de una minoría musulmana china conocida como uigures. Pero dado que un gran número de migrantes chinos de etnia han (las más grande del mundo) se ha asentado (algunos dicen que han "colonizado") en la región, las oportunidades laborales y religiosas de la población uigur local se han reducido. Uno de los efectos de este fenómeno ha sido un aumento de la violencia que ha afectado tanto hanes como uigures. Destaca un disturbio en 2009 en la capital de Urumqi en el que murieron 200 personas. La respuesta del Gobierno al aumento de las tensiones no ha consistido en organizar foros públicos para exponer distintos puntos de vista ni en ofrecer asesoramiento sobre las regulaciones. En vez de eso, el estado recopila datos y los aplica a algoritmos para determinar quién es "propenso" a cometer futuros actos de violencia o rebeldía.

El Gobierno de Xinjiang contrató a una compañía privada para diseñar los algoritmos predictivos que evalúan varios flujos de datos. No existe un registro público ni responsabilidad de cómo se construyen o ponderan estos cálculos. "Las personas que viven bajo este sistema ni siquiera saben cuáles son las reglas", comenta el antropólogo de la Universidad de Loyola en Nueva Olreans (EE. UU.) Rian Thum. El investigador está especializado en Xinjiang y es testigo de los anuncios de licitación del Gobierno que se emitieron para construir el sistema.

En la ciudad occidental de Kashgar, muchas casas y tiendas locales de las calles principales están tapiadas y las plazas públicas están vacías. Cuando estuve ahí en 2013, estaba claro que Kashgar era una ciudad segregada: las poblaciones han y uigur vivían y trabajaban en distintas partes de la ciudad. Pero por las noches, también era un lugar animado y a menudo ruidoso, donde los sonidos de la llamada a la oración se entremezclaban con la música de baile de los clubes locales y con las conversaciones de ancianos sentados en sillas de plástico en los patios hasta muy tarde. Pero ahora, la ciudad es inquietantemente silenciosa; la vida pública del vecindario prácticamente ha desaparecido. La periodista de The Financial Times Emily Feng visitó Kashgar en junio y publicó fotos en Twitter de las calles recientemente desocupadas.

La razón es que, según algunas estimaciones, más de uno de cada 10 uigures y kazajos adultos de Xinjiang han sido enviados a "campos de reeducación" rodeados de alambradas de pinchos. Y los que aún conservan la libertad viven con miedo.

En los últimos dos años, se han establecido miles de puestos de control en los que los transeúntes deben presentar su cara y su tarjeta de identificación nacional para poder continuar su viaje por una carretera, entrar a una mezquita o visitar un centro comercial. Los uigures deben instalar aplicaciones de seguimiento diseñadas por el Gobierno en sus teléfonos inteligentes, que controlan sus contactos online y las páginas web que visitan. Los agentes de policía visitan los hogares locales con regularidad para recabar más datos sobre cuántas personas viven en una casa, cómo son sus relaciones con los vecinos, cuántas veces rezan a diario, si han viajado al extranjero y qué libros tienen.

Todos estos datos se introducen en el sistema de seguridad pública de Xinjiang, junto con otros registros que capturan información sobre cualquier cosa, desde la situación bancaria hasta la planificación familiar. "El programa informático agrega todos los datos y señala a quienes podrían convertirse en 'una amenaza' para las autoridades", explica Wang. Aunque se desconoce cómo es el algoritmo, se cree que destaca comportamientos como visitar una mezquita en particular, poseer muchos libros, comprar una gran cantidad de gasolina o recibir llamadas telefónicas o correos electrónicos de contactos del extranjero. Las personas señaladas reciben la visita de la policía, que podría llevarlas bajo custodia y ponerlas en prisión o en campos de reeducación sin cargos formales.

Los visitantes de la Plaza Tiananmen en Beijing escanean sus identificaciones en un puesto de control.

Foto: Los visitantes de la Plaza Tiananmen en Pekín escanean sus identificaciones en un puesto de control.

El politólogo de la Escuela Europea de Cultura y Teología en Korntal (Alemania) Adrian Zenz calcula que la tasa de internamiento de las minorías en Xinjiang llega al 11,5% de la población adulta. Estos campamentos están diseñados para infundir patriotismo y hacer que las personas se olviden de sus creencias religiosas. (Los nuevos anuncios de licitación para los guardias de seguridad de incineración parecen indicar que el Gobierno también está tratando de erradicar las tradicionales prácticas funerarias musulmanas en la región).

Mientras que Xinjiang se ha convertido en un extremo draconiano, en otros lugares de China los ciudadanos están empezando a rechazar ciertos tipos de vigilancia. Una compañía de internet que transmitió secuencias de televisión de circuito cerrado cerró esas transmisiones después de una protesta pública. Recientemente la ciudad de Shanghai he emitido regulaciones para que las personas puedan impugnar la información incorrecta que figura en los registros de crédito social. "Existe una creciente demanda de privacidad por parte de los usuarios de internet chinos", afirma un alto miembro del Programa de la Política Tecnológica de CSIS en Nueva York (EE.UU.) Samm Sacks, y concluye: "No es la libertad para todos que se suponía que debía ser".

*Christina Larson es una corresponsal extranjera y periodista científica galardonada, que escribe principalmente sobre China y Asia

Computación

Las máquinas cada vez más potentes están acelerando los avances científicos, los negocios y la vida.

  1. La computación cuántica en la nube, cada vez más rápida y accesible

    La 'start-up' Rigetti Computing conecta ordenadores cuánticos con computadoras convencionales en la nube, lo que reduce la latencia y optimiza los procesos informáticos. Este tipo de propuestas están acercando mucho más las soluciones cuánticas a los investigadores y cada vez más empresas apuestan por ello

  2. "La innovación en el mundo de 'Internet+' puede matarnos"

    El experto en seguridad Bruce Schneier alerta de los peligros que supone que cada vez haya más dispositivos conectados a internet sin una protección ni regulación adecuadas. En lo que bautiza como "Internet+" engloba todo lo relacionado con el IoT, también las personas, a las que considera incluso en riesgo físico ante posibles ataques cibernéticos​

  3. 'Big data', la fuerza que debilitará al Gran Hermano chino

    Aunque pueda parecer intrusiva, la tecnología basada en datos masivos podría aumentar la conciencia sobre privacidad de los ciudadanos de China, históricamente muy reducida. Además, el 'big data' y la computación en la nube ya ayudan a la caótica gestión del tráfico en el país asiático