.

Getty

Ética

Cómo la COVID-19 popularizó las tecnologías de vigilancia china

1

El país era experto en usar cámaras térmicas y reconocimiento facial para controlar a su población. Al llegar la pandemia, el resto del mundo empezó a comprar sus sistemas para proteger a los trabajadores y, después, para hacer negocio con ellos, institucionalizando el control de manera informal y divertida

  • por Darren Byler | traducido por Ana Milutinovic
  • 18 Octubre, 2021

A mediados de 2019, un policía de la ciudad china de Kuitun tocó el hombro de una joven estudiante de la Universidad de Washington (EE. UU.) mientras atravesaba un mercado abarrotado. Al principio, la estudiante, Vera Zhou, no lo notó porque iba escuchando música mientras se abría paso entre la multitud. Cuando se dio la vuelta y vio el uniforme negro, se puso pálida. El oficial de policía, hablando en chino, el idioma nativo de Vera, le indicó que entrara a una comisaría cercana, uno de los más de 7.700 centros de vigilancia de este tipo que actualmente existen en esta región.

En un monitor, Vera vio su rostro rodeado por un cuadrado amarillo. En otras pantallas vio a otras personas caminando por el mercado y sus rostros rodeados por cuadrados verdes. Junto al vídeo de alta definición de su rostro, sus datos personales aparecían en un cuadro de texto negro e indicaban que Vera era de la etnia hui, un grupo musulmán chino que cuenta con alrededor de un millón de personas de entre los 15 millones de musulmanes en el noroeste de China.

La alarma se había activado porque estaba fuera de los parámetros de la cuadrícula policial del confinamiento de su vecindario. Como antigua detenida en un campo de reeducación, a Vera no se le permitía ir a otras áreas de la ciudad sin el permiso explícito tanto de la unidad de vigilancia de su vecindario como de la Oficina de Seguridad Pública. El cuadrado amarillo alrededor de su rostro en la pantalla indicaba que había vuelto a ser considerada una "precriminal" por el sistema digital que mantenía a los musulmanes bajo control. Sintió que le faltaba el aire.

En la portada del libro de Camps

Foto: Esta publicación es un extracto editado de 'In the Camps: China High-Tech Penal Colony' por Darren Byler (Columbia Global Reports, 2021.)

Kuitun es una pequeña ciudad de alrededor de 285.000 habitantes en la prefectura de Tacheng de Xinjiang (China), en la frontera de China con Kazajistán. Vera llevaba atrapada allí desde 2017 cuando, en la mitad de su tercer año como estudiante de geografía en la Universidad de Washington (donde yo daba clases), hizo un viaje improvisado de vuelta a casa para ver a su novio. Después de una noche en un cine, su novio recibió una llamada pidiéndole que fuera a una comisaría local. Allí, los agentes le dijeron que tenían que interrogar a su novia: habían descubierto actividad sospechosa en el uso de internet de Vera, explicaron. Ella había utilizado una red privada virtual, o VPN, para acceder a "sitios web ilegales", como su cuenta de Gmail de la universidad. Esto, le dijeron más tarde, era una "señal de extremismo religioso".

Vera tardó algún tiempo en darse cuenta de lo que ocurría. Quizás por el hecho de que su novio no era musulmán y pertenecía al grupo mayoritario de los hanes y no querían que montara una escena, al principio la policía fue bastante indirecta sobre lo que pasaría a continuación. Solo le dijeron a Vera que tenía que esperar en la comisaría.

Cuando preguntó si estaba detenida, no querían responder. "Solo siéntese", le dijeron. En esos momentos ya estaba bastante asustada, así que llamó a su padre, que estaba en su ciudad natal y le contó lo que pasaba. Finalmente, una furgoneta de la policía apareció en la comisaría: la subieron la parte de atrás, y al perder de vista a su novio, la policía le esposó las manos detrás de la espalda con fuerza y la empujó bruscamente al asiento trasero.

Precriminales

Vera Zhou no creía que la guerra contra el terrorismo tuviera que ver con ella. La chica se consideraba una fashionista no religiosa. Llevaba pendientes grandes y vestía de negro. Había terminado la escuela secundaria cerca de Portland (EE. UU.) e iba a convertirse en planificadora urbana en una universidad estadounidense de primer nivel. Había planeado reunirse con su novio después de graduarse y tener una carrera en China, donde pensaba que la economía estaba en auge. No tenía ni idea de que a principios de 2017 se había adoptado una nueva ley de seguridad en internet en su ciudad natal y en todo Xinjiang, y que así era como los "precriminales" extremistas, denominados así por las autoridades estatales, se identificaban para su detención. No sabía que el recién nombrado secretario del partido de la región había dado la orden de "reunir a todos los que deberían ser detenidos" como parte de la "Guerra Popular".

En la parte trasera de la camioneta, Vera sintió que perdía el control en una ola de miedo. Empezó a gritar y a llorar: "¿Por qué hacen esto? ¿No protege nuestro país a los inocentes?" Le parecía que se trataba de una broma cruel, como si le hubieran dado un papel en una película de terror, y que, si decía las palabras adecuadas, podrían reaccionar y darse cuenta de que todo era un error.

Durante los meses siguientes, estuvo detenida con otras 11 mujeres de minoría musulmana en una celda de segunda planta de una antigua comisaría de policía en las afueras de Kuitun. Igual que Vera, las demás también fueron culpables de "preciber crímenes". Una mujer kazaja había instalado WhatsApp en su teléfono para ponerse en contacto con sus socios comerciales en Kazajistán. Una mujer uigur que vendía teléfonos inteligentes en una tienda había permitido que varios clientes registraran sus tarjetas SIM utilizando su DNI.

En abril de 2018, sin previo aviso, Vera y varias otras detenidas fueron liberadas bajo la condición de visitar a los trabajadores locales de estabilidad social de manera regular y no intentar salir de sus barrios de origen.

Cada vez que su trabajadora social de estabilidad compartía algo en las redes sociales, Vera siempre era la primera en apoyarla dándole me gusta y publicándolo en su propia cuenta.

Todos los lunes, su responsable de libertad condicional le requería que asistiera a una ceremonia de izado de bandera en el vecindario y que participara cantando en voz alta el himno nacional chino y haciendo declaraciones jurando su lealtad al Gobierno chino. En aquel entonces, gracias a las noticias de detención por ciberdelitos que circulaban ampliamente en la pequeña ciudad, se sabía que el comportamiento online podría ser detectado por los recientemente instalados sistemas automatizados de vigilancia de internet. Como todos los demás, Vera cambió su comportamiento online. Siempre que la trabajadora de estabilidad social asignada a Vera compartía algo, Vera era la primera en apoyarla dándole me gusta y publicándolo en su propia cuenta. Como todos los demás que conocía, empezó a "difundir energía positiva" promoviendo activamente la ideología estatal.

Al regresar a su barrio, sintió que había cambiado. A menudo pensaba en los cientos de detenidos que había visto en el campamento. Temía que a muchos de ellos nunca se les permitiera salir porque no sabían chino y eran musulmanes practicantes. Reconoció que su tiempo en el campamento también la hizo cuestionar su propia cordura. Recuerda: "A veces pensaba que tal vez no amaba lo suficiente a mi país. Quizás solo pensaba en mí".

Pero también sabía que lo que le había pasado no era culpa suya, sino el resultado de la institucionalización de la islamofobia, que se centró en ella. Estaba absolutamente convencida de que se estaba cometiendo una crueldad inconmensurable con los uigures y los kazajos debido a sus diferencias étnico-raciales, lingüísticas y religiosas.

"Empecé a quedarme en casa todo el tiempo"

Como todos los detenidos, antes de que la llevaran al campamento, Vera había sido sometida a una rigurosa recopilación de datos biométricos como parte del proceso de evaluación de toda la población denominado "exámenes físicos para todos". La policía escaneó el rostro y el iris de Vera, grabó su voz y le sacó la sangre, registró sus huellas dactilares y el ADN, introduciendo estos datos precisos en un inmenso conjunto de datos que se utilizaba para mapear el comportamiento de la población de la región. También le habían quitado el teléfono y rastrearon sus cuentas de redes sociales en busca de imágenes islámicas, conexiones con extranjeros y otros signos de "extremismo". Después se lo devolvieron, pero sin ninguna de las apps creadas en Estados Unidos como Instagram, por ejemplo.

Durante varias semanas, Vera empezó a encontrar formas de esquivar los numerosos centros de vigilancia que se habían construido a cada pocos cientos de metros. Fuera de las áreas más concurridas, muchos de estos centros usaban cámaras de vigilancia que no podían detectar rostros en tiempo real. Como podía hacerse pasar por han y hablar mandarín estándar, simplemente decía a los trabajadores de seguridad en los puntos de control que se había olvidado su DNI y escribía un número falso. O a veces pasaba por la salida del puesto de control por "la fila verde", como una persona de la etnia han, e ignoraba a la policía.

Pero una vez, cuando iba a ver una película con una amiga, se le olvidó fingir que era han. En el puesto de control en el cine, puso su DNI en el escáner y miró a la cámara. Inmediatamente sonó una alarma y los policías del centro comercial la apartaron. Mientras su amiga desaparecía entre la multitud, Vera encendió su teléfono para borrar frenéticamente sus redes sociales y los contactos de las personas que podrían acabar detenidas por su relación con ella. Recuerda: "Entonces me di cuenta de que no era seguro tener amigos. Empecé a quedarme en casa todo el tiempo".

Finalmente, como muchos antiguos detenidos, fue obligada a trabajar de forma no remunerada. El comandante de la oficina local de la policía nacional de su barrio se enteró de que había pasado un tiempo en Estados Unidos como estudiante universitaria, y le pidió a su responsable de la libertad condicional que la asignara para dar clases particulares de inglés a sus hijos. Y añade: "Pensé en pedirle que me pagara. Pero mi papá dijo que tenía que hacerlo gratis. También les enviaba comida para mostrarles cuánto quería complacerlos".

El comandante nunca mencionó ninguna forma de pago.

En octubre de 2019, la responsable de la libertad condicional de Vera le dijo que estaba contenta con su progreso y que se le permitiría seguir su educación en Seattle (EE. UU.). Tuvo que firmar un juramento de que no hablaría de lo que había experimentado. La responsable le dijo: "Tu padre tiene un buen trabajo y pronto llegará a la edad de jubilación. Recuérdalo".

En otoño de 2019, Vera regresó a Seattle. Pocos meses después, al otro lado de la ciudad, Amazon, la empresa tecnológica más rica del mundo, recibió un envío de 1.500 sistemas de cámaras de cartografía térmica de la empresa de vigilancia china Dahua. Muchos de estos sistemas, que conjuntamente valían alrededor de 10 millones de dólares (8,6 millones de euros), se iban a instalar en los almacenes de Amazon para controlar la temperatura de los empleados y alertar a los gerentes si los trabajadores presentaban síntomas de coronavirus (COVID-19). Otras cámaras incluidas en el envío se distribuyeron a IBM y Chrysler, entre otros compradores.

Dahua fue solo una de varias empresas chinas que capitalizaron la pandemia. A medida que la COVID-19 llegaba más allá de las fronteras de China a principios de 2020, un grupo de empresas de investigación médica propiedad del Instituto de Genómica de Beijing, o BGI, se expandió radicalmente, estableció 58 laboratorios en 18 países y vendió 35 millones de pruebas de COVID-19 a más de 180 países. En marzo de 2020, las empresas como Russell Stover Chocolates y US Engineering (la empresa de contratación mecánica de EE. UU.), compraron pruebas por valor de 1,2 millones de dólares (1,03 millones de euros) e instalaron equipos de laboratorio de BGI en los centros del Sistema Médico de la Universidad de Kansas.

Mientras Dahua vendía sus equipos a empresas como Amazon, Megvii, uno de sus principales rivales, instaló sus sistemas de control de temperatura en hospitales, supermercados, campus en China y en los aeropuertos de Corea del Sur y de Emiratos Árabes Unidos.

Pero, aunque la velocidad y la intención de esta respuesta fueron admirables para proteger a los trabajadores en ausencia de una acción estadounidense efectiva a nivel nacional, estas empresas chinas también están involucradas en distintas formas de atroces violaciones de los derechos humanos.

Dahua es uno de los principales proveedores de sistemas de "campamentos inteligentes" que Vera Zhou experimentó en Xinjiang (la compañía asegura que sus instalaciones están respaldadas por tecnologías como "sistemas de visión artificial, análisis de big data y computación en la nube"). En octubre de 2019, tanto Dahua como Megvii se encontraban entre las ocho empresas tecnológicas chinas incluidas en una lista que impide que los ciudadanos estadounidenses les vendan bienes y servicios (la lista, que tiene como objetivo evitar que las empresas estadounidenses suministren a empresas no estadounidenses consideradas una amenaza para los intereses nacionales, impide que Amazon venda a Dahua, pero no al revés). Las subsidiarias de BGI en Xinjiang fueron incluidas en la lista de no comercio con EE. UU. en julio de 2020.

La compra por parte de Amazon de las cámaras de control de temperatura de Dahua recuerda un momento anterior en la expansión del capitalismo global que fue capturado por la memorable frase del historiador Jason Moore: "Detrás de Manchester [Reino Unido] está Mississippi [EE. UU.]".

¿Qué quiso decir Moore? Al releer el análisis de Friedrich Engels de la industria textil que hizo que Manchester fuera tan rentable, vio que muchos aspectos de la Revolución Industrial Británica no hubieran sido posibles sin el algodón barato producido por la mano de obra esclava en Estados Unidos. De manera similar, la capacidad de Seattle, Kansas City y Seúl (Corea del Sur) para responder tan rápidamente a la pandemia se basa, en parte, en cómo los sistemas de opresión en el noroeste de China han abierto un espacio para entrenar los algoritmos de vigilancia biométrica.

La protección de los trabajadores durante la pandemia está sujeta a que se olviden los estudiantes universitarios como Vera Zhou. Eso significa ignorar la deshumanización de los miles de detenidos y trabajadores privados de libertad. Al mismo tiempo, Seattle también está delante de Xinjiang.

Amazon tiene su propio papel en la vigilancia involuntaria que daña desproporcionadamente a las minorías étnico-raciales, dada su asociación con el Servicio de Inmigración y Control de Aduanas de EE. UU. para identificar a los inmigrantes indocumentados, y sus esfuerzos de presión activa para apoyar una regulación de vigilancia biométrica débil. Más directamente, Microsoft Research Asia, la llamada "cuna de la inteligencia artificial china", ha tenido un papel fundamental en el crecimiento y desarrollo de Dahua y Megvii.

La financiación estatal china, el discurso del terrorismo global y la formación en la industria estadounidense son tres de las principales razones por las que una flota de empresas chinas actualmente lidera el mundo en el reconocimiento facial y de voz. Este proceso fue acelerado por una guerra contra el terrorismo que se centró en colocar a los uigures, kazajos y hui dentro de un complejo confinamiento digital y físico, pero en la actualidad se extiende a toda la industria tecnológica china, donde los sistemas de infraestructura de uso intensivo de datos generan recintos digitales flexibles en todo el país, aunque no a la misma escala que en Xinjiang.

La vasta y rápida respuesta de China a la pandemia ha acelerado aún más este proceso al implementar rápidamente estos sistemas y dejar en claro que funcionan. Debido a que extienden el poder del Estado de maneras tan amplias y directas, son capaces de alterar eficazmente el comportamiento humano.

Vías alternativas

Sin embargo, el enfoque chino contra la pandemia no es el único capaz de detenerla. También han sido efectivos los estados democráticos como Nueva Zelanda y Canadá, que han proporcionado pruebas, mascarillas y ayuda económica a quienes se vieron obligados a quedarse en casa. Estos países dejan en claro que la vigilancia involuntaria no es la única forma de proteger el bienestar de la mayoría, ni siquiera a nivel nacional.

De hecho, numerosos estudios han demostrado que los sistemas de vigilancia apoyan el racismo sistémico y la deshumanización deteniendo a las poblaciones objetivo. El anterior y actual uso de la Lista de entidades por parte de las administraciones estadounidenses para prohibir las ventas a las empresas como Dahua y Megvii, aunque resulta importante, también produce un doble rasero, castigando a las empresas chinas por automatizar la racialización mientras financian a las empresas estadounidenses para que hagan algo similar.

Un número cada vez mayor de empresas de EE. UU. intentan desarrollar sus propios algoritmos para detectar los fenotipos raciales, aunque a través de un enfoque consumista basado en el consentimiento. Al convertir la racialización automatizada en una oportunidad de negocio para productos como las barras de labios, las empresas como Revlon están consolidando las condiciones técnicas disponibles para las personas.

Como resultado, en muchos sentidos, la raza sigue siendo una parte impensable de cómo las personas interactúan con el mundo. La policía de Estados Unidos y de China consideran las tecnologías de evaluación automatizada como herramientas para detectar posibles delincuentes o terroristas. Los algoritmos hacen que parezca normal que estos sistemas detecten desproporcionadamente a hombres negros o uigures. Impiden que la policía, y aquellos a quienes protegen, reconozcan que la vigilancia siempre está relacionada con controlar y disciplinar a las personas que no encajan en la visión de los que están en el poder. Todo el mundo, no solo China, tiene un problema con la vigilancia.

Para contrarrestar la creciente banalidad, la cotidianidad de la racialización automatizada, primero hay que evidenciar los daños de la vigilancia biométrica en todo el mundo. Las vidas de los detenidos deben hacerse visibles en el marco del poder sobre la vida. Entonces, debe quedar claro el papel de los ingenieros, inversores y empresas de relaciones públicas de nivel mundial en la falta de reflexión sobre la experiencia humana, en el diseño para la reeducación humana. Las redes de interconexión (la forma en la que Xinjiang está detrás y delante de Seattle) deben replantearse.

*Esta publicación es un extracto editado de 'In the Camps: China High-Tech Penal Colony' por Darren Byler (Columbia Global Reports, 2021.). Darren Byler es profesor de Estudios Internacionales en la Universidad Simon Fraser (Canadá), especializado en la tecnología y la política de la vida urbana en China.

Ética

  1. Los militares empiezan a preocuparse por la ética y los peligros de la IA

    Tras el escándalo de Google en el Proyecto Maven del Departamento de Defensa de EE. UU., el organismo ha creado unas pautas éticas que sus colaboradores privados deberán seguir. Aunque suponen un gran paso adelante, su falta de detalle podría reducir su impacto

  2. Caso práctico: probamos por qué un algoritmo judicial justo es imposible

    COMPAS reveló tener sesgos hacia los acusados negros, así que hemos intentado rediseñarlo para que sus resultados sean más justos. Pero, al estar entrenado con datos históricos injustos resulta imposible que ofrezca las mismas tasas de acierto y error mientras trata a todos los colectivos de la misma manera

  3. "La ciencia de datos puede mitigar el odio generado en la 'machosfera'"

    Aunque sabe que todavía queda mucho trabajo por hacer, la pionera científica de datos Jennifer Chayes defiende el poder del campo para mejorar los sesgos y los abusos que dominan internet, y critica que el uso que las empresas hacen de los datos presenta innumerables problemas