.

Rohan Thomson

Tecnología y Sociedad

"TikTok, que parece benigna, puede dar muchos datos a China"

1

La experta en vigilancia Samantha Hoffman analiza cómo las empresas tecnológicas del gigante asiático recopilan información para aumentar el poder del Partido Comunista Chino, por lo que defiende que otros gobiernos deben reforzar las leyes de privacidad y la formación sobre transparencia de datos

  • por Mara Hvistendahl | traducido por Ana Milutinovic
  • 24 Agosto, 2020

China no recopila solo enormes cantidades de datos sobre sus propios ciudadanos: también absorbe datos de todo el mundo que algún día podrían ser útiles para su seguridad nacional, utilizando empresas nacionales y extranjeras como vías. Una de las principales expertas del Australian Strategy Policy Institute (Australia) en el modo de vigilancia chino, Samantha Hoffman, ha arrojado luz sobre este fenómeno el año pasado con su informe Engineering Global Consent, que se centra en GTCOM, una de las empresas estatales clave en la estrategia global de recopilación de datos de China. 

La siguiente entrevista ha sido editada por su longitud y para su claridad. 

¿Cómo recopila los datos el Partido Comunista Chino (PCCh)?

Los datos utilizados por el Partido vienen en muchas formas, como texto, imágenes, vídeo y audio. Dentro de China, acceder a estos datos es sencillo. Para tener acceso a los datos globales, el Partido utiliza las empresas estatales, las compañías tecnológicas tanto chinas como extranjeras y sus socios, como por ejemplo los investigadores universitarios. 

El PCCh no recopila los datos solo a través de las tecnologías de vigilancia invasivas como las cámaras que usan el reconocimiento facial. También se basa en las tecnologías que ofrecen servicios cotidianos, como los dispositivos relacionados con las ciudades inteligentes. Mucho antes de que la inteligencia artificial (IA) o el big data se convirtieran en palabras de moda, la intención del Partido era integrar, no simplemente forzar, a la sociedad para que participara en su propio control. 

¿Qué hace el PCCh con todos estos datos? 

El PCCH recopila datos en masa y más tarde decide qué hacer con ellos. Aunque no todos se pueden utilizar de inmediato, el Partido prevé una mejor capacidad técnica para explotar los datos más adelante. 

Grandes conjuntos de datos pueden revelar patrones y tendencias en el comportamiento humano, lo que ayuda al PCCh con la inteligencia y la propaganda, así como con la vigilancia. Algunos de esos datos se introducen en las herramientas como el sistema de crédito social. Los datos masivos, como imágenes y datos de voz, también se pueden utilizar para entrenar los algoritmos para el reconocimiento facial y de voz. 

Los métodos del PCCh no son muy diferentes de los que vemos en la industria publicitaria global. Pero en vez de intentar vender un producto, el PCCh trata de ejercer un control autoritario. Utiliza el capitalismo como un medio para acceder a los datos que pueden ayudar a interrumpir los procesos democráticos y crear un entorno global más favorable para su poder. 

¿Por qué esto representa una amenaza fuera de China?

Los ciudadanos de las democracias liberales están preocupados, y con razón, por la forma en la que las empresas tecnológicas abusan de sus datos, pero al menos en esas democracias existen crecientes restricciones sobre cómo se utilizan los datos. En China, donde el partido-estado destaca literalmente que el propósito de la ley es "fortalecer y mejorar el liderazgo del Partido", la tecnología se usa para aumentar el poder político del partido-estado y se desarrolla de acuerdo con ese estándar. El Partido habla de su intención de moldear la opinión pública global para proteger y expandir su propio poder político. Al mismo tiempo, las empresas tecnológicas chinas recopilan datos en apoyo de esos esfuerzos. Cualquiera que viva en una democracia liberal debería preocuparse por las ramificaciones que esto tiene para las libertades y la privacidad. 

Entonces, ¿deberíamos eliminar TikTok de nuestros teléfonos? 

Yo no lo instalaré en el mío. TikTok es un buen ejemplo de una aplicación aparentemente benigna que puede brindarle al PCCh muchos datos útiles. No se nos ocurriría que una aplicación de redes sociales que utilizan muchos niños en todo el mundo resultaría inherentemente problemática por razones políticas. Pero los datos de opinión de una aplicación como TikTok se pueden usar para comprender cómo influir en las personas y cómo piensan. Una demanda presentada recientemente contra esta empresa en California (EE. UU.) alega que los datos faciales recopilados por la aplicación estaban conectados a los servidores de la RPC [República Popular China], lo que genera importantes preocupaciones sobre la privacidad. 

TikTok ha afirmado que almacena los datos de los usuarios en los servidores ubicados en EE. UU. y Singapur, pero esta es una forma de esquivar las preguntas sobre el posible control político del Partido sobre la empresa. Además, se ha descubierto que la aplicación censura o suprime el contenido de Black Lives Matter y LGBTQ, entre otros temas. Para mí, esto ha sucedido con suficiente frecuencia en todo el mundo para parecer un patrón y no un fallo, y se trata de un error que no puedo pasar por alto.

¿Puede explicar por qué le preocupa GTCOM, la empresa china poco conocida que ha analizado?

GTCOM es una empresa de big data e inteligencia artificial controlada por el Departamento Central de Propaganda de China, que está muy involucrado en los intentos del Partido de cambiar la narrativa global en torno al poder de China. Uno de sus productos afirma recopilar 10 terabytes de datos al día o de dos a tres petabytes al año, de páginas web, foros, Twitter, Facebook, WeChat y otras fuentes. En términos de tamaño, eso equivale a 20.000 millones de fotos de Facebook. La empresa describe su trabajo como una contribución directa a la seguridad nacional de China, incluida la inteligencia militar y la propaganda.

El departamento de investigación y desarrollo de GTCOM ha desarrollado algoritmos que buscan palabras militares clave en la información que recoge, que podría provenir, por ejemplo, de CV o patentes. La empresa ha declarado específicamente que su trabajo ayuda a la seguridad del estado. En 2017, un alto ejecutivo dijo que GTCOM había establecido un sistema de seguridad de la información que se basa en el reconocimiento de imagen, texto y voz para "prevenir los riesgos de seguridad" y "proporcionar soporte técnico y asistencia para la seguridad del estado". 

¿Qué pasa con el trabajo de GTCOM en el extranjero?

GTCOM tiene fuertes relaciones con las empresas tecnológicas chinas que cuentan con una gran presencia global. Por ejemplo, firmó un acuerdo estratégico con Alibaba Cloud para integrar sus servicios de traducción en la tecnología de la empresa. El modelo de negocio de prestación de servicios de GTCOM le permite recopilar todos los datos que generan los servicios de traducción de GTCOM. A primera vista, podría parecer que sus servicios se utilizan para mejorar la calidad de la traducción, pero en realidad también se usan para crear otros productos, incluidos los relacionados con el trabajo de seguridad nacional. 

GTCOM ha establecido asociaciones con investigadores lingüísticos de todo el mundo. Estas asociaciones le dan a GTCOM acceso a una amplia variedad de datos. Lo que está llevando a cabo GTCOM no es muy diferente a Palantir [empresa de análisis estadounidense] en términos de análisis de big data. La diferencia consiste en que la intención del trabajo de GTCOM está enmarcada por el PCCh, cuyos intereses son contrarios a los de una democracia liberal.  

¿Qué debemos hacer en relación con todo esto? 

Las soluciones ideales aún no existen, en parte porque la investigación sobre estos temas no ha sido exhaustiva ni prospectiva. Pero podemos comenzar con una mayor inversión en los programas de formación sobre los datos y la transparencia de datos. Las democracias liberales deben mejorar los mecanismos necesarios en torno a la seguridad en la cadena de suministro digital, invertir en la investigación y desarrollo y ser más competitivas en el mercado de las tecnologías inteligentes. No pueden realizarlo todo solas; se deben fortalecer las alianzas. Por último, los gobiernos democráticos liberales deben reforzar las leyes de privacidad de datos y repensar cómo gestionar la propaganda de fuentes nacionales y extranjeras en la era digital, pero sin comprometer los valores democráticos en el camino. Para ello, hay que tener claro cuáles son sus valores y por qué se diferencian de los que tienen los regímenes autoritarios.

Tecnología y Sociedad

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. Un 'deepfake' de Putin alerta a EE. UU. de la fragilidad de su democracia

    Una campaña publicitaria, cuya emisión se prohibió en el último momento, presenta sendos vídeos ultrafalsificados del mandatario ruso y de Kim Jong-un, en los que advierten de que el país no necesita que interfieran en sus próximas elecciones, ya que arruinará su propia democracia por su cuenta

  2. Seis pasos para planificar su vida en tiempos de pandemia e incertidumbre

    El coronavirus ha demostrado que el mundo que conocemos puede cambiar en cualquier momento. En lugar de dejar que la ansiedad le paralice, puede recuperar las riendas de su vida y prepararse para el futuro con prospectiva estratégica, una metodología para tomar decisiones en situaciones de gran volatilidad

  3. El dilema de digitalizar la salud mental: más precisión, cero privacidad

    Cada vez más psiquiatras analizan datos de teléfonos móviles y redes sociales en busca de pistas para diagnosticar y predecir trastornos mentales de forma más objetiva. Pero, sin leyes robustas sobre privacidad, el fenotipado digital psicológico también podría usarse con fines comerciales y discriminatorios