.

STEPHANIE ARNETT/MITTR; GETTY

Tecnología y Sociedad

Más allá del “crédito social”: China quiere evaluar todo lo que se dice en la red

1

El sistema chino de crédito social no cuenta con un algoritmo que lo sepa todo, pero aun así tiene consecuencias significativas, especialmente en la libertad de expresión

  • por Zeyi Yang | traducido por Ana Milutinovic
  • 01 Diciembre, 2022

Ayer publicábamos una explicación sobre el sistema de crédito social de China. El Gobierno chino hizo público el 14 de noviembre un proyecto de ley que servirá más adelante como guía de alto nivel sobre cómo el país construye ese sistema.

Así es, el sistema chino de crédito social nacional ni siquiera está completamente construido todavía, pero es comprensible pensar lo contrario. En estos momentos, solo existe realmente en fracciones y hay muchas percepciones occidentales erróneas al respecto. En particular, que un algoritmo omnisciente califica los comportamientos diarios de las personas. Esto no existe en la realidad, y en mi reportaje anterior explico en qué consiste realmente este sistema y cómo debemos entender los créditos sociales.

El verdadero sistema de crédito social se enfoca en promover la fiabilidad en los negocios, en el consumo, en la educación y… en casi todos los demás aspectos de la vida. Eso suena bastante bien en teoría, pero me gustaría profundizar sobre cómo todo esto resulta más complicado de lo que parece. 

Un ejemplo particular de las consecuencias del sistema de crédito social, específicamente, cómo puede afectar las redes sociales y la libertad de expresión, revela cómo el objetivo de generar confianza (que suena tan noble) puede ser problemático en la práctica.

La pregunta clave es: ¿Quién decide si un comentario o un usuario de las redes sociales es fiable? Es una pregunta increíblemente difícil que las plataformas de todo el mundo, incluidos Twitter y Facebook, aún tienen dificultades por responder.

En China, sin embargo, el Gobierno parece confiar en que puede ser el árbitro final. En este contexto, tal y como me comenta Shazeda Ahmed, investigadora de la Universidad de Princeton (EE UU), es necesario preguntarse: ¿Qué significa ser digno de confianza u honesto a los ojos del Gobierno chino?

En 2019, la Administración del Ciberespacio de China presentó un proyecto de reglamento para crear un sistema de crédito social en el sector de internet. Establece que las agencias gubernamentales pueden considerar a una persona o una empresa como "entidades profundamente no fiables" por "fabricar, publicar o transmitir información contraria a las costumbres sociales, a la moralidad comercial o a la honestidad y el crédito".

Si bien parte de la información se puede verificar y demostrar como falsa, cosas como las "costumbres sociales" y la "honestidad" a menudo son demasiado vagas para definirlas objetivamente, por lo que vuelve al Gobierno la tarea de identificar qué constituye un valor moral.

Bueno, ya hemos visto cómo esto puede salir terriblemente mal. En los primeros meses de la COVID-19, el Gobierno local de Wuhan (China) castigó a ocho personas por publicar "rumores" sobre el virus que supuestamente socavaron la confianza pública. El médico Li Wenliang, que les explicó a sus amigos en un chat de grupo que se estaba propagando un virus similar al SARS, fue llamado por la policía por "publicar mentiras online". Posteriormente, su muerte por COVID-19 provocó una ola nacional de furia contra el control de la información por parte del Gobierno.

Se trata solo de un incidente, pero a medida que la idea de construir la solvencia social se filtra cada vez más en otras regulaciones, revela los riesgos de estandarizar una práctica en la que el Gobierno emite evaluaciones morales para su población.

La semana pasada, la Administración del Ciberespacio de China finalizó una regulación completamente dedicada a los "comentarios online", y escribí sobre ello cuando se propuso por primera vez en junio. El objetivo principal de la regulación es tener las interacciones en las redes sociales, incluidas aquellas en formas más novedosas como transmisiones en directo, bajo los mismos controles estrictos que China siempre ha tenido para otros contenidos online.

Estas reglas no son realmente parte del sistema de crédito social más amplio, pero aun así encontré un lenguaje familiar en el documento. Pide a las plataformas de redes sociales que "realicen evaluaciones crediticias de la conducta de los usuarios al comentar las publicaciones" y que "realicen valoraciones crediticias de la gestión de los comentarios de las publicaciones por parte de los productores-operadores de cuentas públicas".

La idea es que si un influencer o un usuario publica cosas que no son fiables, eso se debe reflejar en la evaluación crediticia de esa persona. Y los resultados de esa evaluación determinarán "el alcance de los servicios y la funcionalidad" que se ofrecen a las personas en ciertas plataformas.

No es el único ejemplo específico del Gobierno chino que utiliza la importancia de la "capacidad crediticia" o la "confianza" para justificar más reglas. Esto se vio cuando el Gobierno decidió establecer una lista negra de celebridades que promueven la "mala" moraltomar medidas enérgicas contra los bots de las redes sociales y el spam, y asignar responsabilidades a los administradores de chats de grupos privados.

Todo esto sirve para resaltar que el desarrollo en curso del sistema de crédito social de China a menudo está sincronizado con el desarrollo de políticas más autoritarias. "A medida que China se centra cada vez más en la vida social y cultural de las personas, regulando aún más el contenido del entretenimiento, la educación y el discurso, esas normas también estarán sujetas a la aplicación del crédito", escribió el jurista Jeremy Daum en 2021.

Sin embargo, antes de terminar, quiero advertir contra la tendencia a exagerar los riesgos percibidos, que ha sucedido repetidamente cuando la gente ha discutido el sistema de crédito social.

La buena noticia es que, hasta ahora, la intersección del crédito social y el control del discurso online ha sido muy limitada. El proyecto de reglamento de 2019 para construir un sistema de crédito social para el sector de internet aún no se ha convertido en ley. Y mucho de lo que se habla sobre el establecimiento de sistemas de evaluación de crédito para las redes sociales, como el que exige la última regulación sobre comentarios online, parece más una ilusión que una guía práctica en este punto. Algunas plataformas sociales operan sus propios "puntos de crédito": Weibo tiene los suyos para cada usuario y Douyin tiene lo mismo para los influencers en las compras, pero son más funciones secundarias que pocos en China dirían que son lo más importante.

Hoy en día, en vez de preocuparnos por el riesgo teórico de cómo se podría usar un sistema de crédito social para sofocar la libertad de expresión, es más importante dedicar nuestro tiempo y recursos a identificar qué mecanismos de censura ya existen y funcionan, como los que ya usan las plataformas sociales de forma rutinaria para filtrar publicaciones y prohibir cuentas por discutir eventos políticamente sensibles (incluida la prohibición masiva antes del 20º Congreso del Partido). Se trata de mayores amenazas y más urgentes para los usuarios de internet chinos que el sistema de crédito social que ni siquiera el Gobierno ha definido todavía.

Al día con China

1. El parlamento de Taiwán aprobó su propia versión de la Ley CHIPS de EE UU, cuyo objetivo es mantener el liderazgo de Taiwán en la tecnología de fabricación de semiconductores al otorgar grandes exenciones de impuestos corporativos. (Reuters)

2. Mientras Meta, Twitter y Amazon realizan despidos masivos, TikTok se está acercando a algunos de sus ingenieros de software despedidos y planea duplicar el personal en su oficina en Mountain View, California (EE UU). (The Information)

3. El subcontratista de moderación de contenido de TikTok en Colombia está siendo investigado por el Ministerio de Trabajo de ese país por condiciones laborales traumáticas y salarios bajos. (Time)

4. Muchos empleados senior de FTX han dejado sus alojamientos gratuitos en las Bahamas y han regresado a Hong Kong, donde esta plataforma del criptointercambio tenía una sede hasta 2021. (Semafor)

5. Los inversores de Wall Street están de nuevo entusiasmados con las acciones chinas, impulsadas por los recientes cambios de política de COVID-19 en China y la reunión entre Biden y Xi. (Bloomberg)

  • Silicon Valley puede que tenga menos confianza.  Uno de los primeros inversores de Tesla, Tim Draper, decidió retirar sus inversiones en China y, en su lugar, prestar más atención a las start-ups en Taiwán. (Wall Street Journal)

6. Los médicos chinos aseguran que el sistema sanitario del país no está preparado para el aumento inevitable de casos de COVID-19 cuando Beijing (China) decida relajar aún más sus políticas de cero COVID-19. (Financial Times)

7. Los chinos de 20 y 30 años ya no quieren trabajar en fábricas como sus padres. Y las tecnologías de automatización no pueden (todavía) llenar este vacío laboral. (Reuters)

Perdido en la traducción

Casi un año después de que la principal influencer de transmisión en directo de China, Viya, fuera censurada de repente por evasión de impuestos, se ha reinventado a sí misma como la jefa de un imperio en expansión de inversión y negocios de cadena de suministro, informó la publicación china Renwu.

Antes conocida por ser capaz de vender mercancías por valor de más de mil millones de dólares en una transmisión en vivo, Viya (cuyo nombre real es Huang Wei) tocó fondo en diciembre de 2021, cuando el Gobierno chino la multó con casi 200 millones de dólares (192,5 millones de euros). Posteriormente, todas las plataformas de redes sociales chinas prohibieron sus cuentas. Pero Viya ya había comenzado a convertir su influencia online en la construcción de un ecosistema de cadena de suministro de comercio electrónico mucho antes de su caída. Aunque nunca volvió a aparecer frente al público, su imperio comercial ha sobrevivido. Dos start-ups de fabricación en las que invirtió se han hecho públicas recientemente, y es posible que haya ganado más dinero que cuando todavía aparecía frente a las cámaras.

Una cosa más

Esto es incómodo. Antes de una competición de rugby entre Hong Kong y Corea del Sur celebrada en una ciudad cercana a Seúl (Corea del Sur) el 13 de noviembre, el organizador por error puso "Gloria a Hong Kong", un himno no oficial de las protestas a favor de la democracia de 2019, en vez del himno nacional chino. Y pronto se supo que en al menos dos campeonatos separados de rugby este año, se tocó el himno correcto, pero los gráficos de televisión aún se referían a él como "Gloria a Hong Kong". En lugar de tomárselo bien, el Gobierno de Hong Kong inició una investigación policial sobre el último incidente, y el legislador particularmente pro-Beijing, Junius Ho, incluso pidió que se disolviera el equipo de rugby de Hong Kong por no reaccionar mientras escuchaban la canción equivocada.

Tecnología y Sociedad

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. ChatGPT puede planear tus entrenamientos, pero no conoce el cuerpo humano

    Los consejos 'fitness' del gran modelo de lenguaje de OpenAI llaman la atención, pero no deberían tomarse demasiado en serio

  2. El directivo que dejó Tesla para "trabajar con la basura"

    JB Straubel habla sobre su empresa, Redwood Materials, y los desafíos que se avecinan para las baterías

  3. Antes muerta que sencilla, incluso en el metaverso

    "Se nos impone vestir de cierta manera, pero en el metaverso podemos ser cualquier cosa"