.

MIT Technology Review | Envato Elements

Tecnología y Sociedad

Un informe filtrado de Facebook revela su impulso a las granjas de troles

1

Ponemos a su disposición un documento interno que destapa que el contenido de estas páginas, muchas gestionadas desde Macedonia y Kosovo, llegó a 140 millones de estadounidenses al mes antes de las elecciones de 2020. Es el propio diseño de la plataforma el que ayuda a estos malos actores a tener tanto impacto. La compañía lo sabe, pero no parece hacer nada para solucionarlo

  • por Karen Hao | traducido por Ana Milutinovic
  • 23 Septiembre, 2021

En el período previo a las elecciones de EE. UU. de 2020, las más controvertidas de la historia, las páginas más populares de contenido cristiano y afroamericano de Facebook estaban dirigidas por granjas de troles de Europa del Este. Según un informe interno de la empresa, estas páginas eran parte de una red más grande que conjuntamente llegó a casi la mitad de toda la población estadounidense. Y lo peor es que no logró ese alcance por las decisiones de los usuarios, sino gracias al propio diseño de la plataforma de Facebook y su algoritmo basado en la participación.

El informe, escrito en octubre de 2019 y al que MIT Technology Review ha tenido acceso gracias a un antiguo empleado de Facebook que no participó en la investigación, encontró que, después de las elecciones de 2016, Facebook no priorizó los cambios fundamentales en cómo su plataforma promovía y distribuía la información. En cambio, mantuvo su superficial estrategia de monitorizar y sofocar la actividad de los malos actores cuando participan en el discurso político, y añadir algunas barreras para prevenir "lo peor de lo peor".

Pero este enfoque hacía poco para frenar el problema subyacente, según señalaba su propio informe. Las granjas de troles (grupos de profesionales que trabajan de manera coordinada para publicar contenido provocativo en redes sociales, a menudo propaganda) todavía conseguían un público masivo gestionando las redes de páginas de Facebook. Su contenido llegaba a 140 millones de usuarios estadounidenses al mes, el 75 % de los cuales nunca había seguido ninguna de esas páginas. Los usuarios veían ese contenido porque el sistema de recomendación de contenido de Facebook lo había incluido en su feed de noticias.

El autor del informe, el antiguo científico de datos de alto nivel de Facebook Jeff Allen escribió: "En vez de que los usuarios elijan recibir algún contenido de estos actores, es nuestra plataforma la que decide darles [a estas granjas de troles] un alcance enorme".

El portavoz de Facebook, Joe Osborne, afirmó en un comunicado que la compañía "ya había estado investigando estos temas" en el momento del informe de Allen, y añadió: "Desde entonces, hemos formado equipos, desarrollado nuevas políticas y colaborado con los expertos de la industria para abordar estas redes. Hemos tomado medidas agresivas contra este tipo de grupos no auténticos, nacionales y extranjeros, y hemos compartido los resultados públicamente a nivel trimestral".

En el proceso de verificación de datos poco antes de esta publicación, MIT Technology Review descubrió que cinco de las páginas de las granjas de troles mencionadas en el informe permanecían activas.

Foto: Esta es la mayor página de las granjas de troles dedicada a los afroamericanos en octubre de 2019. Todavía permanece activa en Facebook.

El informe encontró que las granjas de troles llegaban a los mismos grupos demográficos escogidos durante las elecciones de 2016 por la Agencia de Investigación de Internet (IRA, por sus siglas en inglés) respaldada por el Kremlin ruso, que se habían dirigido a cristianos, afroamericanos y nativos americanos.

Una investigación de BuzzFeed News de 2018 encontró que al menos un miembro de la IRA rusa, acusada de presunta interferencia en las elecciones estadounidenses de 2016, también había visitado Macedonia en torno al surgimiento de sus primeras granjas de troles, aunque no encontró ninguna evidencia concreta de una conexión. (Facebook aseguró que sus investigaciones tampoco habían encontrado ninguna conexión entre la IRA y las granjas de troles macedonias).

Allen también escribió: "Esto no es normal. Esto no es saludable. Hemos empoderado a los actores no auténticos para que acumulen un gran número de seguidores con fines en gran parte desconocidos... El hecho de que los actores con posibles vínculos con la IRA tengan acceso a una inmensa audiencia en los mismos grupos demográficos a los que apunta la IRA representa un riesgo enorme para las elecciones de EE. UU. en 2020".

Siempre que las granjas de troles tengan éxito en el uso de estas tácticas, cualquier otro actor malo también podría tenerlo. Y añadió: "Si las granjas de troles llegan a 30 millones de usuarios estadounidenses con contenido dirigido a afroamericanos, no debería sorprendernos si descubrimos que la IRA también tiene un gran público allí".

Allen escribió el informe como la cuarta y última entrega de un esfuerzo que duró un año y medio para comprender las granjas de troles. Dejó la empresa ese mismo mes, en parte debido a la frustración de que los directivos habían "ignorado efectivamente" su investigación, según el antiguo empleado de Facebook que nos proporcionó el informe. Allen no ha querido comentarlo.

El texto revela el alarmante estado en el que los directivos de Facebook han dejado la plataforma durante años, a pesar de las reiteradas promesas públicas de abordar con fuerza la interferencia electoral del extranjero. MIT Technology Review pone a disposición el informe completo, con los nombres de los empleados eliminados, porque es de interés público.

Sus revelaciones incluyen:

  • En octubre de 2019, alrededor de 15.000 páginas de Facebook con un público mayoritariamente estadounidense se gestionaban desde Kosovo y Macedonia, ambos conocidos como malos actores durante las elecciones de 2016.

  • En conjunto, las páginas de las granjas de troles, que el informe trata como una sola página con fines de comparación, llegaban mensualmente a 140 millones de usuarios estadounidenses y a 360 millones de usuarios de todo el mundo por semana. La página de Walmart alcanzó la segunda mayor audiencia de Estados Unidos con 100 millones de usuarios.

  • Las páginas de las granjas de troles también se combinaban para formar:

    • La mayor página cristiana estadounidense en Facebook, 20 veces más grande que la siguiente, llegando al mes a 75 millones de usuarios estadounidenses, el 95 % de los cuales nunca habían seguido ninguna de las páginas.

    • La mayor página afroamericana de Facebook, tres veces más grande que la siguiente, llegando mensualmente a 30 millones de usuarios estadounidenses, el 85 % de los cuales nunca habían seguido ninguna de esas páginas.

    • La segunda más grande página de nativos americanos en Facebook, con 400.000 usuarios mensuales, el 90 % de los cuales nunca habían seguido ninguna de esas páginas.

    • La quinta más grande página de mujeres en Facebook, con 60 millones de usuarios estadounidenses al mes, el 90 % de los cuales nunca habían seguido ninguna de esas páginas.

  • Las granjas de troles afectan principalmente a EE. UU., pero también a Reino Unido, Australia, India y países de América Central y del Sur.

  • Facebook ha realizado varios estudios que confirman que el contenido con más probabilidades de recibir mayor participación de los usuarios (me gusta, comentarios y compartir) sea probablemente malo. Aun así, la empresa ha seguido clasificando el contenido en los feed de noticias de los usuarios de acuerdo con lo que recibiría la mayor participación.

  • Facebook prohíbe que las páginas publiquen contenido copiado y pegado de otras partes de la plataforma, pero no aplica esa norma contra los malos actores conocidos. Esto facilita que los actores extranjeros que no hablan el idioma local publiquen contenido completamente copiado y aun así lleguen a una audiencia masiva. En un momento dado, hasta el 40 % de las visitas a las páginas de EE. UU. eran de aquellas que presentaban principalmente contenido no original o material parcialmente original.

  • Las granjas de troles se abrieron camino antes en los programas de asociación Instant Articles y Ad Breaks de Facebook, diseñados para ayudar a las organizaciones de noticias y otros editores a monetizar sus artículos y vídeos. En un momento dado, debido a la falta de controles básicos de calidad, hasta el 60 % de las lecturas de Instant Article iban al contenido que había sido plagiado de otros lugares. Esto facilitó que las granjas de troles se mezclaran sin ser detectadas e incluso recibieran pagos de Facebook.

Cómo Facebook habilita las granjas de troles y aumenta su audiencia

El informe analiza específicamente las granjas de troles con sede en Kosovo y Macedonia, dirigidas por personas que no necesariamente comprenden la política estadounidense. No obstante, debido a la forma en la que están diseñados los sistemas de recompensas de noticias de Facebook, aún pueden tener un impacto significativo en el discurso político.

En el informe, Allen identifica tres razones por las que estas páginas pueden obtener una audiencia tan grande. Primero, Facebook no penaliza a las páginas por publicar contenido no original. Si algo se ha vuelto viral antes, es probable que se vuelva viral de nuevo cuando se publique por segunda vez. Esto hace que sea realmente fácil para cualquiera conseguir un gran número de seguidores entre los afroamericanos, por ejemplo. Los malos actores pueden simplemente copiar algún contenido viral de las páginas de los afroamericanos, o incluso de Reddit y Twitter, y pegarlo en su propia página o, a veces, en docenas de páginas.

En segundo lugar, Facebook envía contenido llamativo de las páginas a personas que no las siguen. Cuando los amigos de los usuarios comentan o vuelven a compartir algunas publicaciones en una de estas páginas, esos usuarios también lo verán en su feed de noticias. Cuanto más se comenta o comparte el contenido de una página, más aparece, pero no solo entre sus seguidores. Esto significa que las granjas de troles, cuya estrategia se centra en volver a publicar el contenido más atractivo, tienen una capacidad enorme para llegar a nuevas audiencias.

En tercer lugar, el sistema de clasificación de Facebook impulsa el contenido más llamativo en los feed de noticias de los usuarios. En su mayoría, las personas que dirigen las granjas de troles tienen motivos económicos más que políticos; publican lo que recibe la mayor participación, sin tener en cuenta el contenido real. Pero debido a que la desinformación, clickbait y el contenido políticamente divisivo tienen más probabilidades de recibir un alto nivel de participación (como reconocen los propios análisis internos de Facebook), las granjas de troles tienden a publicar más de esos temas con el tiempo, según el informe.

Como resultado, en octubre de 2019, las 15 principales páginas dirigidas a cristianos estadounidenses, 10 de las 15 mayores páginas de Facebook dirigidas a afroamericanos y cuatro de las 12 más grandes páginas de Facebook dirigidas a nativos americanos estaban gestionadas por las granjas de troles.

El informe de Allen señala: "Nuestra plataforma ha dado mayor voz en la comunidad cristiana estadounidense a un puñado de malos actores que, según sus prácticas de creación de medios, nunca han ido a la iglesia. Nuestra plataforma ha dado mayor voz en la comunidad afroamericana a un puñado de malos actores que, según sus prácticas de creación de medios, nunca han tenido una interacción con un afroamericano. Siempre me parecerá profundamente extraño... y realmente horroroso. Parece bastante claro que hasta que se pueda arreglar esa situación, siempre sentiremos grandes vientos en contra al intentar cumplir con nuestra misión".

También sugirió una posible solución: "No es la primera vez que la humanidad lucha contra los malos actores en nuestros ecosistemas de medios". Se refería al uso de Google de lo que se conoce como medición de autoridad según los gráficos (Graph Authority), que evalúa la calidad de una página web de acuerdo con la frecuencia con la que cita y es citada por otras páginas web de calidad, para degradar a los malos actores en sus clasificaciones de búsqueda.

El informe añade: "Tenemos nuestra propia implementación de la medición de autoridad según los gráficos". Si la plataforma tuviera más en cuenta esta métrica en las páginas de clasificación, podría ayudar a cambiar la alarmante tendencia en la que las páginas llegan a las audiencias más amplias.

Cuando las clasificaciones de Facebook priorizan la participación, las páginas de las granjas de troles superan a las páginas auténticas. Pero "el 90 % de las páginas de las granjas de troles tienen exactamente 0 Graph Authority... [las páginas auténticas] claramente ganan", escribió Allen.

Problemas sistémicos

Una búsqueda de todas las páginas de granjas de troles enumeradas en el informe revela que cinco de ellas siguen activas casi dos años después:

  • La página "My Baby Daddy Ain't Shit", que fue la mayor página de Facebook dirigida a los afroamericanos en octubre de 2019.

  • La página "Savage Hood", dirigida a los afroamericanos.

  • La página "Hood Videos", dirigida a los afroamericanos.

  • La página "Purpose of Life", dirigida a los cristianos.

  • La página "Eagle Spirit", dirigida a los nativos americanos.

Foto: Una página de una granja de troles dirigida a los cristianos estadounidenses.

El reciente y controvertido informe  Contenido ampliamente visto de Facebook  sugiere que algunas de las vulnerabilidades centrales que explotaron las granjas de troles también permanecen. Según el análisis del periodista Casey Newton publicado en The Verge, 15 de las 19 publicaciones más vistas mencionadas en el informe fueron plagio de otras publicaciones que anteriormente se habían vuelto virales en Facebook u otra plataforma.

La investigadora postdoctoral de la Universidad de Stanford (EE. UU.) que estudia la intersección de la desinformación, las redes sociales y la democracia Samantha Bradshaw explica que el informe "menciona muchos de los problemas sistémicos más profundos de la plataforma y de su algoritmo que promueven ciertos tipos de contenido a determinados usuarios, todo en base a este valor subyacente de crecimiento". Si no se solucionan, seguirán creando incentivos económicos distorsionados para los malos actores, y concluye: "Ese es el problema".

Puede consultar el informe completo aquí:

Tecnología y Sociedad

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. Las conspiraciones del coronavirus se están convirtiendo en antisemitismo

    Las teorías de la conspiración sobre la COVID-19 están ayudando a difundir el odio hacia los judíos a un público más amplio. Los activistas de extrema derecha han trabajado para convertir el movimiento anticonfinamiento y antivacunas en antisemitismo activo, según un nuevo informe

  2. Steve Kirsch, el filántropo del coronavirus que acabó como antivacunas

    Este polifacético empresario lleva toda la vida intentando ayudar a la humanidad. Al principio de la pandemia invirtió millones en encontrar fármacos contra la COVID-19, pero acabó difundiendo desinformación sobre las vacunas y siendo rechazado por el comité científico que él mismo creó

  3. Tras 20 años de ataques con drones, es hora de admitir que han fallado

    El primer ataque, de EE.UU. sobre Afganistán, falló su objetivo, e incluso hoy los talibanes creen en su efectividad. Sin embargo, dos décadas después aún siguen matando a civiles