.

Jeremy Portje

Tecnología y Sociedad

El problema de las 'fake news' no es la IA sino las mentiras superficiales

1

Por muy creíbles que resulten los 'deepfakes' las herramientas para crearlos aún no son masivas y podrían combatirse con otras tecnologías. La plaga desinformativa que realmente debe preocuparnos son los contenidos que se reetiquetan para atribuirse a conflictos concretos y aumentar la violencia

  • por Bobbie Johnson | traducido por Ana Milutinovic
  • 28 Marzo, 2019

Antes de que se conviertan en un problema generalizado, la industria tecnológica tiene una oportunidad única de abordar los deepfakesel problema de los vídeos y audios falsos creados con inteligencia artificial (IA). Así lo afirma el defensor de los derechos humanos Sam Gregory. Pero también advierte que, a pesar de esta oportunidad, las grandes empresas aún están muy lejos de abordar otro problema generalizado y más dañino, los llamados shallowfakes [mentiras superficiales], que diseminan información falsa más directa y superficial.

Gregory es jefe de programas de Witness, una organización sin ánimo de lucro especializada en el uso del vídeo y su relación con los derechos humanos. Este formato puede ser empleado tanto por activistas y víctimas para denunciar abusos, o por regímenes autoritarios para reprimir la disidencia. En su conferencia del lunes en la conferencia EmTech Digital organizada por MIT Technology Review, el experto afirmó que los deepfakes actuales son "la calma antes de la tormenta".

Foto: Sam Gregory durante su conferencia en EmTech Digital EE. UU. Crédito: Jeremy Portje

"Los medios artificiales maliciosos aún no están muy extendidos, las herramientas aún no funcionan en los móviles, todavía no se han convertido en productos", explicó Gregory. Ante esta conyuntura, el experto considera que tenemos una oportunidad extraordinaria para que los creadores de los deepfakes desarrollen formas de combatirlos antes de que los malos logren implementar la tecnología de forma masiva. Gregory añadió: "Tenemos la oportunidad ser proactivos y pragmáticos para abordar esta amenaza em la esfera pública y en nuestro ecosistema de información. Podemos prepararnos para no entrar en pánico".

Aunque los deepfakes todavía no sean una tendencia masiva, el problema de las noticias falsas (fake news) es cada vez mayor y, de momento, no se han encontrado formas efectivas de luchar contra él. En la actualidad, la generación de noticias falsas no depende de la inteligencia artificial ni de tecnologías complejas. Basta con un par de trucos sencillos, como etiquetar mal el contenido para desacreditar a los activistas o difundir desinformación, para generar el caos, a veces incluso con resultados de violencia mortal, como sucedió en Birmania.

El experto continuó su exposición: "Con 'shallowfakes' me refiero a las decenas de miles de vídeos que circulan por todo el mundo con intenciones maliciosas, que no han sido creados no con una inteligencia artificial sofisticada, sino que simplemente se suelen volver a etiquetar y subir de nuevo, afirmando que un evento en un lugar acababa de ocurrir en otro". Por ejemplo, un vídeo en el que aparece una persona quemada viva ha sido reutilizado y atribuido a distintos actores en Costa de Marfil, Sudán del Sur, Kenia y Birmania, "cada vez incitando a la violencia", detalló.

Otra amenaza mediática reside en la idea cada vez más generalizada de que ya no podemos confiar en nada de lo que vemos, algo que, para Gregory, "en la mayoría de los casos es simplemente falso". En su opinión, reforzar esta idea "da ventaja a los autoritarismos y los totalitarismos de todo el mundo". Para el experto, "un discurso alarmista solo aumenta los peligros reales a los que nos enfrentamos: la negación plausible y el colapso de la confianza".

El jefe de Derechos Humanos de Data & Society, Mark Latonero, un instituto sin ánimo de lucro dedicado al uso de datos, coincide en que las empresas tecnológicas deberían hacer más para abordar estos problemas. Aunque Microsoft, Google, Twitter y otros tienen empleados dedicados a los derechos humanos, el experto destaca que hay mucho más por hacer antes de implementar tecnologías en lugar de después.

Latonero concluye: "Es el momento de que empresas, investigadores y otros desarrollen conexiones fuertes entre la sociedad civil y las diferentes oficinas de los países en los que pretenden lanzar sus productos. De que se comprometan con las personas que están más cerca de los problemas en estos países. Hay que construir esas alianzas ahora. Cuando algo empiece a ir mal, e irá mal seguro, ya podríamos tener la base para la colaboración y el intercambio de los conocimientos".

Tecnología y Sociedad

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. La censura y el consumismo inspiran un nuevo tipo de arte en China

    Los dispositivos tecnológicos, la pérdida de identidad (o la identidad propia), los líderes tecnológicos y las páginas web censuradas se han convertido en objetos artísticos en el país asiático. Sus creadores critican cómo la tecnología está transformado su sociedad a peor 

  2. La dudosa ética de las empresas éticas de etiquetado de datos de IA

    En un sector dominado por empleos precarios, un pequeño grupo de compañías como CloudFactory, iMerit y Samasource promete que sus trabajadores están bien remunerados y atendidos. Pero, a falta de regulación, es imposible saber si realmente lo están haciendo

  3. Los 'youtubers' se rebelan contra las injusticias de la plataforma

    La Unión YouTuberos se ha aliado con el sindicato más grande de Europa para presionar a Youtube para que les dé un trato más justo y aumente su transparencia. Argumentan que algunas políticas de la plataforma de vídeos violan las leyes de privacidad de datos