.

Ms Tech

Inteligencia Artificial

El año que los 'deepfakes' salieron del lado oscuro y se masificaron

1

Aunque los primeros usos de la ultrafalsificación de contenidos tenían propósitos nefastos, en 2020, la tecnología de manipulación de contenidos ha encontrado sus primeras aplicaciones positivas y ha llegado a las masas gracias a documentales y programas de televisión, y 'apps' para que cualquiera pueda crearlos

  • por Karen Hao | traducido por Ana Milutinovic
  • 31 Diciembre, 2020

En 2018, el reportero de Motherboard Sam Cole descubrió un nuevo e inquietante rincón de internet. Un usuario de Reddit con el nombre de "deepfakes" publicaba vídeos porno falsos sin consentimiento utilizando un algoritmo de inteligencia artificial (IA) para intercambiar los rostros de celebridades en vídeos porno reales. Cole dio hizo sonar la alarma sobre este fenómeno, justo cuando la tecnología estaba a punto de explotar. Un año después, la pornografía deepfake se extendió mucho más allá de Reddit, con apps de fácil acceso que podían "desnudar" a cualquier mujer que aparece en una fotografía.

Desde entonces, los deepfakes (contenidos ultrafasificados) se han ganado una fama terrible, y con razón. La gran mayoría todavía se utilizan para crear pornografía falsa. Una periodista de investigación fue gravemente acosada y silenciada temporalmente por esa actividad, y más recientemente, una poeta y novelista fue intimidada y avergonzada con la misma tecnología. También existe el riesgo de que los deepfakes políticos generen noticias falsas convincentes que podrían causar estragos en algunos entornos políticos inestables.

Pero, a medida que los algoritmos para manipular y sintetizar contenidos se han vuelto más poderosos, también han dado lugar a algunas aplicaciones positivas, así como a otras más humorísticas o mundanas. Presentamos un resumen de algunos de nuestros favoritos en un orden cronológico aproximado, y explicamos por qué creemos que representan una señal de lo que está por venir.

Proteger a los denunciantes

Izquierda: una cuadrícula de fotos de Maxim tomadas desde muchos ángulos. Derecha: una cuadrícula de fotos de su portada deepfake tomada desde muchos ángulos.

En junio, la película de investigación Welcome to Chechnya, sobre la persecución de las personas LGBTI en esta república rusa, se convirtió en el primer documental en utilizar deepfakes para proteger las identidades de sus protagonistas. Los activistas que luchan contra esta persecución, que eran los protagonistas principales de la película, vivieron escondidos para evitar ser torturados o asesinados. Después de explorar muchos métodos para ocultar sus identidades, el director David France decidió darles "versiones" deepfake. Pidió a otros activistas LGBTI de todo el mundo que prestaran sus rostros, que se colocaron encima de las caras de las personas en su película. Esa técnica permitió a France preservar la integridad de las expresiones faciales de sus protagonistas y, por lo tanto, su dolor, miedo y humanidad. En total, la película intercambió las caras a 23 personas, siendo pionera en una nueva forma de protección de los denunciantes.

Revisitar la historia

Una pantalla dividida del actor Lewis D. Wheeler a la izquierda y Nixon deepfake a la derecha.

En julio, dos investigadores del MIT, Francesca Panetta y Halsey Burgund, iniciaron un proyecto para crear una historia alternativa del alunizaje del Apolo de 1969. Titulado En caso de desastre lunar, utiliza el discurso que el presidente Richard Nixon habría pronunciado si ese acontecimiento trascendental no hubiera ido según lo planeado. Los investigadores se asociaron con dos empresas distintas para audio y vídeo deepfake, y contrataron a un actor para la interpretación "base". Luego pasaron su voz y su rostro a través de los dos tipos de software, y los unieron en la versión final de deepfake de Nixon.

Si bien este proyecto demuestra cómo los deepfakes podrían ayudar a crear poderosas historias alternativas, este otro explica cómo los deepfakes pueden dar vida a una historia real. En febrero, la revista Time recreó la marcha de Martin Luther King Jr. sobre Washington (EE. UU.) usando realidad virtual para que los espectadores se pudieran sumergir en el ambiente. El proyecto no utilizó la tecnología deepfake, pero el gigante tecnológico chino Tencent lo mencionó más tarde en un libro blanco sobre sus planes de  inteligencia artificial, explicando que los deepfakes podrían usarse para propósitos similares en el futuro.

Memes

A finales del verano, el mundo de los memes empezó a usar deepfakes fáciles de crear y lanzó los resultados al universo digital. Un meme en particular, titulado "Baka Mitai" (en la foto de arriba), se viralizó rápidamente cuando la gente aprendió a usar la tecnología para crear sus propias versiones. El algoritmo específico que impulsó la locura provino de un artículo de investigación de 2019 que permite a un usuario animar una foto del rostro de una persona con un vídeo de otra persona. El resultado no es de mucha calidad, pero resulta muy divertido. El fenómeno no es del todo sorprendente; el juego y la parodia han sido una fuerza impulsora en la popularización de los deepfakes y otras herramientas de manipulación de contenidos. Es por eso que algunos expertos subrayan la necesidad de alguna protección para evitar que el humor se convierta en abuso.

Anuncios deportivos

Las apretadas agendas de las estrellas del deporte suele impedir que coincidan en una misma sala. En medio del confinamiento, era misión imposible. Así que, cuando se tenía que grabar un anuncio, cuyos protagonistas estaban encerrados en sus burbujas de cuarentena y repartidos por todo un país, la única opción fue fingirlo. En agosto, la plataforma de streaming Hulu emitió un anuncio para promocionar la vuelta de los deportes a su servicio, protagonizado por el jugador de la NBA Damian Lillard, la jugadora de la WNBA Skylar Diggins-Smith y el jugador canadiense de hockey Sidney Crosby. En el anuncio se ve cómo estas estrellas dejan de hacer pan de masa madre y vuelven a respectivos sus deportes, con sus balones de baloncesto y palos de hockey. Pero lo que se ve no es verdad: las caras de esas estrellas se superpusieron a en dobles corporales mediante la tecnología deepfake. El algoritmo se entrenó con imágenes de los jugadores capturadas por Zoom. Hace años que los trucos informáticos se utilizan para este tipo de cosas, pero los deepfakes lo hacen más fácil y más barato que nunca, y este año en el que todo ha sido remoto ha dado un impulso a esta tecnología. Hulu no fue el único. Otros anunciantes, como ESPN, también experimentaron con los deepfakes

Campañas políticas

En septiembre, durante el período previo a las elecciones presidenciales de Estados Unidos, el grupo independiente RepresentUs lanzó un par de anuncios deepfake. Presentaron las versiones falsas del presidente ruso, Vladimir Putin, y del líder norcoreano, Kim Jong-un, pronunciando el mismo mensaje: ninguno de los dos tenía que interferir en las elecciones estadounidenses, porque Estados Unidos arruinaría su propia democracia por su cuenta. Este no fue el primer uso de deepfakes en una campaña política. En febrero, el político indio Manoj Tiwari utilizó el deepfake en un vídeo de campaña para que pareciera que hablara el dialecto hindi haryanvi, que hablaban sus votantes objetivo. Pero RepresentUs cambió notablemente el modo en el que se solían describir los deepfakes políticos. Mientras a los expertos les preocupa la capacidad de esta tecnología para sembrar confusión y alterar las elecciones, este grupo quiso provocar exactamente lo contrario: crear conciencia sobre la supresión del voto para proteger el derecho a votar y aumentar la participación.

Programas de televisión

Ahora que los anuncios deepfake y sus llamativos usos empiezan a popularizarse, los creadores de South Park lo han llevado al extremo. En octubre, Trey Parker y Matt Stone debutaron con su nueva creación, Sassy Justice, el primer programa de televisión hecho con deepfakes. Este programa semanal de humor satírico gira en torno a su protagonista, Sassy Justice, un reportero de una cadena local con la cara deepfake de Donald Trump. Sassy entrevista a otros deepfakes como Jared Kushner (con el rostro de Kushner superpuesto al de un niño) y Al Gore. Con Sassy Justice, los deepfakes han ido más allá de los trucos de marketing y del engaño malicioso para llegar a la cultura popular. La tecnología no solo se usa para crear los personajes, también es objeto de sátira. En el primer episodio, Sassy "Trump" Justice, interpretando a un defensor del consumidor, investiga la verdad detrás de las "noticias deepfake".

Inteligencia Artificial

 

La inteligencia artificial y los robots están transofrmando nuestra forma de trabajar y nuestro estilo de vida.

  1. Un algoritmo predice las peores mutaciones del coronavirus con PLN

    Al abordar la genética y sus variaciones como frases con estructura y significado, un equipo ha logrado aplicar procesamiento del lenguaje natural para identificar los próximos cambios que la COVID-19 podría desarrollar y cuáles tienen más probabilidades de esquivar al sistema inmunitario 

  2. DALL·E y CLIP dan un paso más hacia el futuro de la inteligencia artificial

    OpenAI ha usado GPT-3 para crear dos nuevos modelos que combinan procesamiento del lenguaje natural con reconocimiento de imágenes. Gracias a esta mezcla, son capaces de identificar objetos que no han visto y de crear imágenes a partir de nuevas descripciones de texto

  3. Cinco pasos que la IA debería dar en 2021 para volverse 'buena'

    En los últimos años, la inteligencia artificial demostrado algunos avances para hacerse más justa, ética y capaz de resolver problemas reales, pero todavía tiene mucho camino por delante. Este año, se debería aumentar la inversión para enfoques minoritarios, la regulación y la inclusión de usuarios y colectivos afectados