Ahora, la aparición de las imágenes generadas por inteligencia artificial (IA) ha hecho más fácil para cualquier persona retocar una imagen o un vídeo con resultados increíblemente realistas. A principios de este año, el editor jefe de inteligencia artificial de MIT Technology Review, Will Knight, utilizó un software comercial para crear su propio vídeo falso del senador estadounidense Ted Cruz. El vídeo no es perfecto, pero lo será dentro de poco tiempo.
n nEsa misma tecnología está creando un creciente número de imágenes y vídeos, llamados deepfakes (o falsificaciones automáticas), que tienen el potencial de socavar la verdad, confundir a los espectadores y sembrar la discordia a una escala mucho mayor de lo que ya hemos visto con las noticias falsas basadas en texto.
nEstas posibilidades preocupan al profesor de informática en Dartmouth College (EE.UU.) Hany Farid, que lleva 20 años luchando contra las imágenes falsas. "No creo que estemos listos todavía", advierte. Pero tiene la esperanza de que la creciente conciencia del problema y los nuevos desarrollos tecnológicos puedan preparar mejor a las personas para distinguir las imágenes reales de las creaciones manipuladas.
n
Foto: Una imagen original del Colegio Brasenose de la Universidad de Oxford (Reino Unido). Créditos: Serelay
n
Foto: Un ejemplo de cómo se podría editar la imagen original para eliminar la bandera LGBTQ del arcoiris en el tejado (al fondo). Créditos: Serelay
nHay dos formas principales de lidiar con el desafío de verificar las imágenes, explica Farid. Lo primero es buscar modificaciones en una imagen. Los expertos forenses en imágenes utilizan técnicas informáticas para encontrar si los píxeles o metadatos están alterados. Pueden buscar sombras o reflejos que no siguen las leyes de la física, por ejemplo, o verificar cuántas veces se ha comprimido un archivo de imagen para determinar si se ha guardado varias veces.
nEl segundo método y más reciente es verificar la integridad de una imagen en el momento en el que se captó. Esto implica realizar docenas de controles para asegurarse de que el fotógrafo no intentó falsificar los datos de la ubicación y la marca del tiempo del dispositivo. ¿Las coordenadas de la cámara, la zona horaria, la altitud y las redes wifi cercanas coinciden? ¿Se refracta la luz en la imagen como lo haría para una escena tridimensional? ¿O alguien está tomando una foto de otra foto bidimensional?
nFarid piensa que este segundo enfoque es particularmente prometedor. Teniendo en cuenta que se suben a la web diariamente dos mil millones de fotos, opina que el método podría ayudar a verificar las imágenes a escala.
n
Foto: Serelay permite a los usuarios subir fotos sospechosas para verificar si han sido manipuladas. El sistema realiza una serie de comprobaciones para determinar dónde se han realizado las modificaciones, si las hubiera. Créditos: Serelay.
nDos start-ups, Truepic con sede en EE. UU. (a la que Farid asesora) y Serelay con sede en Reino Unido, están trabajando ahora para comercializar esta idea. Han adoptado enfoques similares: cada uno tiene aplicaciones gratuitas para la cámara en iOS y Android que utilizan algoritmos patentados para verificar automáticamente las fotos cuando se captan. Si una imagen se vuelve viral, se puede comparar con la original para verificar si ha conservado su integridad.
nMientras Truepic carga las imágenes de sus usuarios y las almacena en sus servidores, Serelay almacena una especie de huella digital al calcular unos cien valores matemáticos de cada imagen: la compañía afirma que estos valores son suficientes para detectar incluso una edición de un solo píxel y determinar aproximadamente qué sección de la imagen se cambió.
nEn Truepic explican además que han decidido almacenar las imágenes completas debido a los usuarios que quieren eliminar las fotos confidenciales por razones de seguridad. No en vano, en algunos casos, los usuarios de Truepic que operan en escenarios de alta amenaza, como una zona de guerra, necesitan eliminar la aplicación inmediatamente después de documentar las escenas. Serelay, en cambio, cree que el hecho de no almacenar las fotos ofrece a los usuarios una mayor privacidad.
n
Foto: Serelay es capaz de encontrar y resaltar la bandera que falta en la foto. Créditos: Serelay
nComo una capa adicional de confianza y protección, Truepic también almacena todas las fotos y metadatos utilizando blockchain, la tecnología detrás de Bitcoin que combina la criptografía y las redes distribuidas para almacenar y rastrear información de manera segura.
n"No es a prueba de balas", admite Farid, y puntualiza que hay algunas contrapartidas. Por ejemplo, los usuarios deben usar el software de verificación en lugar de la aplicación de la cámara en su teléfono. También señala que las compañías que intentan comercializar este tipo de tecnología pueden priorizar la monetización sobre la seguridad. "Existe algo de confianza en las compañías que construyen estas aplicaciones", dice.
nPero también hay estrategias atenuantes. Truepic y Serelay ofrecen kits de desarrollo de software para hacer que su tecnología sea accesible a las plataformas de otros. Su idea es convertir algún día su tecnología de verificación en un estándar de la industria para las cámaras digitales, incluidas las aplicaciones de cámara de Facebook, Snapchat o incluso de Apple. En ese escenario, una imagen inalterada publicada en las redes sociales podría recibir automáticamente una marca de verificación, como una credencial de verificación de Twitter, lo que indica que coincide con una imagen en su base de datos, una señal que Serelay espera que sirva para establecer la confianza.
n"La gran mayoría del contenido que estamos viendo online se toma con dispositivos móviles", sostiene Farid. "Básicamente, hay bastante cámaras que podrían incorporar este tipo de tecnología en su sistema, y creo que tendría una solución muy buena". Las start-ups están en conversaciones iniciales con compañías de redes sociales para explorar la posibilidad de una asociación, y Serelay también es parte de un nuevo programa acelerador de Facebook llamado LDN_LAB.
nAunque esta tecnología aún no prevalece, Farid alienta a las personas a usarla de forma predeterminada al documentar escenas de gran importancia, ya sean discursos de campañas políticas, violaciones de derechos humanos o pruebas en la escena del crimen. Truepic ya ha descubierto que sus usuarios utilizan su aplicación para documentar la crisis en Siria. Al Jazeera luego usó las imágenes verificadas para producir varios vídeos. Ambas compañías también han comercializado su tecnología en la industria de seguros como una forma verificada de documentar daños.
nnn"Me and many innocent children like me are going to be murdered in cold blood."
n— Al Jazeera English (@AJEnglish) 9 de septiembre de 2018
n
nAn #Idlib teen's message to US President @realDonaldTrump. pic.twitter.com/owd7DvZWlB
Farid recuerda que es importante que las empresas que realizan este trabajo sean transparentes sobre sus procesos y que trabajen con socios de confianza. Eso puede ayudar a mantener la confianza del usuario y alejar a los negativos.
nTodavía tenemos mucho camino por recorrer para estar completamente preparados para la proliferación de los deepfakes, subraya Farid. Pero tiene esperanzas. "La tecnología de tipo Truepic y Serelay tienen buena pinta", concluye. "Creo que nos estamos preparando".
n