.

Cortesía de Serelay

Móvil

A la caza del píxel falso: estas 'apps' descubren imágenes manipuladas

1

Dos 'start-ups' han desarrollado aplicaciones para nuestro 'smartphone' que utilizan algoritmos con el fin de averiguar si una fotografía ha sido modificada. Su tecnología podría ser muy útil para detectar 'deepfakes', vídeos falsos creados por inteligencia artificial

  • por Karen Hao | traducido por Ana Milutinovic
  • 09 Noviembre, 2018

Falsificar fotos y vídeos solía costar mucho trabajo. O se usaba CGI (imágenes generadas por ordenador) para crear ilustraciones fotorrealistas (un método tan difícil como costoso) o era necesario algo de dominio de Photoshop y mucho tiempo para modificar las imágenes ya existentes de manera convincente.

Ahora, la aparición de las imágenes generadas por inteligencia artificial (IA) ha hecho más fácil para cualquier persona retocar una imagen o un vídeo con resultados increíblemente realistas. A principios de este año, el editor jefe de inteligencia artificial de MIT Technology Review, Will Knight, utilizó un software comercial para crear su propio vídeo falso del senador estadounidense Ted Cruz. El vídeo no es perfecto, pero lo será dentro de poco tiempo.

Esa misma tecnología está creando un creciente número de imágenes y vídeos, llamados deepfakes (o falsificaciones automáticas), que tienen el potencial de socavar la verdad, confundir a los espectadores y sembrar la discordia a una escala mucho mayor de lo que ya hemos visto con las noticias falsas basadas en texto.

Estas posibilidades preocupan al profesor de informática en Dartmouth College (EE.UU.) Hany Farid, que lleva 20 años luchando contra las imágenes falsas. "No creo que estemos listos todavía", advierte. Pero tiene la esperanza de que la creciente conciencia del problema y los nuevos desarrollos tecnológicos puedan preparar mejor a las personas para distinguir las imágenes reales de las creaciones manipuladas.

Una imagen original del Colegio Brasenose de la Universidad de Oxford.

Foto: Una imagen original del Colegio Brasenose de la Universidad de Oxford (Reino Unido). Créditos: Serelay

Un ejemplo de cómo se podría editar la imagen original para eliminar la bandera del arco iris LGBTQ en el techo.

Foto: Un ejemplo de cómo se podría editar la imagen original para eliminar la bandera LGBTQ del arcoiris en el tejado (al fondo). Créditos: Serelay​

Hay dos formas principales de lidiar con el desafío de verificar las imágenes, explica Farid. Lo primero es buscar modificaciones en una imagen. Los expertos forenses en imágenes utilizan técnicas informáticas para encontrar si los píxeles o metadatos están alterados. Pueden buscar sombras o reflejos que no siguen las leyes de la física, por ejemplo, o verificar cuántas veces se ha comprimido un archivo de imagen para determinar si se ha guardado varias veces.

El segundo método y más reciente es verificar la integridad de una imagen en el momento en el que se captó. Esto implica realizar docenas de controles para asegurarse de que el fotógrafo no intentó falsificar los datos de la ubicación y la marca del tiempo del dispositivo. ¿Las coordenadas de la cámara, la zona horaria, la altitud y las redes wifi cercanas coinciden? ¿Se refracta la luz en la imagen como lo haría para una escena tridimensional? ¿O alguien está tomando una foto de otra foto bidimensional?

Farid piensa que este segundo enfoque es particularmente prometedor. Teniendo en cuenta que se suben a la web diariamente dos mil millones de fotos, opina que el método podría ayudar a verificar las imágenes a escala. 

Serelay les permite a los usuarios subir fotos sospechosas para verificar si han sido manipuladas. El sistema realiza una serie de comprobaciones para determinar dónde se han realizado las modificaciones, si las hubiera.

Foto: Serelay permite a los usuarios subir fotos sospechosas para verificar si han sido manipuladas. El sistema realiza una serie de comprobaciones para determinar dónde se han realizado las modificaciones, si las hubiera. Créditos: Serelay.

Dos start-ups, Truepic con sede en EE. UU. (a la que Farid asesora) y Serelay con sede en Reino Unido, están trabajando ahora para comercializar esta idea. Han adoptado enfoques similares: cada uno tiene aplicaciones gratuitas para la cámara en iOS y Android que utilizan algoritmos patentados para verificar automáticamente las fotos cuando se captan. Si una imagen se vuelve viral, se puede comparar con la original para verificar si ha conservado su integridad. 

Mientras Truepic carga las imágenes de sus usuarios y las almacena en sus servidores, Serelay almacena una especie de huella digital al calcular unos cien valores matemáticos de cada imagen: la compañía afirma que estos valores son suficientes para detectar incluso una edición de un solo píxel y determinar aproximadamente qué sección de la imagen se cambió.

En Truepic explican además que han decidido almacenar las imágenes completas debido a los usuarios que quieren eliminar las fotos confidenciales por razones de seguridad. No en vano, en algunos casos, los usuarios de Truepic que operan en escenarios de alta amenaza, como una zona de guerra, necesitan eliminar la aplicación inmediatamente después de documentar las escenas. Serelay, en cambio, cree que el hecho de no almacenar las fotos ofrece a los usuarios una mayor privacidad.

Serelay es capaz de atrapar y resaltar la bandera que falta en la foto.

Foto: Serelay es capaz de encontrar y resaltar la bandera que falta en la foto. Créditos: Serelay​

Como una capa adicional de confianza y protección, Truepic también almacena todas las fotos y metadatos utilizando blockchain, la tecnología detrás de Bitcoin que combina la criptografía y las redes distribuidas para almacenar y rastrear información de manera segura.

"No es a prueba de balas", admite Farid, y puntualiza que hay algunas contrapartidas. Por ejemplo, los usuarios deben usar el software de verificación en lugar de la aplicación de la cámara en su teléfono. También señala que las compañías que intentan comercializar este tipo de tecnología pueden priorizar la monetización sobre la seguridad. "Existe algo de confianza en las compañías que construyen estas aplicaciones", dice.

Pero también hay estrategias atenuantes. Truepic y Serelay ofrecen kits de desarrollo de software para hacer que su tecnología sea accesible a las plataformas de otros. Su idea es convertir algún día su tecnología de verificación en un estándar de la industria para las cámaras digitales, incluidas las aplicaciones de cámara de Facebook, Snapchat o incluso de Apple. En ese escenario, una imagen inalterada publicada en las redes sociales podría recibir automáticamente una marca de verificación, como una credencial de verificación de Twitter, lo que indica que coincide con una imagen en su base de datos, una señal que Serelay espera que sirva para establecer la confianza.

"La gran mayoría del contenido que estamos viendo online se toma con dispositivos móviles", sostiene Farid. "Básicamente, hay bastante cámaras que podrían incorporar este tipo de tecnología en su sistema, y ​​creo que tendría una solución muy buena". Las start-ups están en conversaciones iniciales con compañías de redes sociales para explorar la posibilidad de una asociación, y Serelay también es parte de un nuevo programa acelerador de Facebook llamado LDN_LAB.

Aunque esta tecnología aún no prevalece, Farid alienta a las personas a usarla de forma predeterminada al documentar escenas de gran importancia, ya sean discursos de campañas políticas, violaciones de derechos humanos o pruebas en la escena del crimen. Truepic ya ha descubierto que sus usuarios utilizan su aplicación para documentar la crisis en Siria. Al Jazeera luego usó las imágenes verificadas para producir varios vídeos. Ambas compañías también han comercializado su tecnología en la industria de seguros como una forma verificada de documentar daños.

Farid recuerda que es importante que las empresas que realizan este trabajo sean transparentes sobre sus procesos y que trabajen con socios de confianza. Eso puede ayudar a mantener la confianza del usuario y alejar a los negativos.

Todavía tenemos mucho camino por recorrer para estar completamente preparados para la proliferación de los deepfakes, subraya Farid. Pero tiene esperanzas. "La tecnología de tipo Truepic y Serelay tienen buena pinta", concluye. "Creo que nos estamos preparando".

Móvil

Qué significa estar constantemente contectados unos a otros y disponer de inmensas cantidades de información al instante.

  1. El teclado QWERTY mantiene su reinado, aunque tiene nuevos rivales

    Desde que se popularizaran las primeras máquinas de escribir hace casi 150 años, el teclado QWERTY es el gran favorito. Dispositivos que captan los movimientos de nuestros dedos o cascos que descifran la actividad cerebral intentarán destronarle, pero estamos demasiado acostumbrados al teclado del ordenador

  2. Las huellas digitales destapan a los troles rusos de Twitter

     Un equipo de investigadores ha analizado tuits publicados por troles rusos para influir en las elecciones estadounidenses de 2016. Estudiando sus patrones de comportamiento, han descubierto que sus campañas de desinformación eran más ambiciosas: su actividad aumentó antes de los comicios franceses y alemanes

  3. Las 'apps' como Tinder aumentan el desequilibrio de género a la hora de ligar

    Se suponía que los servicios de citas 'online' iban a equilibrar el comportamiento del cortejo de hombres y mujeres, pero está siendo justo al revés. Su diseño fomenta que los hombres inicien el contacto y las mujeres esperen. Pero nuevas 'apps' como Bumble podrían revertir la situación