Mort es otra víctima de una campaña de po ografía falsa. Lo que más la sorprendió fue que las imágenes se basaban en fotos que habían sido tomadas entre 2017 y 2019 de sus cuentas privadas de redes sociales, incluido su perfil de Facebook ya eliminado.
nEl perpetrador había subido estas imágenes no íntimas (fotos de vacaciones y de su embarazo e incluso fotos de ella cuando era adolescente) y animado a otros usuarios a editar su rostro sobre las fotografías po ográficas explícitas. Mientras que algunas estaban mal hechas con Photoshop, otras eran escalofriantemente realistas. Cuando comenzó a investigar lo que había sucedido, aprendió un nuevo término: deepfakes, o contenidos ultrafalsificados, generados y manipulados por inteligencia artificial (IA).
n
Mort recuerda: "Hizo que me sintiera impotente, como si me humillaran. Castigada por ser mujer con voz pública de cualquier tipo. Es la mejor forma en la que puedo describirlo. Como si me dijeran: 'Mira, siempre vamos a poder hacerte esto'".
nEsas revelaciones la llevaron a una frustrante búsqueda de recursos. Llamó a la policía, pero el oficial le dijo que no podían hacer nada. Incluso consideró salirse de la web por completo, pero inte et es crucial para su trabajo.
nTampoco tenía ni idea de quién lo habría hecho. Estaba aterrorizada de que fuera alguien a quien consideraba cercano. Empezó a dudar de todos, pero lo más doloroso fue que comenzó a dudar de su exmarido. Los dos son buenos amigos, pero el abusador había usado su nombre como seudónimo. "No fue él, absolutamente no. Pero es realmente triste. El hecho de que estuviera pensando en eso era una señal de cómo empezamos a dudar de toda la realidad", explica.
nAunque los deepfakes han recibido una enorme atención por sus posibles peligros políticos, la gran mayoría se utilizan para atacar a las mujeres. La empresa de investigación Sensity AI, que lleva rastreando vídeos deepfake online desde diciembre de 2018, constantemente encontraba que entre el 90 % y el 95 % de ellos eran po ografía sin consentimiento. Alrededor del 90 % de eso es po ografía no consentida de mujeres. "Es un problema de violencia contra las mujeres", opina el fundador de la organización sin ánimo de lucro EndTAB, Adam Dodge, que educa a las personas sobre el abuso mediante la tecnología.
nEn las consecuencias, este tipo de violación puede ser tan devastador como el po o por venganza: fotos íntimas reales publicadas sin consentimiento. Esto causa un daño bien documentado para las víctimas. En algunos casos, han tenido que cambiar sus nombres. En otros, se han visto obligadas a retirarse por completo de inte et. Tienen un miedo constante a volver a sufrir ese trauma, porque las imágenes podrían resurgir en cualquier momento y arruinar de nuevo sus vidas.
nAfortunadamente, movimientos paralelos en EE. UU. y Reino Unido están ganando impulso para prohibir el po o deepfake no consentido. Esa atención también podría ayudar a prohibir otras formas de violencia sexual basada en imágenes, que se habían desatendido hasta ahora. Después de años de esfuerzos de los activistas para alertar a los legisladores sobre estas atroces lagunas legales, los deepfakes por fin los obligan a prestar más atención.
n"Solo estamos esperando la primera gran ola"
nLos deepfakes comenzaron con la po ografía. En diciembre de 2017, la periodista de Motherboard Samantha Cole descubrió que un usuario de Reddit con el nombre "deepfakes" utilizaba técnicas de código abierto desarrolladas por investigadores de IA para intercambiar rostros de mujeres famosas en vídeos po o. Cole intentó advertir a los lectores: otras mujeres serían las siguientes.
nSi bien el problema ganó algo de atención pública, fue principalmente por la novedad de la tecnología. Al fin y al cabo, el po o falso de celebridades había llevado años en inte et. Pero, para los activistas que trabajan estrechamente con las víctimas de violencia doméstica, fue motivo de alarma inmediata. "Una herramienta perfecta para alguien que quiere ejercer poder y control sobre su víctima", resalta Dodge.
nSe ha vuelto demasiado fácil crear un deepfake de cualquier mujer desnuda. Han surgido repetidamente distintas apps para este propósito en concreto, a pesar de que todas han sido prohibidas rápidamente. Primero DeepNude en 2019, por ejemplo, y un bot de Telegram en 2020. El código subyacente para "quitar" la ropa a las mujeres que aparecen en fotos sigue existiendo en los registros de código abierto.
nComo resultado, el alcance del abuso ha crecido: actualmente los objetivos no son solo las celebridades e influencers de Instagram, sino gente corriente, explica el CEO y científico jefe de Sensity, Giorgio Patrini. En el caso del bot de Telegram, Sensity descubrió que había al menos 100.000 víctimas, incluidas niñas menores de edad.
nn"Una herramienta perfecta para alguien que quiere ejercer poder y control sobre su víctima", Adam Dodge.
n
A los activistas también les preocupan las populares apps deepfake creadas para propósitos aparentemente inofensivos como el intercambio de caras. "No es un gran salto de imaginación pasar de 'puedo poner mi cara en la de una estrella en un clip de una película' a 'puedo poner la cara de otra persona en algo po ográfico'", opina la directora de la organización sin ánimo de lucro de Reino Unido Revenge Po Helpline, Sophie Mortimer.
nEn el contexto de la pandemia, esta tendencia es aún más preocupante. Mortimer afirma que el número de casos de su línea de ayuda casi se ha duplicado desde el inicio del confinamiento. Las relaciones abusivas existentes han empeorado y el maltrato digital ha experimentado un repunte a medida que las personas se han vuelto cada vez más aisladas y pasan más tiempo online.
nAunque solo se ha encontrado con algunos casos de po ovenganza con Photoshop, Mortimer sabe que la llegada de sus equivalentes deepfake solo será cuestión de tiempo. Y detalla: "La gente ha tenido más tiempo para aprender a usar esta tecnología. Es como si estuviéramos conteniendo la respiración y esperando el impacto de una gran ola".
nn"El 80 % de personas no tiene ni idea de lo que es un deepfake"
n
Hoy en día existen pocas opciones legales para las víctimas de po ografía deepfake no consentida. En EE. UU., 46 estados tienen alguna prohibición sobre la po ografía por venganza, pero solo Virginia y Califo ia (ambos en EE. UU.) incluyen medios falsos y deepfake. En Reino Unido, la po ovenganza está prohibida, pero la ley no atañe a materiales falsificados. Más allá de eso, ningún otro país prohíbe la po ografía falsa no consentida a nivel nacional, asegura la experta académica en asuntos jurídicos Karolina Mania que ha escrito sobre este tema.
nEsto solo deja un pequeño margen de acción para las leyes civiles y penales existentes que se podrían aplicar en situaciones muy específicas. Si se saca el rostro de una víctima de una foto con derechos de autor, es posible utilizar la ley de propiedad intelectual. Y si la víctima puede demostrar la intención del perpetrador de causar daños, se aplicaría la ley de acoso. Pero a menudo resulta imposible reunir tales pruebas, según Mania, y no deja cauces legales para la gran mayoría de los casos.
nEsto fue lo que pasó con Mort. El abusador, que no había creado las imágenes po ográficas personalmente y no usó el nombre real de Mort, había sido muy cuidadoso para evitar cualquier acción considerada ilegal según la ley de acoso de Reino Unido. Las publicaciones también se habían parado un año antes de que ella se enterara de las mismas. "Casi se evitaba cualquier cosa que pudiera haber hecho posible decir que se trataba de un acoso directo con la intención de humillarme", explica.
nHay un montón de razones por las que tales abusos caen por las grietas de las leyes actuales. Por un lado, los deepfakes todavía son una tecnología poco conocida. Dodge organiza regularmente sesiones de formación para jueces, profesionales de la salud mental, funcionarios encargados de hacer cumplir la ley y educadores, o cualquier otra persona que pueda encontrarse con las víctimas de la po ografía sin consentimiento y apoyarlas. Y afirma: "Independientemente de los asistentes, diría que el 80 % no tiene ni idea de lo que es un deepfake".
nPor otro lado, pocas víctimas confiesan por la vergüenza y el acoso que podrían sufrir. Mort ya ha sido atacada por inte et desde que compartió su experiencia públicamente. Y lamenta: "Hablar de estas cosas abre la puerta a más abusos. Además, cada vez que lo haces, tienes que revivirlo de nuevo".
nn"Cada vez que hablas de ello, tienes que revivirlo de nuevo", Helen Mort.
n
Noelle Martin, quien se convirtió en activista después de descubrir a los 18 años que había sido víctima de una campaña de po ografía falsa, fue posteriormente atacada con otra campaña de po ografía deepfake aún más elaborada. El hecho de que la po ografía falsificada y deepfake sea intrínsecamente falsa tampoco disminuye los intentos de culpar a la víctima.
nPor eso resulta difícil para los políticos comprender el alcance del problema. La activista Charlotte Laws, que presentó con éxito la ley para prohibir la po ografía por venganza en Califo ia (el segundo estado en hacerlo), considera que las historias de las víctimas son cruciales para generar voluntad política.
nCuando la po ovenganza no se consideraba un problema, Laws traía archivos de "cinco centímetros de grosor" con casos de víctimas que habían sufrido daños tangibles en sus carreras y vidas personales, incluida su hija adolescente. Cuando otra adolescente, Audrie Pott, se suicidó en Califo ia después de que se publicaran fotos de ella desnuda sin su consentimiento, los legisladores de Califo ia por fin se movilizaron, lo que desencadenó una ola de leyes estatales en todo el país. "Esas historias deben salir a la luz, porque eso es lo que impacta a la gente. Eso es lo que hace que la gente actúe", sostiene Laws.
nNo obstante, la tecnología es difícil de regular, en parte porque hay muchos usos legítimos de los deepfakes en el entretenimiento, en la comedia y en la protección de los denunciantes. Los anteriores proyectos de ley sobre deepfakes presentados en el Congreso de EE. UU. han sido rechazados por ser demasiado amplios.
n"Se trata de recuperar el poder"
nPero hay buenas noticias: el curso de la marea parece estar cambiando. La Comisión de Derecho de Reino Unido, un organismo académico que revisa las leyes y recomienda reformas cuando sea necesario, está examinando las normas relacionadas con el abuso online. Planea publicar un borrador de recomendaciones en las próximas semanas para su consulta pública.
nLos activistas esperan que esto logre ampliar la prohibición del po o por venganza para que incluya todas las formas de falsificación de imágenes y vídeos íntimos. Mortimer, quien ha colaborado con la comisión para compartir las historias de las víctimas de forma anónima, detalla: "Creo que ha sido un estudio muy completo. Soy cautelosamente optimista".
nSi Reino Unido avanza con la prohibición, se convertiría en el primer país en hacerlo, dejando el camino para que Estados Unidos siga su ejemplo. EE. UU. y Reino Unido a menudo se reflejan entre sí porque tienen similar estructura de derecho común, afirma Mania. Y si EE.UU. toma medidas, es probable que la UE también lo haga.
nPor supuesto, todavía habrá grandes retos. Una diferencia clave entre EE. UU. y Reino Unido es la Primera Enmienda: uno de los mayores obstáculos para aprobar una prohibición federal de la po ografía por venganza es que se percibe que infringe la libertad de expresión, asegura la profesora de derecho de la Universidad Loyola Marymount (EE. UU.) Rebecca Delfino. Charlotte Laws se hace eco de esta opinión ya que ha trabajado en tres ocasiones con los miembros del Congreso de Estados Unidos para presentar un proyecto de ley para prohibir la po ovenganza, pero todos esos esfuerzos terminaron con las preocupaciones sobre la Primera Enmienda.
nPero los deepfakes también representan una interesante oportunidad jurídica porque los legisladores están muy preocupados por la capacidad de esta tecnología para interferir en las elecciones. En 2019, la congresista estadounidense Yvette Clarke presentó con esto en mente la Ley de Responsabilidades por Deepfakes. Propuso los castigos por la interferencia electoral y un recurso para las personas que sufren daños personales, como la po ografía no consentida.
nEl proyecto de ley se estancó, pero Clarke se está preparando para volver a presentar una versión revisada en unas pocas semanas. "La rápida adopción de la tecnología, el uso de las redes sociales, durante esta pandemia, hace que las condiciones sean propicias para aprobar una ley contra los deepfakes", sostiene.
nLa vicepresidenta de EE. UU., Kamala Harris, también lleva mucho tiempo defendiendo la prohibición federal de la po ovenganza, lo que podría movilizar más apoyo. Clarke añade: "Estamos en un nuevo Congreso. Hay miembros, tanto del Senado como de la Cámara, conscientes de lo que esta amenaza representa para nuestra forma de vida y cómo ya ha sido utilizada para abusar de las mujeres".
nMort resalta que ver este impulso le ha hecho pensar que vale la pena hablar sobre ello. Actualmente está en conversaciones con su representante local del Parlamento, compartiendo su experiencia y ayudando a trazar un mapa de lo que se puede hacer. Afirma: "Me siento parte de un movimiento. Eso es realmente importante para mí".
n nUnos días después de publicar su petición en Change.org, también lanzó un nuevo vídeo. Recitó un poema que había escrito, nacido de su trauma. Recuerda que fue catártico convertir esta fealdad en arte: "Se trata de recuperar el poder".
n