.

Franziska Barczyk

Tecnología y Sociedad

Primeros pasos para prohibir los 'deepfakes' porno en Reino Unido y EE. UU.

1

Ningún país tiene leyes para proteger a las víctimas, en su mayoría mujeres, cuyas vidas pueden acabar destrozadas. Pero nuevos movimientos en ambos países para divulgar los peligros de la tecnología y las terribles historias de quienes la han sufrido, incluidas niñas y adolescentes, podrían cambiar la situación

  • por Karen Hao | traducido por Ana Milutinovic
  • 18 Febrero, 2021

La poeta y locutora de Sheffield (Reino Unido) Helen Mort no podía creer lo que oía cuando un conocido le dijo que había fotos de ella desnuda en una página web de pornografía. Pero Mort nunca se había hecho ese tipo de fotos íntimas, así que debía de ser un error. Cuando finalmente reunió el valor para comprobarlo, se sintió asustada y humillada.

Mort es otra víctima de una campaña de pornografía falsa. Lo que más la sorprendió fue que las imágenes se basaban en fotos que habían sido tomadas entre 2017 y 2019 de sus cuentas privadas de redes sociales, incluido su perfil de Facebook ya eliminado.

El perpetrador había subido estas imágenes no íntimas (fotos de vacaciones y de su embarazo e incluso fotos de ella cuando era adolescente) y animado a otros usuarios a editar su rostro sobre las fotografías pornográficas explícitas. Mientras que algunas estaban mal hechas con Photoshop, otras eran escalofriantemente realistas. Cuando comenzó a investigar lo que había sucedido, aprendió un nuevo término: deepfakes, o contenidos ultrafalsificados, generados y manipulados por inteligencia artificial (IA).

Helen Mort

Mort recuerda: "Hizo que me sintiera impotente, como si me humillaran. Castigada por ser mujer con voz pública de cualquier tipo. Es la mejor forma en la que puedo describirlo. Como si me dijeran: 'Mira, siempre vamos a poder hacerte esto'".

Esas revelaciones la llevaron a una frustrante búsqueda de recursos. Llamó a la policía, pero el oficial le dijo que no podían hacer nada. Incluso consideró salirse de la web por completo, pero internet es crucial para su trabajo.

Tampoco tenía ni idea de quién lo habría hecho. Estaba aterrorizada de que fuera alguien a quien consideraba cercano. Empezó a dudar de todos, pero lo más doloroso fue que comenzó a dudar de su exmarido. Los dos son buenos amigos, pero el abusador había usado su nombre como seudónimo. "No fue él, absolutamente no. Pero es realmente triste. El hecho de que estuviera pensando en eso era una señal de cómo empezamos a dudar de toda la realidad", explica.

Aunque los deepfakes han recibido una enorme atención por sus posibles peligros políticos, la gran mayoría se utilizan para atacar a las mujeres. La empresa de investigación Sensity AI, que lleva rastreando vídeos deepfake online desde diciembre de 2018, constantemente encontraba que entre el 90 % y el 95 % de ellos eran pornografía sin consentimiento. Alrededor del 90 % de eso es pornografía no consentida de mujeres. "Es un problema de violencia contra las mujeres", opina el fundador de la organización sin ánimo de lucro EndTAB, Adam Dodge, que educa a las personas sobre el abuso mediante la tecnología.

En las consecuencias, este tipo de violación puede ser tan devastador como el porno por venganza: fotos íntimas reales publicadas sin consentimiento. Esto causa un daño bien documentado para las víctimas. En algunos casos, han tenido que cambiar sus nombres. En otros, se han visto obligadas a retirarse por completo de internet. Tienen un miedo constante a volver a sufrir ese trauma, porque las imágenes podrían resurgir en cualquier momento y arruinar de nuevo sus vidas.

Afortunadamente, movimientos paralelos en EE. UU. y Reino Unido están ganando impulso para prohibir el porno deepfake no consentido. Esa atención también podría ayudar a prohibir otras formas de violencia sexual basada en imágenes, que se habían desatendido hasta ahora. Después de años de esfuerzos de los activistas para alertar a los legisladores sobre estas atroces lagunas legales, los deepfakes por fin los obligan a prestar más atención.

"Solo estamos esperando la primera gran ola"

Los deepfakes comenzaron con la pornografía. En diciembre de 2017, la periodista de Motherboard Samantha Cole descubrió que un usuario de Reddit con el nombre "deepfakes" utilizaba técnicas de código abierto desarrolladas por investigadores de IA para intercambiar rostros de mujeres famosas en vídeos porno. Cole intentó advertir a los lectores: otras mujeres serían las siguientes.

Si bien el problema ganó algo de atención pública, fue principalmente por la novedad de la tecnología. Al fin y al cabo, el porno falso de celebridades había llevado años en internet. Pero, para los activistas que trabajan estrechamente con las víctimas de violencia doméstica, fue motivo de alarma inmediata. "Una herramienta perfecta para alguien que quiere ejercer poder y control sobre su víctima", resalta Dodge.

Se ha vuelto demasiado fácil crear un deepfake de cualquier mujer desnuda. Han surgido repetidamente distintas apps para este propósito en concreto, a pesar de que todas han sido prohibidas rápidamente. Primero DeepNude en 2019, por ejemplo, y un bot de Telegram en 2020. El código subyacente para "quitar" la ropa a las mujeres que aparecen en fotos sigue existiendo en los registros de código abierto.

Como resultado, el alcance del abuso ha crecido: actualmente los objetivos no son solo las celebridades e influencers de Instagram, sino gente corriente, explica el CEO y científico jefe de Sensity, Giorgio Patrini. En el caso del bot de Telegram, Sensity descubrió que había al menos 100.000 víctimas, incluidas niñas menores de edad.

"Una herramienta perfecta para alguien que quiere ejercer poder y control sobre su víctima", Adam Dodge.

A los activistas también les preocupan las populares apps deepfake creadas para propósitos aparentemente inofensivos como el intercambio de caras. "No es un gran salto de imaginación pasar de 'puedo poner mi cara en la de una estrella en un clip de una película' a 'puedo poner la cara de otra persona en algo pornográfico'", opina la directora de la organización sin ánimo de lucro de Reino Unido Revenge Porn Helpline, Sophie Mortimer.

En el contexto de la pandemia, esta tendencia es aún más preocupante. Mortimer afirma que el número de casos de su línea de ayuda casi se ha duplicado desde el inicio del confinamiento. Las relaciones abusivas existentes han empeorado y el maltrato digital ha experimentado un repunte a medida que las personas se han vuelto cada vez más aisladas y pasan más tiempo online.

Aunque solo se ha encontrado con algunos casos de pornovenganza con Photoshop, Mortimer sabe que la llegada de sus equivalentes deepfake solo será cuestión de tiempo. Y detalla: "La gente ha tenido más tiempo para aprender a usar esta tecnología. Es como si estuviéramos conteniendo la respiración y esperando el impacto de una gran ola".

"El 80 % de personas no tiene ni idea de lo que es un deepfake"

Hoy en día existen pocas opciones legales para las víctimas de pornografía deepfake no consentida. En EE. UU., 46 estados tienen alguna prohibición sobre la pornografía por venganza, pero solo Virginia y California (ambos en EE. UU.) incluyen medios falsos y deepfake. En Reino Unido, la pornovenganza está prohibida, pero la ley no atañe a materiales falsificados. Más allá de eso, ningún otro país prohíbe la pornografía falsa no consentida a nivel nacional, asegura la experta académica en asuntos jurídicos Karolina Mania que ha escrito sobre este tema.

Esto solo deja un pequeño margen de acción para las leyes civiles y penales existentes que se podrían aplicar en situaciones muy específicas. Si se saca el rostro de una víctima de una foto con derechos de autor, es posible utilizar la ley de propiedad intelectual. Y si la víctima puede demostrar la intención del perpetrador de causar daños, se aplicaría la ley de acoso. Pero a menudo resulta imposible reunir tales pruebas, según Mania, y no deja cauces legales para la gran mayoría de los casos.

Esto fue lo que pasó con Mort. El abusador, que no había creado las imágenes pornográficas personalmente y no usó el nombre real de Mort, había sido muy cuidadoso para evitar cualquier acción considerada ilegal según la ley de acoso de Reino Unido. Las publicaciones también se habían parado un año antes de que ella se enterara de las mismas. "Casi se evitaba cualquier cosa que pudiera haber hecho posible decir que se trataba de un acoso directo con la intención de humillarme", explica.

Hay un montón de razones por las que tales abusos caen por las grietas de las leyes actuales. Por un lado, los deepfakes todavía son una tecnología poco conocida. Dodge organiza regularmente sesiones de formación para jueces, profesionales de la salud mental, funcionarios encargados de hacer cumplir la ley y educadores, o cualquier otra persona que pueda encontrarse con las víctimas de la pornografía sin consentimiento y apoyarlas. Y afirma: "Independientemente de los asistentes, diría que el 80 % no tiene ni idea de lo que es un deepfake".

Por otro lado, pocas víctimas confiesan por la vergüenza y el acoso que podrían sufrir. Mort ya ha sido atacada por internet desde que compartió su experiencia públicamente. Y lamenta: "Hablar de estas cosas abre la puerta a más abusos. Además, cada vez que lo haces, tienes que revivirlo de nuevo".

"Cada vez que hablas de ello, tienes que revivirlo de nuevo", Helen Mort.

Noelle Martin, quien se convirtió en activista después de descubrir a los 18 años que había sido víctima de una campaña de pornografía falsa, fue posteriormente atacada con otra campaña de pornografía deepfake aún más elaborada. El hecho de que la pornografía falsificada y deepfake sea intrínsecamente falsa tampoco disminuye los intentos de culpar a la víctima.

Por eso resulta difícil para los políticos comprender el alcance del problema. La activista Charlotte Laws, que presentó con éxito la ley para prohibir la pornografía por venganza en California (el segundo estado en hacerlo), considera que las historias de las víctimas son cruciales para generar voluntad política.

Cuando la pornovenganza no se consideraba un problema, Laws traía archivos de "cinco centímetros de grosor" con casos de víctimas que habían sufrido daños tangibles en sus carreras y vidas personales, incluida su hija adolescente. Cuando otra adolescente, Audrie Pott, se suicidó en California después de que se publicaran fotos de ella desnuda sin su consentimiento, los legisladores de California por fin se movilizaron, lo que desencadenó una ola de leyes estatales en todo el país. "Esas historias deben salir a la luz, porque eso es lo que impacta a la gente. Eso es lo que hace que la gente actúe", sostiene Laws.

No obstante, la tecnología es difícil de regular, en parte porque hay muchos usos legítimos de los deepfakes en el entretenimiento, en la comedia y en la protección de los denunciantes. Los anteriores proyectos de ley sobre deepfakes presentados en el Congreso de EE. UU. han sido rechazados por ser demasiado amplios.

"Se trata de recuperar el poder"

Pero hay buenas noticias: el curso de la marea parece estar cambiando. La Comisión de Derecho de Reino Unido, un organismo académico que revisa las leyes y recomienda reformas cuando sea necesario, está examinando las normas relacionadas con el abuso online. Planea publicar un borrador de recomendaciones en las próximas semanas para su consulta pública.

Los activistas esperan que esto logre ampliar la prohibición del porno por venganza para que incluya todas las formas de falsificación de imágenes y vídeos íntimos. Mortimer, quien ha colaborado con la comisión para compartir las historias de las víctimas de forma anónima, detalla: "Creo que ha sido un estudio muy completo. Soy cautelosamente optimista".

Si Reino Unido avanza con la prohibición, se convertiría en el primer país en hacerlo, dejando el camino para que Estados Unidos siga su ejemplo. EE. UU. y Reino Unido a menudo se reflejan entre sí porque tienen similar estructura de derecho común, afirma Mania. Y si EE.UU. toma medidas, es probable que la UE también lo haga.

Por supuesto, todavía habrá grandes retos. Una diferencia clave entre EE. UU. y Reino Unido es la Primera Enmienda: uno de los mayores obstáculos para aprobar una prohibición federal de la pornografía por venganza es que se percibe que infringe la libertad de expresión, asegura la profesora de derecho de la Universidad Loyola Marymount (EE. UU.) Rebecca Delfino. Charlotte Laws se hace eco de esta opinión ya que ha trabajado en tres ocasiones con los miembros del Congreso de Estados Unidos para presentar un proyecto de ley para prohibir la pornovenganza, pero todos esos esfuerzos terminaron con las preocupaciones sobre la Primera Enmienda.

Pero los deepfakes también representan una interesante oportunidad jurídica porque los legisladores están muy preocupados por la capacidad de esta tecnología para interferir en las elecciones. En 2019, la congresista estadounidense Yvette Clarke presentó con esto en mente la Ley de Responsabilidades por Deepfakes. Propuso los castigos por la interferencia electoral y un recurso para las personas que sufren daños personales, como la pornografía no consentida.

El proyecto de ley se estancó, pero Clarke se está preparando para volver a presentar una versión revisada en unas pocas semanas. "La rápida adopción de la tecnología, el uso de las redes sociales, durante esta pandemia, hace que las condiciones sean propicias para aprobar una ley contra los deepfakes", sostiene.

La vicepresidenta de EE. UU., Kamala Harris, también lleva mucho tiempo defendiendo la prohibición federal de la pornovenganza, lo que podría movilizar más apoyo. Clarke añade: "Estamos en un nuevo Congreso. Hay miembros, tanto del Senado como de la Cámara, conscientes de lo que esta amenaza representa para nuestra forma de vida y cómo ya ha sido utilizada para abusar de las mujeres".

Mort resalta que ver este impulso le ha hecho pensar que vale la pena hablar sobre ello. Actualmente está en conversaciones con su representante local del Parlamento, compartiendo su experiencia y ayudando a trazar un mapa de lo que se puede hacer. Afirma: "Me siento parte de un movimiento. Eso es realmente importante para mí".

Unos días después de publicar su petición en Change.org, también lanzó un nuevo vídeoRecitó un poema que había escrito, nacido de su trauma. Recuerda que fue catártico convertir esta fealdad en arte: "Se trata de recuperar el poder".

Tecnología y Sociedad

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. ¿Cree que Silicon Valley se muere? Yo no apostaría por ello

    La fuga de varias grandes empresas tecnológicas de la cuna de la innovación parece advertir que la región está en las últimas. Pero no se equivoque, hay muchos los factores involucrados en la creación de este tipo de núcleos tecnológicos y aún no se sabe cuál será la próxima gran tecnología revolucionaria

  2. Dar una sola dosis de la vacuna al doble de gente podría salvar más vidas

    Varios estudios sugieren que administrar ambas dosis en el plazo recomendado podría ser menos eficaz para detener la pandemia que inyectar solo la primera al doble de gente en menos tiempo. Pero no hay consenso científico y el cambio podría ralentizar las campañas e impulsar nuevas variantes

  3. Riesgos y beneficios del pase verde de Israel y otros certificados de inmunidad

    Todo el mundo está planteando estrategias que ayuden a la gente vacunada o inmune a recuperar la normalidad, desde aplicaciones ultratecnológicas a simples cartillas en papel. El enfoque israelí es el más avanzado, pero se enfrenta a distintos riesgos y problemas de seguridad, privacidad y desigualdad