.

Inteligencia Artificial

La batalla de Marsella: activistas se levantan contra las IA de vigilancia

1

La bulliciosa y rebelde ciudad portuaria intenta luchar contra la creciente omnipresencia de las cámaras policiales

  • por Fleur Macdonald | traducido por Ana Milutinovic
  • 24 Junio, 2022

En el camino hacia la estación central de trenes de Marsella (Francia), la programadora de 39 años, Eda Nano, señala una base larga que se curva hacia arriba hasta convertirse en una cúpula blanca que da sombra a una bombilla oscura. Parece una farola en la calle Rue des Abeilles. Sin embargo, esta elegante pieza de mobiliario urbano es una cámara, con una vista de 360 grados de esta calle estrecha.

Nano quiere que los habitantes de Marsella sean más conscientes de que están siendo observados. Esta activista forma parte del grupo Technopolice que organiza esfuerzos para mapear el auge de la videovigilancia. Con unas 1.600 cámaras en la ciudad, hay mucho que encontrar. Entre ellas, según Nano, hay 50 cámaras inteligentes diseñadas para detectar y señalar comportamientos sospechosos, aunque no está segura de dónde están o cómo se utilizan.

En todo el mundo, las cámaras se han convertido en un dispositivo aceptado y característico de la vida urbana. Muchas ciudades en China tienen densas redes de cámaras de vigilancia. Londres (Reino Unido) y Nueva Delhi (India) no se quedan atrás.

Francia también se está poniendo al día en ese aspecto. Desde 2015, el año de los atentados de la sala Bataclan, el número de cámaras en París (Francia) se ha multiplicado por cuatro. La policía ha utilizado este tipo de cámaras para controlar las medidas de confinamiento por pandemia y monitorear protestas como las de los gilets jaunes (chalecos amarillos). Una nueva ley de seguridad nacional, adoptada el año pasado, permite a la policía la videovigilancia con drones durante algunos acontecimientos como manifestaciones y marchas.

cámara de seguridad en marsella

Para Nano, el aumento de la vigilancia tiene importancia a nivel personal. Nano creció en Albania, un país que se tambaleaba entre diferentes regímenes políticos en la década de 1990. Su padre, que era político, se opuso al partido que estaba en el poder durante una parte de ese tiempo. "Fue un período muy difícil para nosotros, porque todos estábamos vigilados", asegura. Su familia sospechaba que las autoridades habían instalado micros en las paredes de su casa. Pero incluso en Francia, las libertades resultan frágiles. "En estos últimos cinco años, Francia ha vivido la mayor parte del tiempo en un estado de emergencia", resalta Nano. "He visto cada vez más restricciones impuestas a nuestra libertad"

En todo el país, se han expresado preocupaciones por este tema. Pero el despliegue de vigilancia ha encontrado una especial resistencia en Marsella, la segunda ciudad más grande de Francia. La bulliciosa y rebelde ciudad mediterránea se asienta sobre algunas de las líneas divisorias que atraviesan la Francia moderna. Es conocida por sus bares modernos, estudios de artistas y centros de start-ups, pero también . Tiene una de las poblaciones con mayor diversidad étnica de Europa, pero se encuentra en la región Provenza-Alpes-Costa Azul, que se inclina hacia la extrema derecha. La ciudad reacciona contra eso. Su actitud se podría resumir en un grafiti que aparece al entrar por la autopista A7: "La vie est (re)belle", [la vida es (re)bella (o rebelde), en español].por las drogas, la pobreza y la actividad delictiva.Todo eso convierte a Marsella en un curioso campo de pruebas para la tecnología de vigilancia. Cuando el presidente Emmanuel Macron visitó la ciudad en septiembre de 2021, anunció que se entregarían al Ayuntamiento 500 cámaras de seguridad más. Se iban a ubicar en un área de la ciudad con un gran número de inmigrantes, que se había convertido en sinónimo de violencia y actividad de pandillas. Tuvo un tono de ley y orden: "Si no podemos tener éxito en Marsella, no podemos tener éxito en Francia".

Ese anuncio fue el último de una serie de acontecimientos en Marsella que mostraban una mayor dependencia a las cámaras en espacios públicos.

Los activistas están contraatacando, resaltan la extralimitación y el bajo rendimiento del sistema de vigilancia existente y su mensaje parece resonar. En 2020, la ciudad eligió un nuevo gobierno local, que prometió una moratoria sobre los dispositivos de videovigilancia. Pero, ¿han ganado los habitantes de Marsella, o simplemente están luchando contra una marea creciente?

La campaña y la red de activistas Technopolice, lanzada por el grupo de defensa de los derechos digitales La Quadrature du Net en colaboración con otros grupos, inició su actividad en 2019. Félix Tréguer, investigador asociado del Centro CNRS para Internet y Sociedad, fue uno de los impulsores de la campaña después de haber notado un creciente número de artículos en los medios franceses sobre nuevos proyectos de vigilancia y le sorprendió lo poco críticos que eran. "Había uno que simplemente repitió el comunicado de prensa del Ayuntamiento de Marsella", señala Tréguer.

Lo que lo impulsó a la acción fue un artículo publicado en Le Monde en 2017 que anunciaba el Proyecto Big Data para el Orden Público, financiado con una inversión de 1,5 millones de euros de la Unión Europea, la ciudad de Marsella y la región de Bouches-du-Rhône (Francia). El proyecto iba a procesar datos de la policía local, bomberos, hospitales y cámaras de vigilancia, mediante inteligencia artificial (IA) en un intento por comprender y predecir mejor los riesgos de seguridad.

Este artículo de Le Monde se centró poco en la protección de la privacidad, en la posibilidad de violaciones de leyes y derechos sobre los datos personales o el riesgo de sesgo, una preocupación especial dada la considerable población norteafricana de Marsella. Tréguer escribió al periódico y el artículo fue modificado posteriormente. Pero Tréguer se dio cuenta de que lo que pasaba en Marsella era sintomático de un fenómeno más amplio. "Muchos de estos proyectos empezaban a implementarse a nivel local", afirma. "Nadie en la sociedad civil realmente se dio cuenta de eso, ni siquiera los que pertenecían a los círculos activistas ni los que defendían el derecho a la privacidad".

En febrero de 2019, La Quadrature du Net y la Liga de Derechos Humanos lucharon con éxito contra un plan para implementar el reconocimiento facial con el fin de monitorear entradas y salidas en dos escuelas secundarias, una en Marsella y otra en Niza (Francia). Technopolice se lanzó ese mismo año, con el objetivo de documentar y oponerse a la propagación de los proyectos de "ciudades seguras" en Francia, una idea (a menudo corporativa) que se usa para canalizar esfuerzos de uso datos, IA y vigilancia para reducir el crimen.

En Marsella, Technopolice construyó un mapa en vivo en el que los voluntarios podían marcar las ubicaciones de las cámaras. El grupo también comenzó a rastrear proyectos de vigilancia en varias ciudades que utilizan la inteligencia artificial. Existe un grupo Technopolice en Montpellier (Francia) y otro en Bélgica, y pronto habrá uno en París. Los voluntarios buscan y analizan los registros de las iniciativas de vigilancia en los comunicados de prensa, reportajes y publicaciones comerciales. El objetivo consiste en crear "un registro de estos proyectos, que son muy opacos", según Tréguer. "Realmente existe un problema de transparencia democrática".

Technopolice cree que su activismo ha ayudado a aumentar la conciencia sobre este tema. En 2019, hizo campaña con un grupo local contra los planes de colocar micrófonos asistidos por IA que detectarían sonidos sospechosos en el centro de Sainte-Étienne, una ciudad cerca de Lyon (Francia). Finalmente, estos planes fueron abandonados. Los ganadores de las elecciones locales de 2020 en Marsella se postularon en una plataforma que incluía una moratoria a la videovigilancia y establecer "consejos de ciudadanos" para evaluar las prácticas policiales. Pero el equipo ha tenido poca suerte en llegar al fondo del Proyecto Big Data para el Orden Público a pesar de las numerosas solicitudes de libertad de información. La descripción del proyecto en el sitio web del Ayuntamiento permanece en tiempo futuro, casi como si nunca se hubiera lanzado. Mientras tanto, la cantidad de cámaras de vigilancia en la ciudad ha aumentado a más de 1.600 en comparación con poco menos de 900 en 2016. En cuanto a las cámaras inteligentes, todavía están dispersas por Marsella, aunque, según el concejal local Christophe Hugon, se usaban solo en pruebas y ya se han desactivado. A pesar de los repetidos esfuerzos, el Ayuntamiento de Marsella no respondió a las preguntas formuladas por teléfono y correo electrónico.

La plaza Jean-Jaurès de Marsella es un nuevo modelo de vigilancia ubicua. La plaza, antes poco acogedora, se volvió a abrir el año pasado después de más de dos años de trabajos de remodelación. Tiene áreas de descanso y un parque infantil. Los árboles han sido plantados geométricamente. Y más de 20 cámaras presiden el diseño diáfano.

"Pueden ver casi todas las zonas de la plaza, porque la visibilidad es parte del diseño", señala Myrtille Picaud, investigadora de ciudades y vigilancia de la Universidad Sciences-Po de Marsella.

Las cámaras, aunque discretas, son preocupantes para algunos ciudadanos. "Es un tratamiento que infantiliza", opina una persona que vive ahí desde hace mucho tiempo y compara ese sistema con las torres de vigilancia alrededor de una prisión. Pero los internos de este panóptico no necesariamente siguen el juego. Cuando cae la noche, el ambiente se puede volver tan alborotado que algunas cafeterías cierran sus espacios al aire libre. Graffitis anticapitalistas, feministas, antirracistas o simplemente divertidos cubren el pavimento. Durante el salvaje Festival de la Plaine, que este año se llevó a cabo ilegalmente a pesar de las restricciones contra la COVID-19, las latas de pintura en aerosol acabaron en postes y se usaron para cubrir las lentes de las cámaras.

No se han hecho públicas las estadísticas oficiales sobre el impacto que las cámaras de Marsella han tenido en el crimen. Pero hay razones para dudar si el beneficio ha sido tan alto como les gustaría a las autoridades. El sociólogo Laurent Mucchielli analizó el efecto de la videovigilancia en una ciudad portuaria anónima que guarda notables similitudes con Marsella. Sus descubrimientos en 2015 fueron que las cámaras ayudaron en la investigación del 2,2% de los delitos en los que se había solicitado la comprobación de las imágenes. Otros estudios parecen respaldar este tipo de cifras; en 2020, un informe realizado por el organismo de investigación adscrito al colegio francés de policía también estimó que solo el 1% de los delitos se resolvieron con la ayuda de las imágenes de vídeo.

A menudo se sugiere que estas cámaras funcionan para disuadir el crimen, pero los estudios no son concluyentes en ese punto. Parece existir un efecto en espacios cerrados públicos como estacionamientos y subterráneos, pero en algunos casos el crimen simplemente se desplaza y aumenta en áreas con menos cámaras.

En general, según Picaud, la vigilancia de la ciudad prioriza la captura de una determinada clase de delincuentes, aquellos que cometen delitos en público, aunque sus infracciones suelen ser menores. "Se puede ver la sobreinversión en estos dispositivos que controlan al espacio público en lugar de invertir en otras tecnologías que podrían apuntar a otros delitos, como, por ejemplo, cualquier cosa que tenga que ver con la evasión de impuestos", señala la investigadora.

Poco después de las elecciones de 2020, el nuevo alcalde de Marsella pidió una auditoría de la videovigilancia en la ciudad. El Ayuntamiento aún está analizando el estudio, que se entregó en octubre, pero los hallazgos preliminares se publicaron en el periódico local The Provence. Son 42 agentes los que se dedican a este plan; en un momento dado, hay menos de cinco en servicio y cada uno es responsable de 35 pantallas. El sistema no es barato; el periódico destacó el coste de la instalación de cada cámara. Cuesta más de 20.000 euros por dispositivo a lo que se le suma el alquiler de la fibra óptica de 6,5 millones de euros al año y el mantenimiento de las cámaras, incluida la limpieza y sustitución de bombillas (2,8 millones de euros al año). Muchas de las imágenes no tienen la calidad suficiente para ser usadas. Y 272 cámaras, más del 15% del total, rara vez se consultan.

"Es el tecno-solucionismo. Existe un problema político y prometen encontrar una tecnología, una app, para controlarlo", indica Tréguer. "Es muy costoso y utiliza una parte del dinero de los contribuyentes para implementar soluciones que son peligrosas para las libertades, aumentan el control y son en parte ineficaces".

La situación en Marsella no parece atípica. En febrero, por ejemplo, la Cour de Comptes, el organismo administrativo que controla las cuentas públicas, destacó cuestiones similares en su informe sobre la red de videovigilancia en París. Los auditores calificaron su financiación como "inadecuada y costosa" y criticaron que nadie había evaluado el impacto de las cámaras en el crimen.

El Gobierno de Marsella parece haber congelado la idea de videovigilancia. El proyecto Big Data para el Orden Público, cuyo período de prueba duró desde 2018 a 2020, había sido el plan favorito del anterior alcalde de derechas. La coalición de socialistas, ecologistas y activistas que llegó al poder en las elecciones municipales de 2020 prometió pausar la videovigilancia. Esto ha sido más difícil de lo previsto al principio, indica Hugon, debido a la dificultad de rescindir contratos antes de tiempo.

A la vez, las autoridades municipales han expresado cierto interés en volver el sistema más eficiente. La inteligencia artificial es quizás la única forma de llevarlo a cabo a gran escala sin tener que contratar a mucho más personal. Tréguer no apoya esta posibilidad del avance de la tecnología: "Estamos recreando de alguna manera un estado policial tentacular y burocrático sin tener que contratar a decenas o cientos de personas".

La tecnología disponible avanza rápidamente. La start-up francesa Two-i, por ejemplo, ofrece una función de investigación, que permite que un equipo de vigilancia use IA para buscar imágenes de objetos específicos, como un hombre que lleva una mochila o incluso zapatillas deportivas.

"Una parte llamativa de la prensa está librando una batalla, y escriben cosas falsas para asustar a la gente".

Guillermo Cazenave

Algunos artículos de prensa afirman que esta empresa ha implementado el reconocimiento facial en la ciudad de Metz (Francia) y lo estaba probando para leer expresiones de las personas que usan los tranvías de Niza. El cofundador de Two-i Guillaume Cazenave asegura que tales informes son erróneos. "En Francia, una parte llamativa de la prensa está librando una batalla, y escriben cosas falsas para asustar a la gente", indica.

Pero hay indicios de que los legisladores y los organismos públicos de Francia están buscando formas de facilitar el uso de la inteligencia artificial en la vigilancia de los espacios públicos. Un documento parlamentario de 2019 recomendó establecer un marco para probar el reconocimiento facial, que actualmente es ilegal. En el sistema de metro de París en 2020, las cámaras de seguridad estaban habilitadas con IA con el fin de monitorear si los pasajeros usaban mascarillas faciales. La tecnología no identificaba a quienes no las usaban, sino simplemente proporcionaba estadísticas anónimas. La Unión Europea está trabajando en un conjunto de normas denominado Reglamento sobre la IA que podría limitar la aplicación de la tecnología de vigilancia mediante IA. Pero Technopolice considera que esa normativa podría crear lagunas si no prohíbe por completo el uso del reconocimiento facial.

cámara de seguridad en marsella

CNIL, la agencia de protección de datos de Francia, es la que tiene la tarea de garantizar que la tecnología de vigilancia cumpla con el Reglamento General de Protección de Datos de la UE, o RGPD. En 2017, por ejemplo, la localidad francesa de Valenciennes aceptó 240 cámaras equipadas con tecnología de reconocimiento facial de la empresa china Huawei. La ciudad insistió en que la tecnología no se utilizaba. Sin embargo, CNIL hizo una advertencia a las autoridades locales en 2021 y el proyecto se disolvió silenciosamente. Pero a principios de este año, CNIL lanzó una consulta pública sobre el uso de cámaras inteligentes en lugares públicos para aclarar el marco legal para su uso. Los miembros de Technopolice lo ven como una aceptación tácita de la necesidad de tales cámaras.

La lucha aún continúa para Technopolice. Este verano tienen previsto organizar una serie de encuentros en las localidades norteñas de Roubaix y Calais (Francia); el Ayuntamiento de Calais se plantea dedicar medio millón de euros extra a la videovigilancia. La Quadrature du Net está trabajando en una demanda colectiva contra el Gobierno por el uso de cámaras inteligentes en contra de la normativa europea. En Marsella, este grupo sigue buscando apoyos; este verano organizará una conferencia y proyecciones de documentales. También habrá más solicitudes de libertad de información al Ayuntamiento de Marsella. Cinco de ellas, presentadas en los últimos 12 meses, aún están pendientes. Mientras tanto, las cámaras no paran de grabar.

Fleur Macdonald es una escritora residente cerca de Avignon, Francia .

Inteligencia Artificial

 

La inteligencia artificial y los robots están transformando nuestra forma de trabajar y nuestro estilo de vida.

  1. Entrenar a las IA para el mundo real con 'youtubers' jugando al Minecraft

    Los vídeos online son una fuente inmensa e inexplorada de datos de entrenamiento, y OpenAI tiene una nueva forma de usarlos

  2. Cicero, la IA de Meta que llega a acuerdos con humanos

    Para la creación de este nuevo modelo inteligencia artificial, la compañía ha combinado dos tipos de IA. Los prometedores resultados obtenidos en el juego Diplomacy abren la puerta a su aplicación en la negociación de contratos

  3. Osos espaciales y artículos falsos: historia del último fracaso de Meta

    Tras el lanzamiento de Galactica, Meta aseguraba que los científicos contarían con una gran ayuda al resumir trabajos académicos o resolver problemas matemáticos. Sin embargo, el resultado eran datos irrelevantes o, directamente, falsos