.

Tecnología y Sociedad

La IA de vigilancia promueve un 'apartheid' digital en Sudáfrica

1

Desde que las empresas han introducido sus tecnologías de inteligencia artificial en este país, se ha creado un modelo para vigilar a los ciudadanos que sirve como advertencia para todo el mundo

  • por Karen Hao y Heidi Swart | traducido por Ana Milutinovic
  • 27 Abril, 2022

Este reportaje es la primera parte de la serie de MIT Technology Review sobre el colonialismo de la IA, en la idea de que la inteligencia artificial está creando un nuevo orden mundial colonial. Fue apoyado por el Programa de becas de MIT Knight Science Journalism y por Pulitzer Center. La introducción a la serie se puede ver aquí.

Las cámaras aún no están instaladas. Pero la fibra sí.

El activista comunitario Thami Nkosi señala hacia la reveladora caja negra en un poste del alumbrado público en la misma calle donde antes vivían dos ganadores del Premio Nobel de la Paz: el primer presidente negro de Sudáfrica, Nelson Mandela, y el activista contra el apartheid y teólogo Desmond Tutu.

Siempre pasa así, según explica Nkosi. Primero se instala la fibra y luego van las cámaras de seguridad, que son inútiles a menos que haya una conectividad fiable para enviar sus vídeos a una sala de control donde sean monitoreadas por empleados y algoritmos.

Se trata de la calle Vilakazi en Soweto, el histórico suburbio de Johannesburgo, esa megaciudad en expansión que está creando un modelo único de vigilancia influenciado por la industria de la seguridad global y que a su vez influirá en ella. Los activistas de derechos civiles afirman que este modelo está alimentando un apartheid digital que destruye las libertades democráticas de las personas.

Un mural en Soweto

Foto: Un mural junto a la calle Vilakazi anuncia la llegada de internet de fibra Vuma a Soweto en Sudáfrica. Créditos: Madelene Cronje

Esto no hubiera sido posible hace cinco años. Ni las infraestructuras de la ciudad ni las herramientas de análisis de vídeo podían realizar el envío ni el procesamiento de imágenes a la escala necesaria. Pero tras la expansión de la cobertura de la fibra y el avance de las capacidades de inteligencia artificial (IA), varias empresas extranjeras se dieron cuenta de la oportunidad y comenzaron a introducir las últimas tecnologías de vigilancia en este país. La industria de la seguridad local, forjada bajo la presión de un entorno de alta criminalidad, recibió estas nuevas opciones con los brazos abiertos.

El resultado ha sido la rápida creación de una masiva operación de vigilancia centralizada, coordinada y completamente privatizada. Vumacam, la empresa que construye la red nacional de cámaras de videovigilancia o CCTV, ya cuenta con más de 6.600 cámaras (y sigue en aumento), de las cuales más de 5.000 se encuentran en Johannesburgo. Las imágenes de vídeo tomadas por estas cámaras llegan a las salas de seguridad de todo el país, donde luego se utilizan todo tipo de herramientas de inteligencia artificial, como el reconocimiento de matrículas de coches, para seguir el movimiento de la población y localizar a las personas.

En los últimos años, un creciente número de expertos ha argumentado que este uso de la inteligencia artificial está repitiendo los patrones de la historia colonial. En Sudáfrica, donde está muy presente el recuerdo de la era colonial, el despliegue ilimitado de la vigilancia de IA ofrece un caso de estudio sobre cómo una tecnología que prometía llevar a las sociedades al futuro amenaza con enviarlas de regreso al pasado.

Dos calles más allá de Vilakazi y de su atractivo turístico, el resto de Soweto -un municipio donde predomina la población negra- sigue siendo pobre y está rodeado de colinas formadas por las residuos tóxicos de la industria minera del oro.

Nkosi, nacido y criado en Soweto, ha pasado 15 años luchando contra todo tipo de injusticias: violencia de género, falta de agua y saneamiento y, más recientemente, la vigilancia masiva que amenaza las libertades civiles. Nkosi parece más divertido que enfadado mientras pasamos en coche junto a los imponentes montones de residuos que contaminan con productos químicos su barrio. "Me sorprende que no me haya muerto todavía", confiesa.

En la calle Vilakazi en Soweto vivieron Nelson Mandela y Desmond Tutu

Foto: En la calle Vilakazi en Soweto vivieron Nelson Mandela y Desmond Tutu. Créditos: Madelene Cronje

Por ahora, las cámaras aún no han llegado a Soweto, precisamente porque es un barrio pobre. Vumacam las instaló primero en los lugares donde había clientes que pagaran por sus servicios. A medida que las estrechas calles dan paso a la autopista que lleva hacia las zonas más ricas, estas instalaciones se hacen visibles: postes grises de acero con discos gruesos y grandes en medio, donde varias cámaras de CCTV cuelgan como murciélagos con la mirada fija en las carreteras.

Mientras nos acercamos a Rosebank, una zona exclusiva de Johannesburgo, los postes brotan del asfalto más rápido de lo que podemos contar. Caminando junto a un centro comercial, Nkosi se para boquiabierto ante su último descubrimiento: una cámara que cuadriplica el tamaño de todas las demás.

"Es la primera vez que veo esta cosa tan grande. Esto tiene que ser reconocimiento facial, definitivamente", especula Nkosi. Esto significa que la cámara podría grabar vídeos a una resolución lo suficientemente alta para posibilitar el uso de esta tecnología. "Jesús. No me lo puedo creer", musita el activista.

Cuando se le pregunta sobre esta hipótesis a Vumacam, la empresa asegura que no usa el reconocimiento facial y que no tiene intención de usarlo hasta que la tecnología esté adecuadamente regulada. "Creemos que la tecnología de reconocimiento facial (de cualquier proveedor) aún no es lo bastante fiable desde el punto de vista ético", afirma Ricky Croock, director ejecutivo de Vumacam.

NEC XON, la subsidiaria sudafricana del proveedor de reconocimiento facial más grande del mundo, resalta que ambas compañías tuvieron conversaciones preliminares hace más de dos años sobre la posibilidad de añadir esa función a la plataforma de Vumacam, pero agrega que las cámaras no son adecuadas para esa tecnología, lo que Vumacam también confirma.

Así que puede que el reconocimiento facial esté llegando o quizás no. Esto es lo que pasa con un modelo privatizado de seguridad pública: es realmente difícil de saber.

Thami NkosiFoto: El activista Thami Nkosi. Créditos: Madelene Cronje

Lo primero que Rob Nichol’s, CEO de la empresa de seguridad privada AI Surveillance, quiere mostrar es la sala de control. Al final del pasillo desde un espacio compartido de oficinas, abre la puerta a una enorme sala con pantallas en las paredes.

Las pantallas transmiten imágenes de las cámaras de toda la ciudad que la empresa ha sido contratada para monitorear. Sobre todo sirven para impresionar, ya que a acción real ocurre debajo de ellas: en dos filas de ordenadores en las que los empleados trabajan con la plataforma de software Proof 360 de Vumacam.

En vez de mostrar docenas de transmisiones de vídeo a la vez, Proof 360 utiliza IA y otros tipos de análisis para visualizar solo las imágenes que activan las alertas de seguridad, que incluyen los sistemas para el reconocimiento de matrículas de coches y la detección de actividad "inusual" proporcionada por la empresa iSentry, que la había desarrollado originalmente para el ejército australiano. El software se entrena con 100 horas de vídeos para que cada cámara pueda aprender qué es un comportamiento "normal" y distinguir a partir de ello cualquier cosa que se considere fuera de lo común. Cada cámara también se puede configurar con otras reglas adicionales. Por ejemplo, se pueden programar las barreras que los transeúntes nunca deberían cruzar y las zonas donde los coches nunca se deberían detener.

En la primera fila de la estación de monitoreo, las alertas aparecen una por una en la pantalla de un trabajador de seguridad. En una de las alertas, un hombre ha sido señalado por correr; en otra, una mujer por pararse en el pasillo mientras envía mensajes de texto; en la tercera, otra mujer por caminar demasiado cerca de un coche. El operador revisa cada una de las alertas y hace clic en el botón "descartar" en todas. También hay un cuadro de comentarios y un botón con la palabra "escalar".

Cuando hay una “alerta escalada”, esta se envía a la segunda fila, donde un equipo coordina una respuesta según el tipo de situación y las instrucciones del cliente. A veces, significa enviar un mensaje de texto a un guardia de seguridad in situ para despejar la zona; otras veces, hay que avisar a la policía para que arreste al presunto delincuente.

Foto: La plataforma Proof 360 de Vumacam utiliza el reconocimiento de matrículas de coches para identificar los vehículos buscados. Créditos: Vumacam

Nichol’s señala una alerta sobre un coche en búsqueda, una información que se obtuvo desde la base de datos que el Servicio de Policía de Sudáfrica (SAPS, por sus siglas en inglés) tiene con los vehículos vinculados a actividades delictivas. "Es muy importante que se tome nota de estos vehículos. Están involucrados en varios robos en viviendas y asesinatos y son muy peligrosos. Hay que usar armas de alto calibre y no dudar en disparar. Llame a la compañía de seguridad y a SAPS INMEDIATAMENTE", se lee en los comentarios que SAPS escribió como advertencia a los vigilantes de seguridad encargados de responder a la alerta y detener a los culpables.

Vumacam utiliza un modelo basado en la suscripción: las entidades registradas en el organismo regulador de la industria de la seguridad privada, así como en los departamentos de policía metropolitana y SAPS, pueden contratar el acceso a cualquier grupo de cámaras que deseen dentro de la plataforma Proof 360. En 2019, esta empresa cobraba 730 rand sudafricanos (46 euros) al mes por cada cámara, pero no ha querido dar sus últimos precios.

Hasta ahora, la mayor parte de los suscriptores de Vumacam han sido empresas privadas de seguridad como AI Surveillance, que ofrece desde vigilantes armados hasta monitoreo para una gran variedad de clientes, incluidas escuelas, empresas y barrios residenciales. El plan siempre fue ese: el CEO de Vumacam, Ricky Croock, fundó AI Surveillance con Nichol’s poco después de crear Vumacam y luego salió de la empresa para evitar conflictos con otros clientes de Vumacam.

Hoy en día, una suscripción a Vumacam se ha convertido en el estándar de facto para las empresas de seguridad que operan en los barrios y áreas comerciales más prósperas de Johannesburgo y sus alrededores. "No creo que un proveedor de espacio público pueda brindar seguridad pública de manera efectiva sin cámaras", opina el experto en tecnología Ryan Roseveare, quien vive en Craighall Park, una de las primeras urbanizaciones del país en adoptar Vumacam.

Estas empresas privadas de seguridad gestionan las funciones generalmente asociadas con la vigilancia policial, aunque no tienen las mismas competencias legales. Mientras que Sudáfrica tiene poco más de 1.100 comisarías con algo más de 180.000 miembros del personal, hay 11.372 empresas de seguridad registradas y 564.540 vigilantes de seguridad empleados activamente. Más que la policía y el ejército juntos.

Ese desequilibrio es un remanente del apartheid. A finales de la década de 1970, el gobernante Partido Nacional desplegó policías para proteger sus intereses políticos y controlar los disturbios contra el Gobierno. Estas funciones tenían prioridad sobre el trabajo policial real, lo que creó una oportunidad para el sector privado.

Foto: Sudáfrica tiene más vigilantes de seguridad privados, empleados por empresas como Fidelity ADT, que la policía y el ejército juntos. Créditos: Madelene Cronje

Más tarde, la fuerza policial que ya carecía de recursos se redujo aún más por la reforma posterior al apartheidLa industria de la seguridad privada se disparó junto con las asombrosas tasas de delincuencia del país. Sudáfrica registró cuatro veces más homicidios per cápita que Estados Unidos en el último ejercicio.

La política del Gobierno alentó a las comunidades y a la policía a colaborar con estas agencias privadas. El resultado ha sido la evolución de un sector de seguridad privada cada vez más militar. En un paseo por Johannesburgo, estas unidades paramilitares se pueden ver en todas partes: hombres uniformados en vehículos tácticos portando armas de gran calibre. Son mucho más frecuentes que la policía. La diferencia consiste en que sirven a los clientes que pagan, no al interés público.

Al ser incapaz de cubrir ese servicio, el Gobierno incumplió sus promesas de dar seguridad a ciudadanos y empresas. En Johannesburgo se instalaron cámaras de videovigilancia por primera vez en 2009. Ya son 574, según las autoridades municipales. Pero la ciudad ha generado muchas noticias de los medios sobre el mal funcionamiento de las mismo. De hecho, las 25 cámaras que fueron instaladas en la calle Vilakazi en 2017, parte de una iniciativa de smart-city, ya no están, según detalla Nkosi.

Vumacam entró a cubrir esta brecha en el mercado. Su director ejecutivo, Croock, viene de la industria de seguridad de Johannesburgo, y anteriormente operó un servicio privado de seguridad en las urbanizaciones más prósperas. Con la introducción de internet de fibra, vio la oportunidad de añadir a su oferta las cámaras conectadas a internet y el análisis basado en la IA.

Esta empresa se asoció con la empresa china Hikvision y la sueca Axis Communications para proporcionar el hardware, mientras que iSentry y Milestone, una popular herramienta de gestión de videovigilancia con sede en Dinamarca, ofrecieron el software. A partir de ahí, Vumacam se alió con las agencias privadas que patrullaban en las zonas residenciales ricas y erigió postes con cámaras de alta definición allá donde les interesaba, utilizando la red de fibra óptica de Johannesburgo.

Como parte del trato, Vumacam promete mantenimiento regular, gran cobertura y el almacenamiento de las imágenes hasta 30 días, durante los cuales los oficiales y representantes jurídicos pueden solicitar una copia permanente para usarla como prueba en la investigación de delitos. En marzo de 2021, 50 empresas de seguridad estaban suscritas a su servicio. Vumacam no ha querido informar de cuántos clientes tiene en la actualidad.

Foto: Más allá de la calle Vilakazi, el resto de Soweto, un municipio donde predomina la población negra, sigue siendo pobre y está rodeado de colinas formadas por los residuos tóxicos de la industria minera del oro. Créditos: Madelene Cronje

Más recientemente, la empresa ha intentado entrar en los centros comerciales, edificios de oficinas e incluso en los hogares particulares. No instala sus propias cámaras dentro de estos espacios, pero los clientes pueden conectar sus fuentes de CCTV existentes a Proof 360 para un monitoreo de seguridad integral en espacios públicos y privados.

Al lograr esta penetración en el mercado, Vumacam busca un nuevo nivel de centralización y coordinación para combatir la actividad criminal y presenta su solución como una forma de rastrear a los delincuentes, desde el sitio en el que cometen un delito y hasta cualquier lugar de la ciudad adonde intenten escapar.

Los usuarios de Proof 360 pueden añadir vehículos buscados (aquellos denunciados como robados o sospechosos de haber sido utilizados para cometer un delito) a su propia base de datos privada en la plataforma o a una base de datos compartida que permite a todos los usuarios trabajar juntos para buscar los coches en todas las jurisdicciones. En Johannesburgo, una ciudad que depende del coche, esto puede ser tan importante como el reconocimiento facial. "Básicamente, podríamos ver un incidente en una de nuestras cámaras, y todas las empresas de seguridad intentarán interceptar ese mismo vehículo de manera coordinada", detalla Croock.

Vumacam presume de que este enfoque es mucho más rápido que esperar una investigación policial. Los usuarios no tienen que presentar una denuncia de delito para recibir un número de caso de la policía antes de introducir su matrícula al sistema. La directora de software de productos de Vumacam, Kelly de Ricquebourg pone el ejemplo de lo que pasa si alguien presencia un robo a mano armada con un vehículo implicado. "Se puede introducir la matrícula y podremos atraparlos en los próximos 10 minutos. Uno no tarda 10 minutos en conseguir un número de caso de SAPS, sino hasta 48 horas".

De acuerdo con De Ricquebourg, si, tras 48 horas, una matrícula en su base de datos compartida aún no tiene un número de caso, se elimina automáticamente. Pero no hay transparencia ni un mecanismo de responsabilidad pública sobre hasta qué punto se realiza esta limpieza exactamente. Tampoco se aplica el mismo proceso a las matrículas almacenadas en la base de datos privada de cada usuario, lo que significa que cualquier matrícula se podría agregar sin ninguna verificación. Como resultado, los coches podrían ser monitoreados y parados por razones equivocadas o ilegítimas.

Dichas detenciones se pueden llevar a cabo por las empresas de seguridad o por la policía, o en operaciones conjuntas entre ambas. Para evitar la burocracia de su propio sistema, que implica abrir un expediente de investigación, la policía a veces pide ayuda a las empresas de seguridad privadas que utilizan la red de Vumacam. "Tuvimos a la gente de SAPS en esta sala de control la semana pasada para ver lo que estamos haciendo y el año pasado, a mediados de julio, un policía estuvo aquí durante un día estero para poder tener acceso a las cámaras", relata Nichol’s de AI Surveillance. 

Vumacam asegura que su enfoque ayudó en la detención de 97 vehículos y el arresto de 85 personas en el distrito central de Sandton, el barrio comercial de Johannesburgo, durante los primeros siete meses de la instalación de sus cámaras. Preguntado sobre si estos arrestos dieron lugar a condenas, Croock aseguró no estar al tanto.

Foto: Rosebank, el suburbio exclusivo de Johannesburgo, es uno de los muchos donde abundan las cámaras de Vumacam. Créditos: Karen Hao

Vumacam está desarrollando más aplicaciones para Proof 360, incluido un sistema para detectar la clonación de matrículas, cuando dos coches aparecen en diferentes lugares con idénticos números de matrícula. También está abriendo su plataforma para que los desarrolladores externos agreguen sus propias aplicaciones y las distribuyan a sus usuarios.

Paralelamente, la empresa está expandiendo su infraestructura física al resto del país. Según adelanta Croock la empresa prevé cambiar a lo largo de este año a un nuevo modelo en el que los clientes pagarán una tarifa fija para obtener acceso a la red completa de cámaras en vez de solo una selección de ellas. Las agencias seguirán pudiendo filtrar las alertas de su jurisdicción, pero a la vez podrán ver cualquier fuente en el país.

El nuevo enfoque permitirá a Vumacam colocar postes y cámaras independientemente de si cerca hay clientes que pagan por ello. "A nuestro proveedor de telefonía móvil, no le decimos: 'Quiero una torre allí y otra allá', sino: 'Quiero cobertura'", compara el CEO de Vumacam. "Debemos asegurarnos de lograr esa cobertura para que no haya forma de que los vehículos esquivan esas cámaras o se escondan del sistema", añade, por su parte, De Ricquenbourg.

La delincuencia es real. El día que paseamos por Rosebank con Nkosi, con nuestros teléfonos inteligentes como dispositivos de grabación, dos transeúntes gritaron advertencias con unos minutos de diferencia. "Señora, debería tener cuidado por aquí", avisó uno. "Tiene un teléfono muy bonito. Se lo van a llevar, y usted llorará mucho", advirtió el otro.

No se trata solo de pequeños hurtos, aunque tanto a Nkosi como a la autora de este artículo que vive en Sudáfrica, Heidi Swart, sufrieron el robo de sus teléfonos solo unos días antes de esta entrevista. Solo en los últimos tres meses de 2021 se denunciaron a la policía nacional 165.000 delitos físicos violentos como asesinato, violación, agresión y robo.

Esa es la razón de que en Craighall Park y en Craighall, dos urbanizaciones que comparten una misma asociación de vecinos, tenían tantas ganas de ser las primeras en adoptar Vumacam, según explica Ryan Roseveare, que se encargó de supervisar las primeras instalaciones de la empresa en su barrio. "Cuando las cámaras se activaron por primera vez, la comunidad se sintió definitivamente más segura", resalta este especialista, quien considera que gracias a ellas se han evitado delitos, aunque admite que es difícil demostrarlo con estadísticas. "En Sudáfrica, la delincuencia es como la inflación, siempre sube", señala. El impacto de las cámaras, por tanto, se manifestaría como un aumento más lento o una reducción en su gravedad promedio.

Créditos: Madelene Cronje

Actualmente hay 159 cámaras en ambas comunidades, incluidas 70 con reconocimiento de matrículas de coches, en todos los puntos de salida y entrada y en las principales intersecciones.

Pero lo que falta en esta conversación es ir al origen: cuál es la razón de que haya tanta delincuencia. Los investigadores han demostrado repetidamente que es la desigualdad impulsa el crimen en las sociedades industriales. Sudáfrica no solo es el país más desigual del mundo, sino que la brecha es profundamente racial, como parte del legado del apartheid. Los últimos informes gubernamentales muestran que en 2015 la mitad del país vivía en la pobreza y el 93% de esas personas eran negras.

Como resultado, son sobre todo personas blancas las que tienen los medios para pagarse la videovigilancia, mientras que aquellos que son vigilados, lo quieran o no, son en su mayoría personas negras.

Además, las herramientas de IA como el reconocimiento facial y la detección de anomalías no siempre funcionan, y las consecuencias no se distribuyen de manera uniforme. La probabilidad de que el software de reconocimiento facial realice una identificación falsa aumenta drásticamente cuando las imágenes se graban al aire libre, en condiciones no controladas, y ese riesgo es mucho mayor para las personas negras.

De alguna forma, las cámaras han recreado el equivalente digital de las libretas o pasaportes internos que el Gobierno utilizaba para limitar los movimientos físicos de los negros en los enclaves blancos en la era del apartheid, según asegura Michael Kwet, profesor visitante de la Facultad de Derecho de la Universidad de Yale (EE UU). Kwet estudia la industria de la seguridad en Sudáfrica y escribió por primera vez sobre este fenómeno en Vice en 2019. Croock es contrario a este punto de vista y cree que esta comparación con las libretas que solo se exigían a las personas negras "intenta engañar deliberadamente a la sociedad para crear miedo en lugar de esperanza, ya que la tecnología tiene éxito en la lucha contra el crimen".

Mientras tanto, la privatización de la seguridad pública ha soslayado el debate sobre cómo se podría gastar ese dinero invertido en vigilancia masiva: mejor acceso al agua, saneamiento, electricidad, atención médica, educación y empleo juvenil para mitigar la pobreza que alimenta el crimen. En cambio, las empresas solo ven una oportunidad de negocio.

"Básicamente están monetizando los espacios públicos y la vida pública", opina Nkosi.

"La tecnología de Vumacam tiene el propósito de prevenir el crimen y, como tal, no tiene capacidad ni intención de llevar a cabo la vigilancia masiva", asegura Croock, quien añade que los activistas "se dedican a una propaganda que consideramos intencionadamente maliciosa, difamatoria y sin ninguna base real".

Créditos: Madelene Cronje

Aunque la delincuencia disminuyó temporalmente durante la pandemia, se ha vuelto a disparar. Muchas de las empresas entrevistadas argumentan que esto justifica una mayor inversión en tecnologías de seguridad. "La infraestructura de vigilancia dirigida al crimen es clave para frenar, prevenir y comprender la delincuencia que actualmente impide la inversión y el crecimiento económico, tan críticos para la oferta de empleo y la reducción de la pobreza", señala Croock.

"Hemos comprobado que las tecnologías de vigilancia que se instalaron correctamente y que incluían el análisis como parte de una solución proactiva en lugar de reactiva, lograron un gran impacto en las actividades delictivas", agrega, por su parte, el director comercial de vigilancia y análisis de NEC XON, Jan Erasmus.

Erasmus confirma que algunas empresas de seguridad están trabajando para reforzar sus capacidades de reconocimiento facial con objeto de identificar a los presuntos delincuentes. La tecnología depende de una base de datos de rostros de individuos buscados para compararlos con los rostros extraídos de las imágenes de vigilancia. El proveedor de seguridad Bidvest Protea Coin está colaborando con NEC XON para implementar un sistema que utiliza 48.000 fotografías policiales de sospechosos buscados por cualquier delito, desde la captura furtiva de rinocerontes o moluscos protegidos hasta atentados con bombas en cajeros automáticos, pasando por el robo de las baterías de los repetidores de telefonía. Ambas empresas esperan compartir el sistema con el resto de la industria de la seguridad y también con los bancos y entidades gubernamentales.

Pero ya ha habido casos en los que se ha utilizado el reconocimiento facial en las bases de datos de rostros de personas sin antecedentes penales. En 2016, cuando los estudiantes negros económicamente desfavorecidos de las universidades de todo el país protestaron contra las altas tasas de matrícula, NEC XON recopiló los rostros de los manifestantes de las fotos y vídeos que circulaban en WhatsApp y las redes sociales; luego los comparó con las bases de datos universitarias de fotos de identificación de estudiantes. Erasmus explica que el objetivo no era detener a los manifestantes sino determinar si eran estudiantes (asegura que la mayoría no lo eran) y evitar más daños a la propiedad universitaria, que se estima que llegó a 786 millones de rands (48,5 millones de euros).

Pero cinco años después, cuando volvieron a estallar las protestas, los estudiantes afirmaban que sentían que estaban siendo criminalizados. La policía apareció con equipo antidisturbios, gases lacrimógenos y balas de goma, y grabaron indisimuladamente y de cerca a los estudiantes, para realizar la llamada recogida de "pruebas", según relata Ntyatyambo Volsaka, estudiante de derecho de 19 años y activista de la Universidad de Witwatersrand (Sudáfrica). "Queríamos asegurarnos de que todos reciban una educación, pero la policía nos trató como si fueramos animales", añade. 

Erasmus asegura que NEC XON no ayudó a la policía en la vigilancia de estas últimas protestas, en 2021.

Estas mismas empresas están construyendo sistemas de vigilancia en todo el mundo. Sudáfrica representa no solo un mercado de alto crecimiento sino también un banco de pruebas para sus tecnologías. "Mientras la IA se desarrolla en Europa, América y en todos estos sitios, Sudáfrica es a menudo el sitio para ponerla a prueba ", explica Kyle Dicks, ingeniero de ventas de Axis Communications en Johannesburgo.

La red de cámaras de Vumacam que se expande de forma silenciosa ha encontrado pocas críticas desde su lanzamiento en febrero de 2019.

Sin embargo, el año pasado el rechazo surgió de un inesperado defensor del derecho a la privacidad: la Agencia de Carreteras de Johannesburgo (JRA), el organismo encargado de garantizar que cualquiera que construya estructuras en las aceras municipales no detenga el tráfico o afecte los cables eléctricos o las tuberías principales de agua. Dado que las cámaras de Vumacam están instaladas en los postes especiales en las aceras públicas, la empresa necesitaba la autorización de la JRA.

Todo iba viento en popa hasta que la JRA de repente se negó a otorgar más permisos a Vumacam, argumentando que la empresa podía usar las cámaras para "espiar" a los ciudadanos. La agencia aclaró que no iba a autorizar su instalación hasta que la ciudad publicara un marco para regular las cámaras de seguridad. Vumacam llevó a la agencia a los tribunales.

Fotos: Los guardias de seguridad privados vigilan las calles de Johannesburgo utilizando la red de vigilancia de Vumacam. Créditos: AI Surveillance

Al final, la JRA perdió el caso, pero no el debate sobre la privacidad. El juez dictaminó que el trabajo de la JRA era proteger la integridad de la infraestructura vial, no los derechos humanos. Pero, reconociendo la complejidad del asunto, el tribunal se abstuvo de dictar sentencia sobre la supuesta violación de la privacidad.

Desde entonces, no ha habido más litigios por parte de las organizaciones de la sociedad civil, ni tampoco ninguna legislación que regule específicamente las cámaras de seguridad en espacios públicos o los tipos de análisis de datos que las acompañen, como el reconocimiento facial. La sociedad simplemente se preocupa por los problemas más inmediatos, destaca Nkosi: "La gente está preocupada por saber de dónde vendrá su próximo trabajo, por lo que van a comer y por la inestabilidad política en el país. No hemos educado lo suficiente a nuestros ciudadanos para que comprendan los peligros de la vigilancia y lo que significa eso en una sociedad democrática".

Pero las preguntas que se plantearon durante el caso no han perdido vigencia, sino al contrario. La industria de la seguridad global siempre ha intercambiado ideas a través de las fronteras. Según explica Os Keyes, doctorando en la Universidad de Washington (EE UU), hasta la fecha, el Gobierno de EE UU ha venido siendo el mayor financiador de las tecnologías modernas de vigilancia -como el reconocimiento facial- y también la institución que más influye en cómo se modelan, a través de sus estándares y clasificaciones de proveedores.

Muchas de las tecnologías que se utilizan en Sudáfrica surgieron bajo esa influencia se fueron desarrollando con el mercado estadounidense en la cabeza. Actualmente, tanto esas tecnologías como la ideología que las acompaña han tomado el camino de vuelta, hacia el lugar de donde vino su inspiración.

AI Surveillance, por ejemplo, quiere buscar clientes en EE UU que envíen sus imágenes de CCTV a su sala de control y a su personal de monitoreo en Johannesburgo. Su CEO cree que los salarios locales, más bajos, darán a la empresa una ventaja competitiva, al igual que su experiencia en la gestión de la seguridad en el mercado sudafricano. "Estados Unidos es más maduro en cuanto a hardware y registro, hay más cámaras y más imágenes almacenadas, mientras que Sudáfrica, por necesidad, está más experimentada en el análisis de datos y su gestión", resalta Nichol’s.

Vumacam también ha comenzado a adaptar su modelo a otros mercados. Dio el salto a Nigeria, donde instala cámaras en la infraestructura existente, como torres de telefonía móvil, en vez de erigir sus propios postes. En otros lugares que cuentan con las redes de cámaras de CCTV ya existentes, como EE UU o Reino Unido, podría centrarse en vender su plataforma Proof 360. "Creemos que hay posibilidades. Estamos viendo una gran ambición a nivel global", resalta Croock. 

Hay señales de que el resto de la industria de la vigilancia también se está moviendo hacia un enfoque basado en las plataformas. Milestone, la herramienta de gestión de vídeo en la que se basa Proof 360, permite que cualquier persona cree aplicaciones de IA como reconocimiento facial e identificación de matrículas de coches para su software. Lo mismo ocurre con Axis Communications, que tiene oficinas en EE UU y Sudáfrica y recientemente lanzó su propia plataforma.

Este año, NEC, la empresa matriz de NEC XON, también planea lanzar un nuevo producto conocido como NEC Nexus que permitirá a las agencias gubernamentales combinar sus listas de seguimiento de una manera parecida a la centralización de las bases de datos de matrículas de coches de Vumacam. Nexus se está probando actualmente en Reino Unido, donde NEC tiene el mayor proyecto piloto de reconocimiento facial en directo, y pronto se implementará a nivel mundial, aunque en la actualidad no hay planes para su implementación en Sudáfrica, según Erasmus.

Nkosi teme lo que podría pasar a continuación. Ha visto a gobiernos de todo el mundo adoptar estos avances bajo el pretexto de la seguridad pública antes de expandirlos inevitablemente para la vigilancia masiva de activistas y civiles, con objetivos que incluyen el movimiento Black Lives Matter en EE UU y la minoría uigur en China.

"Al final, el Estado colaborará con estas empresas privadas, porque no tiene la capacidad de operar una red tan masiva y complicada de cámaras de CCTV", resalta Erasmus, quien considera que ese es el mayor peligro.

De hecho, Sudáfrica está en proceso de construir una base de datos de identificación biométrica nacional llamada ABIS que incluiría el rostro de cada ciudadano y visitante extranjero. En combinación con las actualizaciones de las cámaras en la red de vigilancia nacional de Vumacam y el uso ampliado del reconocimiento facial, ABIS podría permitir algún día que el Gobierno rastree los movimientos de todos en el país.

"No subestimamos la amenaza muy real que existe para los activistas, periodistas y empresarios que son rastreados ilegalmente por individuos nefastos (algunos con resultados fatales), pero las personas no pueden ser 'vigiladas' utilizando nuestra tecnología y sistemas, pues no están diseñados para vigilar a las personas", señala Croock. 

"NEC XON siempre se asegurará de que el uso del reconocimiento facial se realizará de manera ética", afirma, por su parte, Erasmus.

Mientras seguimos caminando por Rosebank, Nkosi empieza a contar las cámaras. Siete en un poste. Tres al otro lado de la calle. Seis en otro.

"Puede que el Estado no sea consciente de ello en estos momentos, pero nos dirigimos hacia esto: los espacios para el activismo y la protesta se van a reducir. Las empresas privadas acabarán con todo eso", concluye, ya de vuelta en su casa, Nkosi.

Tecnología y Sociedad

Los avances tecnológicos están cambiando la economía y proporcionando nuevas oportunidades en muchas industrias.

  1. "El restablecimiento de cuentas hará que Twitter sea mucho más tóxico"

    El senador del estado de California, Scott Wiener, explica que Twitter era la red social más atenta cuando se trataba de acoso y amenazas. Pero ya ha notado su decadencia bajo Musk, y asegura que solo empeorará.

  2. Más allá del “crédito social”: China quiere evaluar todo lo que se dice en la red

    El sistema chino de crédito social no cuenta con un algoritmo que lo sepa todo, pero aun así tiene consecuencias significativas, especialmente en la libertad de expresión

  3. Ni vigilancia total ni problema inmediato: radiografía del crédito social chino

    Occidente está bastante confuso en relación con el sistema de crédito social chino, pero el proyecto de ley presentado este mes puede ayudar a clarificarlo