Kevin Elder, presidente de Securus Technologies, explicó a MIT Technology Review que la compañía comenzó a desarrollar sus herramientas de IA en 2023, utilizando su enorme base de datos de llamadas grabadas para entrenar modelos capaces de detectar actividad criminal. Uno de esos modelos se creó, por ejemplo, con siete años de llamadas realizadas por inte os del sistema penitenciario de Texas, aunque la empresa trabaja en otros modelos específicos para distintos estados y condados.
Durante el último año, según Elder, Securus ha estado probando estas herramientas para monitorizar conversaciones en tiempo real. La compañía no quiso precisar dónde se está aplicando, pero entre sus clientes hay cárceles que albergan personas en espera de juicio y prisiones para quienes cumplen condena. Algunas de estas instalaciones también tienen acuerdos con el Servicio de Inmigración y Control de Aduanas para detener inmigrantes, aunque Securus no contrata directamente con ICE.
“Podemos dirigir ese gran modelo de lenguaje a todo un tesoro [de datos]”, afirma Elder, “para detectar y comprender cuándo se está pensando o contemplando un delito, de modo que lo interceptes mucho antes en el ciclo”.
Como ocurre con otras herramientas de vigilancia, los investigadores de los centros pueden activar las funciones de IA para supervisar conversaciones seleccionadas al azar o las de personas sospechosas de actividad criminal. El modelo analiza llamadas telefónicas y de vídeo, mensajes de texto y correos electrónicos, y señala fragmentos para que los agentes humanos los revisen. Estos, a su vez, los remiten a los investigadores para darles seguimiento.
En una entrevista, Elder aseguró que los esfuerzos de Securus han ayudado a desarticular redes de trata de personas y actividades de pandillas organizadas desde las cárceles, entre otros delitos, y que sus herramientas también se usan para identificar a empleados que introducen contrabando. Sin embargo, la compañía no proporcionó a MIT Technology Review ningún caso descubierto específicamente por sus nuevos modelos de IA.
Las personas presas, y quienes las llaman, son notificadas de que sus conversaciones se graban. Pero eso no significa que sepan que esas grabaciones pueden usarse para entrenar un modelo de IA, advierte Bianca Tylek, directora ejecutiva del grupo de defensa de derechos Worth Rises.
“Eso es consentimiento coercitivo; literalmente no hay otra forma de comunicarte con tu familia”, señala Tylek. Y dado que en la gran mayoría de los estados las personas presas pagan por estas llamadas, añade, “no solo no les compensas por el uso de sus datos, sino que además les cobras mientras los recopilas”.
Un portavoz de Securus afirmó que el uso de datos para entrenar la herramienta “no se centra en vigilar o identificar a individuos concretos, sino en detectar patrones, anomalías y conductas ilícitas en todo el sistema de comunicaciones”. Añadió que las políticas de grabación y supervisión las establecen los centros penitenciarios, y Securus las cumple, sin responder directamente si los inte os pueden optar por no participar.
Otros defensores de los derechos de las personas presas sostienen que Securus tiene antecedentes de vulnerar sus libertades civiles. Por ejemplo, filtraciones de sus bases de datos revelaron que la empresa grabó de forma indebida miles de llamadas entre inte os y sus abogados. Corene Kendrick, subdirectora del National Prison Project de la ACLU, afirma que el nuevo sistema de IA habilita un régimen de vigilancia invasiva y que los tribunales han impuesto pocos límites a este poder.
“¿Vamos a detener el crimen antes de que ocurra porque estamos monitorizando cada palabra y pensamiento de las personas encarceladas?”, se pregunta Kendrick. "Creo que este es uno de muchos casos en los que la tecnología va muy por delante de la ley".
El portavoz de la compañía insistió en que la función de la herramienta es hacer más eficiente la supervisión ante la escasez de personal, “no vigilar a individuos sin causa”.
Securus tendrá más fácil financiar su herramienta de IA gracias a su reciente victoria en una disputa con los reguladores sobre cómo pueden gastar las empresas de telecomunicaciones el dinero que recaudan por las llamadas de los inte os.
En 2024, la Comisión Federal de Comunicaciones (FCC) aprobó una reforma importante, impulsada y celebrada por defensores de los derechos de las personas presas, que prohibía a las telecos trasladarles los costes de grabación y vigilancia de llamadas. Las compañías podían seguir cobrando una tarifa limitada por las llamadas, pero las prisiones y cárceles debían asumir la mayoría de los gastos de seguridad.
Las reacciones negativas no tardaron. Asociaciones de alguaciles, que suelen gestionar cárceles de condado, se quejaron de que ya no podían costear una supervisión adecuada, y fiscales generales de 14 estados demandaron contra la norma. Algunas prisiones advirtieron que cortarían el acceso a las llamadas telefónicas.
Mientras desarrollaba y probaba su herramienta de IA, Securus mantuvo reuniones con la FCC y presionó para cambiar la regla, alegando que la reforma de 2024 era excesiva y pidiendo que se permitiera de nuevo usar las tarifas cobradas a los inte os para financiar la seguridad.
En junio, Brendan Carr, designado por el expresidente Donald Trump para dirigir la FCC, anunció que se aplazarían todos los plazos para que cárceles y prisiones adoptaran las reformas de 2024, e incluso insinuó que la agencia quiere ayudar a las telecos a financiar sus sistemas de vigilancia con IA mediante las tarifas pagadas por los inte os. En un comunicado, Carr escribió que revertir las reformas “conducirá a una adopción más amplia de herramientas beneficiosas para la seguridad pública que incluyen IA avanzada y aprendizaje automático”.
El 28 de octubre, la agencia fue más allá: votó a favor de establecer nuevos límites más altos en las tarifas y permitir que empresas como Securus trasladen a los inte os los costes de seguridad relacionados con la grabación y supervisión de llamadas, como almacenar grabaciones, transcribirlas o desarrollar herramientas de IA para analizarlas. Un portavoz de Securus dijo a MIT Technology Review que la compañía busca equilibrar la asequibilidad con la necesidad de financiar herramientas esenciales de seguridad. “Estas herramientas, que incluyen nuestras capacidades avanzadas de monitorización e IA, son fundamentales para mantener instalaciones seguras para las personas encarceladas y el personal penitenciario, y para proteger al público”, escribió.
La comisionada de la FCC Anna Gomez votó en contra de la decisión. “Las fuerzas del orden”, escribió en un comunicado, “deberían asumir los costes de seguridad y vigilancia no relacionados, no las familias de las personas encarceladas”.
La FCC solicitará comentarios sobre estas nuevas normas antes de que entren en vigor definitivamente.