Esta historia apareció originalmente en The Algorithm, nuestro boletín semanal sobre IA. Para recibir primero historias como esta en su bandeja de entrada, suscríbase aquí.
Flock, el gigante de la tecnología policial conocido por su red de unos 120.000 lectores automáticos de matrículas en todo Estados Unidos, anunció algunos cambios en su plataforma el pasado jueves. Las actualizaciones tienen como objetivo impedir que los agentes utilicen la plataforma con fines ilegales o ilegítimos.
Eso incluye el acoso. El Washington Post identificó recientemente 50 casos en los que agentes hicieron un uso indebido de sistemas de Flock y sus competidores, a menudo para acosar y hostigar a mujeres. Una mujer en Wisconsin alegó que su exnovio, un agente de policía, buscó su coche 179 veces. Otra mujer estaba siendo acosada por el jefe de policía, sin tener a nadie a quien denunciarlo.
Flock ha respondido con prácticas destinadas a garantizar que los agentes tengan una causa justificada para cada búsqueda, como el uso de software para marcar búsquedas anómalas y la exigencia de que quienes las realizan introduzcan un número de expediente penal.
No obstante, estos cambios conllevan importantes lagunas. Por ejemplo, los agentes pueden introducir números de expediente fraudulentos, al igual que ya han mentido para eludir otras salvaguardias de Flock. Las políticas tampoco abordan algunas de las preocupaciones más amplias de los grupos de derechos civiles y privacidad, según las cuales Flock está convirtiendo lo que se vendió como una herramienta para detener la delincuencia en una red de vigilancia masiva. Estas críticas han provocado una creciente reacción adversa que ya ha llevado a algunas ciudades a cancelar contratos y a algunos estados a intentar aprobar leyes para limitar o prohibir por completo los lectores de matrículas.
En este contexto, recientemente han surgido varios argumentos en defensa de Flock: si estas cámaras ayudan a resolver crímenes, ¿cuál es el problema? Un buen día podrían ayudar a atrapar a un secuestrador, y si no, simplemente están tomando fotos de mi coche que nadie se molestará en mirar.
Obviando la pregunta sin respuesta sobre hasta qué punto los sistemas de Flock *realmente* resuelven o previenen el crimen, todo esto pasa por alto una pregunta más importante: ¿Qué *tipo* de sistema de lucha contra el crimen ha elegido construir Flock? Su red funciona como lo hace debido a una serie de decisiones sobre qué información recopilar, quién puede consultarla, cuánto tiempo conservarla y con qué amplitud compartirla. Esas decisiones establecen los términos del pacto entre la seguridad y las libertades civiles. Creer que la tecnología debe desempeñar un papel en la resolución del crimen no debe significar aceptar ciegamente los términos de ese pacto.
Consideremos, por ejemplo, su nuevo requisito de que los agentes introduzcan un número de caso antes de realizar una búsqueda en la plataforma de Flock. Esto tiene como objetivo garantizar que las búsquedas persigan un fin legítimo. Pero Flock confirmó a MIT Technology Review que no verifica esos números de caso, por lo que un agente puede simplemente introducir uno falso. Uno podría imaginar un sistema que en su lugar exigiera números de caso que coincidieran con los registros del departamento de policía —una integración más intrusiva, quizás, pero también una salvaguardia mucho más sólida y que deje un rastro de auditoría más útil.
¿O qué hay de encontrar a personas que han sido secuestradas o han desaparecido, el caso de uso que Flock cita más que ningún otro? Los esfuerzos para resolver estos crímenes se beneficiarían enormemente de la red nacional de cámaras de Flock. Pero si los estadounidenses quieren que los agentes accedan a esa red solo para este propósito, podríamos diseñarla de esa manera: Las búsquedas vinculadas a una Alerta Amber activa, o a una emergencia similar, podrían quizás acceder a mayores cantidades de datos de las ciudades circundantes. Eso preservaría el valor de la red en emergencias sin exigir a la gente que acepte la vigilancia masiva.
Finalmente, está la cuestión de cuántos datos recopila Flock y durante cuánto tiempo los conserva. Flock opera principalmente como una red nacional: la policía de una ciudad o estado puede buscar datos recopilados en otro, y las agencias pueden conservar esos datos durante meses o años. Sin embargo, la propia Flock afirma que el 90% de las búsquedas se realizan en la semana siguiente a un incidente. Esto sugiere otro posible acuerdo: conservar y compartir los datos solo en la medida y durante el tiempo en que sean realmente útiles para resolver delitos. (La empresa modificó recientemente su tiempo de retención recomendado a siete días, pero en realidad las agencias pueden conservar los datos todo el tiempo que deseen.)
En resumen, Flock podría diseñar su sistema de vigilancia para que fuera mucho más acotado. Si lo hiciera, algunos de los críticos de la compañía quizás no cesarían. Chad Marlow, asesor principal de políticas de la ACLU, me dijo en tono de broma que el contrato de Flock más aceptable según sus estándares es «uno que nunca se firma» y enfatizó que la mejor manera de establecer límites a la vigilancia no es con nuevas directrices de Flock sino con nuevas leyes. (El CEO de Flock, Garrett Langley, por su parte, dijo que «probablemente siempre tendrá un punto de vista diferente al de la ACLU.»)
Y reducir el alcance de su tecnología amenazaría la propuesta completa de la compañía a los departamentos de policía. Los lectores de matrículas existen desde la década de 1990, utilizados para peajes y multas. El modelo de negocio de Flock —y su reciente valoración de 8.000 millones de dólares— se basa, en cambio, en aprovechar sus cámaras para crear una red masiva que recopila grandes cantidades de datos y ofrece a los departamentos de policía una forma mode izada de interpretar no solo sus propios datos, sino también los de otros.
Flock podría verse pronto obligado a actuar. Las ciudades han cancelado contratos con la empresa. Algunas han recurrido a la competencia, mientras que otras se están tomando un respiro mientras los residentes reflexionan sobre cómo quieren que se utilice esta tecnología y elaboran nuevas normas que la policía debe cumplir. El resultado podría ser que las comunidades negocien sus propias condiciones sobre cómo se puede utilizar la tecnología para resolver delitos y cuánta vigilancia deben aceptar las personas para lograrlo.