Tecnología y Derechos

Cuatro ventajas y cuatro problemas de la vigilancia policial predictiva

Cada vez se habla más de la vigilancia policial predictiva. Aunque el tema genera polémica, no está claro de qué se trata. Aquí ofrecemos un resumen de las ventajas y problemas que genera esta práctica.

por Alice Norga

En teoría, la vigilancia policial predictiva podría lograr que el trabajo policial fuera más justo y eficiente. En la práctica, esto depende de toda una serie de cosas, como que se utilicen datos recogidos de forma imparcial, que a menudo no es el caso. Por ello, frecuentemente, esta práctica parece que no hace más que reforzar y amplificar los prejuicios en los que se ha basado la actuación policial en el pasado, provocando problemas como el exceso de vigilancia de determinadas comunidades minoritarias

¿Qué es la vigilancia policial predictiva?

Esta practica policial consiste en el uso de análisis predictivos basados en modelos matemáticos y otras técnicas analíticas para identificar posibles actividades delictivas. Utiliza sistemas informáticos para analizar grandes conjuntos de datos que ayudan a decidir dónde patrullar o a identificar a las personas que supuestamente tienen más probabilidades de cometer o ser víctimas de un delito.

Mantente al día.

A grandes rasgos, existen dos aplicaciones de la policía predictiva. En primer lugar, el uso de los datos de detenciones para predecir los focos geográficos de delincuencia. En segundo lugar, la extracción de datos de las redes sociales para evaluar la probabilidad de que alguien cometa un delito. Existe una cantidad imprevista de información personal disponible públicamente que abre la via a formas más intrusivas de vigilancia policial predictiva. Por ejemplo, la amplia disponibilidad de imágenes faciales no solo permite un uso más intrusivo de las cámaras de vídeovigilancia, sino que además, los datos sobre el comportamiento en línea podrían conducir a la elaboración de perfiles individuales y evaluaciones de riesgos.

Las ventajas

1. Prevención de la delincuencia

Es posible que hayas escuchado de la eficacia de la policía predictiva a la hora de prevenir la delincuencia. De hecho, varios estudios parecen respaldar esta afirmación. Por ejemplo, la implementación de la vigilancia policial predictiva en Santa Cruz (California) durante un periodo de seis meses parece que redujo el 19% de los robos (así como dos docenas de detenciones). Mediante un algoritmo, el sistema empleaba datos de delincuencia verificados para predecir futuros delitos en lugares de unos 46,5 metros cuadrados. La policía recibía entonces mapas de "puntos calientes", que indicaban los lugares de alto riesgo. Los agentes pasarían por estas zonas cuando no tuvieran que atender otras llamadas. Nadie les mandaba ni les exigía que patrullaran los lugares; lo hacían como parte de sus controles rutinarios adicionales.

Image: Cory Doctorow/Flickr CC

El Departamento de Policía de Los Ángeles (LAPD, por sus siglas en inglés) probó el método en una población mucho mayor y unas necesidades de patrullaje más complejas. Distribuyó mapas a los agentes al comienzo de cada turno, al igual que en Santa Cruz. Sin embargo, unos estaban elaborados con los métodos tradicionales para detectar puntos calientes, mientras que otros los habían creado con el algoritmo. No se informó a los agentes sobre la procedencia de los mapas. El algoritmo proporcionó el doble de precisión que las prácticas actuales de la policía de Los Ángeles. Mientras que los delitos contra la propiedad aumentaron un 0,4% en todo Los Ángeles, en Foothills, las zonas donde utilizaron el algoritmo, disminuyeron un 12%.

2. Toma de decisiones informada

Los análisis de datos informáticos proporcionan una gran cantidad de información. Quienes defienden estas prácticas de vigilancia predictivas, señalan que podría conducir a una toma de decisiones más objetiva, y disuadir a los agentes de tomar decisiones arbitrarias que podrían estar basadas en prejuicios que en pruebas. Así lo ha manifestado el Fiscal General de Estados Unidos, que ha afirmado que estas prácticas basada en datos son potencialmente innovadoras. Al introducir el uso de tecnologías predictivas, el Fiscal General pudo sacar a Camden (Nueva Jersey) de la lista de las ciudades más peligrosas del país. Se redujeron un 41% los asesinatos y un 26% la delincuencia en general en la ciudad. Y lo que es más importante, pasaron de ocuparse de delitos menores de drogas a ocuparse de casos de importancia estatal, a tratar de reducir la violencia con los delincuentes más violentos, a la persecución de las bandas callejeras, al tráfico de armas y drogas y la corrupción política.

3. Avance del sistema de justicia penal

La vigilancia policial predictiva tiene el potencial de hacer más justa la labor policial. Debido a que promueve la toma de decisiones basada en pruebas objetivas, podría aliviar ciertas discrepancias en la aplicación de la ley. Cuando el algoritmo compiló el mapa de puntos calientes de la delincuencia en el estudio de Los Ángeles, no se basó en prejuicios. Sin embargo, los mapas tradicionales de puntos calientes de la policía de Los Ángeles los elaboran seres humanos (que, inevitablemente, tienen sus prejuicios). Por ello, los algoritmos podrían ayudar a los agentes a predecir mejor los riesgos, determinar la identidad de los delincuentes e identificar las vulnerabilidades de una comunidad y sus miembros. Sin embargo, este potencial únicamente puede lograrse si el algoritmo está realmente libre de prejuicios, lo que no siempre es el caso, como explicamos a continuación.

4. Usos progresistas de la vigilancia policial predictiva

Los datos tienen el potencial de srvir el bien común. Por ejemplo, las tecnologías predictivas podrían utilizarse para advertir con antelación sobre patrones de comportamiento policial perjudiciales. De hecho, los departamentos de policía podrían utilizar el análisis de datos como herramienta para anticiparse a la mala conducta de los agentes. La experiencia de Chicago y de otros lugares demuestra que la mala conducta policial sigue pautas claras y coherentes, y que la formación y el apoyo a los agentes de riesgo pueden ayudar a evitar incidentes de este tipo. Del mismo modo, los sistemas de predicción policial podrían utilizarse para evaluar si un organismo policial determinado tiene probabilidades de tratar de forma similar a distintos barrios o personas de distintas etnias.Todo ello podría servir para que la policía fuera consciente de cualquier sesgo que pudiera estar minando la confianza de la gente y desperdiciando recursos.

Los problemas

1. Problemas de privacidad

Como hemos señalado, la vigilancia predictiva tiene dos aplicaciones: el uso de datos geográficos sobre detenciones para orientar a la policía sobre cómo desplegar sus fuerzas, y el uso de datos sobre individuos recopilados a través de Internet, como cuentas de redes sociales y grabaciones de cámaras de videovigilancia, para predecir la probabilidad de que un individuo cometa un delito. La primera, puesto que se suele basar en bases de datos anónimos de detenciones, probablemente no plantee riesgos para la privacidad. Pero la segunda, extraer la información disponible públicamente y las imágenes de las cámaras de seguridad, sí plantea claramente graves riesgos para la privacidad.

Ayúdanos a luchar por tus derechos Haz una donación
Algunos datos pueden ser muy personales y no deberían almacenarse, y quienes los controlan pueden carecer de la capacidad y la profesionalidad para mantenerlos seguros. La información recopilada y almacenada por un departamento de policía es susceptible de ser filtrada, sobre todo, debido a que la seguridad de los datos resulta costosa en cuanto a formación y personal. Teniendo en cuenta que es información es sensible, la posibilidad de que se produzcan filtraciones de datos es especialmente alarmante. Por ejemplo, ¿te resultaría cómodo saber que la policía tiene datos sobre lo que hiciste el fin de semana pasado? Probablemente no. Sobre todo si sabes que esos datos podrían filtrarse, con efectos potencialmente perjudiciales para tu vida privada y profesional.

El entorno digital y, en especial, la disponibilidad de muchos datos personales en las redes sociales intensifica estas preocupaciones. Un estudio analiza la recopilación de datos para cuestiones de aplicación de la ley, y destaca los problemas derivados del papel cada vez más importante de los datos recopilados a través de las redes sociales para la vigilancia policial basada en datos. Debido a que muchos usuarios de las redes no perciben su entorno digital como público, los buscadores y otros sistemas de análisis de datos automatizados aumentan en gran medida la capacidad de la vigilancia estatal. Resulta muy preocupante que el uso de sistemas de vigilancia e inteligencia en las redes sociales y su uso por parte de las autoridades policiales y de seguridad no esté regulado. Las consecuencias serán cada vez más importantes a medida que se divulguen y recopilen más datos personales en público sin que unas medidas de privacidad definidas. Como sostiene el abogado especializado en protección de datos Alan Dahi, "el hecho de que algo esté en línea no significa que sea un juego limpio para que otros se apropien de él como quieran, ni moral ni legalmente".

Además de los problemas de privacidad, si los datos personales se utilizan para predecir la propensión de una persona a cometer un delito, se está socavando la presunción de inocencia, según la cual toda persona debe ser tratada y considerada inocente hasta que se demuestre su culpabilidad.

2. Falta de precisión

La fiabilidad de la vigilancia policial predictiva depende de la calidad de los datos y de la integridad de sus ejecutores y usuarios. Un informe señala que esta práctica no es una bola de cristal que pueda predecir con exactitud el futuro.

A la hora de utilizar datos para predecir puntos calientes de delincuencia, décadas de investigación criminológica demuestran que los informes sobre delincuencia y otras estadísticas recopiladas por la policía documentan principalmente la respuesta de las fuerzas del orden a los informes que reciben y las situaciones que encuentran, más que proporcionar un registro objetivo o completo de todos los delitos que se producen. Dicho de otro modo, las bases de datos indican los lugares en los que la policía ha detectado delincuencia en el pasado. Pero sabemos que en muchos países la policía vigila de forma desproporcionada a determinados grupos minoritario, y, como consecuencia, estas prácticas racistas se incorporan a los datos. La vigilancia policial predictiva deviene entonces en un círculo vicioso. Las estadísticas sobre delincuencia recopiladas basándose en una política racista crearán predicciones racistas, lo que conducirá a un exceso de vigilancia que seguirá generando datos engañosos y predicciones racistas.

Cuando se trata de extraer datos sobre individuos concretos para calibrar la probabilidad de que puedan cometer un delito, es bien sabido que la actividad en línea no representa con exactitud el comportamiento humano en el mundo real. A pesar de que la idea de que la vigilancia policial predictiva pueda en el futuro utilizarse para detener a una persona antes de que cometa un delito puede parecer descabellada, que las tecnologías predictivas basadas en datos justifiquen el aumento de medidas de vigilancia a grupos e individuos supuestamente de alto riesgo, cuando la evaluación de que son de alto riesgo es dudosa, no está muy lejos de la realidad.

3. Discriminación

Otro problema de la vigilancia policial predictiva es que puede producir resultados sesgados. La Unión Estadounidense por las Libertades Civilesa (ACLU, por sus sigas en inglés) ha criticado esta práctica por su tendencia a perpetuar los perfiles raciales. Cuando un algoritmo se alimenta con datos sesgados, una de sus limitaciones más importantes es que magnifica los sesgos que surgen de los procesos convencionales, intensificando aún más las discrepancias injustificadas en la aplicación de la ley.

Analicemos el ejemplo de dos adolescentes que fuman habitualmente marihuana. El adolescente A vive en un barrio con un nivel de delincuencia registrado más bajo que el adolescente B. Si la policía se centra más en vigilar la zona con mayor riesgo de delincuencia previsto, A y B pasarán a estar, respectivamente, poco y demasiado vigilados. Por lo tanto, el adolescente B tiene más probabilidades de acabar en la cárcel que el adolescente A. A nivel individual, esta asimetría perjudica las perspectivas de B, pues tener antecedentes penales repercutirá negativamente en su acceso a una formación y carrera profesional y a la educación. A nivel sistémico, esta dinámica podría socavar algunos de los objetivos fundamentales de la labor policial, como generar confianza en la comunidad. Es decir, los sistemas actuales no calibran su impacto en estas áreas, y pueden hacer un daño inadvertido. Los sistemas de vigilancia predictiva agravan esta tendencia pues hacen que la vigilancia se limite a la reducción numérica de los índices de delincuencia detectada, en lugar de la real.

4. Responsabilidad

La vigilancia policial predictiva reduce la responsabilidad de las fuerzas del orden. Dado que la mayoría de los procesos de análisis de datos están automatizados, podría socavar la capacidad de los agentes y departamentos para explicar y justificar sus decisiones de forma significativa. Además, debido a la complejidad y la confidencialidad de estas herramientas, la policía y las comunidades tienen una capacidad limitada para evaluar los riesgos de obtener datos sesgados o de que estos sistemas de predicción sean defectuosos.

En resumen, aunque la vigilancia policíal predictiva presume de ser más eficiente y justa, en realidad es inexacta en sus predicciones y plantea graves problemas a la hora de crear una sociedad más libre y justa. Es probable que las tecnologías policiales predictivas ganen terreno en los próximos años, pues son más baratas que las prácticas policiales convencionales. Sin embargo, el actual marco jurídicol aplicable a estas tecnologías es poco claro y poco útil. Es preciso cambiarlo. De hecho, los Estados miembros de la UE deberían plantearse la pertinencia de emplear estos sistemas en cualquier caso. La búsqueda de una toma de decisiones algorítmica justa y transparente puede ser insuficiente para abordar los problemas que plantean.