Technologie e Diritti

4 vantaggi e 4 svantaggi della polizia predittiva

Si sente parlare sempre più spesso di polizia predittiva. Anche se l'argomento è controverso, non è immediatamente chiaro da dove venga tutto il trambusto. Ecco una breve panoramica dei principali argomenti pro e contro la polizia predittiva.

di Alice Norga

In teoria, la polizia predittiva potrebbe rendere l'applicazione della legge più giusta e più efficace. In pratica, questo dipende molto da una serie di cose, come ad esempio se la polizia predittiva usa dati raccolti in modo imparziale, il che spesso non succede. A causa di questo, non è raro vedere la polizia predittiva semplicemente rafforzare e diffondere i pregiudizi che hanno influenzato le azioni della polizia in passato, portando a problemi come l'eccessiva continua sorveglianza di alcune comunità minoritarie.

Cos'è la polizia predittiva?

La polizia predittiva si riferisce all'uso dell'analisi predittiva basata su modelli matematici e altre tecniche analitiche nelle forze dell'ordine per identificare potenziali attività criminali. La polizia predittiva utilizza quindi sistemi informatici per analizzare grandi quantità di dati raccolti per aiutare a decidere dove schierare la polizia o per identificare gli individui che sono presumibilmente più propensi a commettere o essere vittime di un crimine.

Rimani aggiornato.

In generale, ci sono due applicazioni di polizia predittiva. In primo luogo, l'uso dei dati di arresto per prevedere i punti caldi geografici del crimine. Secondo, i dati estratti dai social media che possono essere usati per determinare quanto è probabile che qualcuno possa commettere un crimine. Quantità impreviste di informazioni personali pubblicamente disponibili aprono possibilità per forme più intrusive di polizia predittiva. Non solo l'ampia disponibilità di immagini facciali permette un uso più intrusivo delle telecamere a circuito chiuso, ma i dati sul comportamento online potrebbero portare alla profilazione individuale e alla valutazione dei rischi.

I benefici

1. Prevenzione del crimine

Avrete sentito dire che la polizia predittiva è molto efficace nel prevenire il crimine. In effetti, un certo numero di studi sembrano sostenere questa affermazione. Per esempio, l'implementazione della polizia predittiva a Santa Cruz (California) per un periodo di sei mesi sembra aver portato a una riduzione del 19% dei furti (oltre a due dozzine di arresti). Usando un algoritmo, il sistema impiegava dati verificati sul crimine per prevedere futuri reati in luoghi di 500 piedi quadrati (circa 46,5 metri quadrati). La polizia avrebbe poi ricevuto delle mappe "hot spot", che indicavano i luoghi ad alto rischio. Gli agenti passavano attraverso queste aree quando non erano obbligati ad affrontare altre chiamate. Nessuno li mandava o richiedeva loro di pattugliare i luoghi; lo facevano come parte dei loro controlli extra di routine.

Image: Cory Doctorow/Flickr CC

Il dipartimento di polizia di Los Angeles (LAPD) ha testato il metodo nel contesto della popolazione molto più grande di Los Angeles e delle esigenze di pattugliamento più complesse. Il dipartimento ha distribuito le mappe agli agenti all'inizio della chiamata di controllo, proprio come a Santa Cruz. Tuttavia, alcune mappe sono state prodotte utilizzando i metodi tradizionali della LAPD per i punti caldi, mentre altre sono state create dall'algoritmo. Agli agenti non è stato detto da dove venivano le mappe. L'algoritmo ha fornito il doppio della precisione che le pratiche attuali della polizia di Los Angeles hanno prodotto. Mentre i crimini contro la proprietà sono aumentati dello 0,4% in tutta Los Angeles, quelli di Foothill, l'area dove hanno usato l'algoritmo, sono diminuiti del 12%.

2. Processo decisionale informato

L'analisi dei dati informatici fornisce un'abbondanza di informazioni. Secondo i suoi sostenitori, la polizia predittiva potrebbe portare a un processo decisionale più obiettivo, scoraggiando gli agenti di polizia dal prendere decisioni arbitrarie che potrebbero essere basate su pregiudizi piuttosto che su prove. Questa è l'opinione del procuratore generale degli Stati Uniti che sostiene che la polizia guidata dai dati è potenzialmente innovativa. Introducendo l'uso di tecnologie predittive, il procuratore generale è stato in grado di togliere Camden dalla cima della lista come città più pericolosa d'America. Hanno ridotto gli omicidi del 41% e tutta la criminalità in città del 26%. La cosa più importante è che sono passati dall'occuparsi di crimini di droga di basso livello che erano fuori dal dipartimento di polizia a occuparsi di casi di importanza statale, su cose come la riduzione della violenza con i criminali più violenti, il perseguimento delle bande di strada, il traffico di armi e droga e la corruzione politica.

3. Avanzamento del sistema di giustizia penale

La polizia predittiva ha il potenziale per rendere la polizia più equa. Promuovendo un processo decisionale basato su prove oggettive, la polizia predittiva potrebbe potenzialmente alleviare alcune discrepanze nell'applicazione della legge. Quando l'algoritmo ha compilato la mappa dei punti caldi del crimine nel suddetto studio di Los Angeles, non si è basato direttamente sul pregiudizio. Al contrario, le tradizionali mappe dei punti caldi della polizia di Los Angeles sono state prodotte da esseri umani (inevitabilmente prevenuti). Di conseguenza, gli algoritmi potrebbero essere in grado di aiutare gli agenti di polizia a prevedere meglio i rischi, determinare l'identità dei criminali e identificare le vulnerabilità di una comunità e dei suoi membri. Tuttavia, questo potenziale può essere realizzato solo se l'algoritmo è effettivamente privo di pregiudizi, il che non è sempre il caso, come lo dimostriamo di seguito.

4. Gli usi progressivi della polizia predittiva

La raccolta dati potrebbe essere una forza per il bene. Per esempio, le tecnologie predittive potrebbero essere utilizzate per fornire un avvertimento precoce di modelli dannosi di comportamento della polizia. Infatti, i dipartimenti di polizia potrebbero usare l'analisi dei dati come strumento per anticipare la cattiva condotta degli agenti. L'esperienza a Chicago e altrove mostra che la cattiva condotta della polizia segue modelli chiari e coerenti, e che la formazione e il sostegno degli agenti a rischio possono aiutare a evitare incidenti di tale cattiva condotta. Allo stesso modo, i sistemi di polizia predittiva potrebbero essere impiegati per valutare se una data agenzia di polizia ha la probabilità di trattare allo stesso modo quartieri diversi o persone di diverse etnie. Questo potrebbe dare maggiore consapevolezza alla polizia su qualsiasi pregiudizio che potrebbe danneggiare la fiducia del pubblico o sprecare risorse.

Gli svantaggi

1. Problemi di privacy

Come discusso, la polizia predittiva ha due applicazioni: l'uso dei dati geografici degli arresti per informare come le forze di polizia distribuiscono gli agenti, e l'uso dei dati degli individui raccolti da internet, come gli account dei social media e i filmati delle telecamere a circuito chiuso, per prevedere la probabilità che un individuo commetta un reato. Il primo di questi, supponendo che sia basato su dati di arresto resi anonimi, probabilmente non pone rischi per la privacy. Ma la seconda di queste - l'estrazione di informazioni pubblicamente disponibili e di filmati delle telecamere a circuito chiuso - chiaramente pone seri rischi alla privacy.

Aiutaci a combattere per i tuoi diritti Fai una donazione
Alcuni dati potrebbero essere troppo personali per essere memorizzati, e coloro che ne hanno il controllo potrebbero non avere la capacità e la professionalità per tenerli al sicuro. Le informazioni raccolte e immagazzinate da un dipartimento di polizia rischiano di trapelare, soprattutto perché la sicurezza dei dati è costosa in termini di formazione e personale. Considerando la natura sensibile di tali informazioni, la possibilità di fughe di dati è particolarmente allarmante. Per esempio, saresti a tuo agio con la polizia in possesso di dati su ciò che hai fatto lo scorso fine settimana? Probabilmente no. Soprattutto se consideri che i dati potrebbero trapelare, con effetti potenzialmente dannosi sulla tua vita privata e professionale.

L'ambiente digitale, e in particolare la pronta disponibilità di molti dati personali sui social media, intensifica queste preoccupazioni. Uno studio esplora la raccolta di dati per l'applicazione della legge, evidenziando le controversie legate al ruolo sempre più importante che i dati dei social media giocano nei “data-driven policing”, metodi della polizia basati sui dati. Poiché molti utenti dei social network non percepiscono il loro ambiente digitale come pubblico, i motori di ricerca e altre analisi automatizzate aumentano notevolmente il potenziale di sorveglianza dello stato. È preoccupante che la legge non limiti l'intelligence dei social media e il suo uso da parte delle autorità di polizia e di sicurezza. Le conseguenze saranno sempre più significative man mano che sempre più dati personali vengono divulgati e raccolti in pubblico senza aspettative ben definite di privacy. Come sostiene l'avvocato per la protezione dei dati Alan Dahi, "Solo perché qualcosa è online, non significa che sia leale il fatto che gli altri se ne appropriano come vogliono - né moralmente, né legalmente".


A parte le preoccupazioni per la privacy, se i dati personali vengono utilizzati per prevedere le inclinazioni di qualsiasi individuo a commettere un crimine è anche probabile che la presunzione di innocenza - per cui tutti sono considerati, e trattati come, innocenti fino a prova contraria - sia minacciata.

2. Mancanza di precisione

L'affidabilità della polizia predittiva dipende dalla qualità dei dati e dall'integrità dei suoi esecutori e utenti. Un rapporto osserva che la pratica non è una sfera di cristallo che può prevedere accuratamente il futuro.

Quando si tratta di usare i dati per prevedere i punti caldi del crimine, decenni di ricerca criminologica mostrano che i rapporti sul crimine e altre statistiche raccolte dalla polizia documentano principalmente la risposta delle forze dell'ordine ai rapporti che ricevono e alle situazioni che incontrano, piuttosto che fornire una registrazione obiettiva o completa di tutti i crimini che si verificano. Detto diversamente, i database ci dicono dove il crimine è stato individuato dalla polizia in passato. Ma sappiamo che in molti paesi la polizia dedica risorse sproporzionate a certi gruppi minoritari. Il risultato è che le pratiche razziste vengono introdotte nei dati. La polizia predittiva diventa allora un circolo vizioso. Le statistiche sul crimine raccolte sulla base di una politica razzista creeranno previsioni razziste, portando ad un eccesso di sorveglianza che continuerà a generare dati fuorvianti e previsioni razziste.

Quando si tratta di estrarre dati su particolari individui per valutare la probabilità che possano commettere un crimine, è noto che l'attività online non rappresenta accuratamente il comportamento umano nel mondo reale. Mentre l'idea che la polizia predittiva potrebbe in futuro essere usata per arrestare qualcuno prima che commetta un crimine potrebbe sembrare inverosimile, l'idea che le tecnologie predittive guidate dai dati giustifichino l'aumento delle misure di sorveglianza in relazione a gruppi e individui presumibilmente ad alto rischio, dove la valutazione che siano ad alto rischio è dubbia, non è molto lontana dalla realtà.

3. Discriminazione

Un altro svantaggio della polizia predittiva è che può produrre risultati distorti. L'ACLU ha criticato la pratica per la sua tendenza a perpetuare il profiling razziale. Quando viene alimentato con dati distorti, un limite chiave di qualsiasi algoritmo è che ingrandisce i pregiudizi che emergono dai processi convenzionali, intensificando ulteriormente le discrepanze ingiustificate nell'applicazione.

Consideriamo l'esempio di due adolescenti che fumano entrambi regolarmente erba. L'adolescente A vive in un quartiere con minori livelli di criminalità registrati, mentre l'adolescente B vive in una zona con maggiori livelli di criminalità registrati. Concentrandosi sull'area con il più alto rischio di criminalità previsto, A e B diventeranno, rispettivamente, poco e troppo sorvegliati. L'adolescente B ha quindi più probabilità dell'adolescente A di finire in prigione. A livello individuale l'asimmetria danneggia le prospettive di B, perché avere la fedina penale sporca avrà un impatto negativo sull'accesso alla carriera e all'istruzione. A livello sistemico, questa dinamica potrebbe minare gli obiettivi vitali della polizia, come la costruzione della fiducia della comunità. I sistemi attuali sono quindi ciechi al loro impatto in queste aree, e possono fare danni inavvertiti. I sistemi di policing predittivi esacerbano questa tendenza, rendendo il policing semplicemente sulla riduzione numerica dei tassi di criminalità rilevati, piuttosto che su quella effettiva.

4. Responsabilità

Inoltre, la polizia predittiva riduce la responsabilità delle forze dell'ordine. Poiché la maggior parte dei processi di analisi dei dati sono automatizzati, potrebbe minare la capacità degli agenti e dei dipartimenti di spiegare e giustificare le loro decisioni in modo significativo. Inoltre, a causa della complessità e della segretezza di questi strumenti, la polizia e le comunità hanno attualmente una capacità limitata di valutare i rischi di dati distorti o di sistemi di previsione difettosi.

Per riassumere, mentre la polizia predittiva porta la promessa di una sorveglianza efficace ed equa, in realtà è sia imprecisa nelle sue previsioni che pone serie sfide alla creazione di una società più libera ed equa. Le tecnologie di polizia predittiva probabilmente guadagneranno terreno nei prossimi anni, perché sono meno costose delle pratiche di polizia convenzionali. Tuttavia, l'attuale quadro giuridico applicabile a queste tecnologie è poco chiaro e poco utile. Questo deve cambiare. Gli Stati membri dell'UE dovrebbero chiedersi se dovremmo costruire questi sistemi. La caccia al processo decisionale algoritmico equo e trasparente potrebbe essere insufficiente per affrontare le questioni che sollevano.