Nowe technologie i prawa człowieka

4 zalety i 4 wady predykcyjnego postępowania policyjnego

Coraz częściej słyszy się o predykcyjnych działaniach policyjnych. Chociaż temat jest kontrowersyjny, nie od razu wiadomo, skąd się bierze całe to zamieszanie. Oto krótki przegląd głównych argumentów za i przeciw policji predykcyjnej.

prez Alice Norga

Teoretycznie predykcyjne postępowanie policyjne może sprawić, że egzekwowanie prawa będzie sprawiedliwsze i skuteczniejsze. W praktyce zależy to w dużej mierze od wielu czynników, na przykład od tego, czy predykcyjna policja wykorzystuje dane zebrane w sposób bezstronny, co często nie ma miejsca. Z tego powodu często zdarza się, że tego typu postępowanie przewidujące jedynie wzmacnia i rozpowszechnia uprzedzenia, które wpływały na działania policji w przeszłości, prowadząc do problemów, takich jak ciągłe przesadne nadzorowanie niektórych społeczności mniejszościowych.

Czym jest policja predykcyjna?

Policyjne postępowanie przewidujące określa próbę identyfikacji potencjalnej działalności przestępczej poprzez analizy predykcyjne oparte na modelach matematycznych i innych technikach analitycznych wykorzystywanych w sądownictwie. Policja predykcyjna wykorzystuje zatem systemy komputerowe do analizowania dużych zbiorów danych, aby podjąć decyzję, gdzie wysyłać patrole policyjne, lub zidentyfikować osoby, które rzekomo są bardziej skłonne do popełnienia przestępstwa lub narażone na bycie ofiarą przestępstwa.

Bądź na bieżąco.

Ogólnie rzecz biorąc, można wyróżnić dwa główne obszary działań policji predykcyjnej. Po pierwsze, wykorzystanie danych dotyczących aresztowań do przewidywania geograficznych punktów nasilonej przestępczości. Po drugie, wyciągnięto dane z mediów społecznościowych, które można wykorzystać w celu określenia prawdopodobieństwa, że ktoś dopuści się przestępstwa. Nieokreślone ilości publicznie dostępnych danych osobowych otwierają możliwości bardziej inwazyjnym formom predykcyjnych działań policyjnych. Szeroka dostępność obrazów twarzy nie tylko umożliwia bardziej inwazyjne wykorzystanie kamer CCTV, ale informacje na temat zachowań w Internecie mogą prowadzić do indywidualnego profilowania i oceny ryzyka.

Zalety

1.Zapobieganie przestępczości

Być może spotkałeś się już z opinią, że predykcyjne postępowanie policyjne jest bardzo skuteczne, jeśli chodzi o zapobieganie przestępczości. I faktycznie, wiele badań wydaje się potwierdzać to twierdzenie. Na przykład wydaje się, że wdrożenie tego typu przewidujących działań policyjnych w Santa Cruz (Kalifornia) doprowadziło do zmniejszenia liczby włamań o 19% (a także dwóch tuzinów aresztowań) przez okres sześciu miesięcy. Korzystając z algorytmu, system wykorzystał zweryfikowane dane dotyczące popełnionych już przestępstw, aby przewidzieć przyszłe incydenty w lokalizacjach o powierzchni 500 stóp kwadratowych (czyli około 46,5 metra kwadratowego). Funkcjonariusze otrzymywali wówczas mapy „gorących punktów”, które miały wskazywać na miejsca wysokiego, potencjalnego ryzyka. Policjanci monitorowali przez te obszary, gdy nie musieli odpowiadać na inne wezwania. Nikt nie wysłał ich ani nie wymagał od nich patrolowania tych miejsc; robili to w ramach rutynowych dodatkowych kontroli.Image: Cory Doctorow/Flickr CC

Departament Policji Los Angeles (LAPD) przetestował tę metodę w realiach znacznie większej populacji LA i bardziej złożonych potrzeb patrolowych. Departament rozdawał mapy oficerom na początku apelu, podobnie jak w Santa Cruz. Jednak tym razem niektóre mapy zostały utworzone przy użyciu tradycyjnych metod hot spot LAPD, podczas gdy inne zostały utworzone za pomocą nowego algorytmu. Funkcjonariuszom nie podano źródła map. Okazuje się, że algorytm zapewnił dwukrotnie większą dokładność niż obecne praktyki LAPD. Podczas gdy liczba przestępstw przeciwko mieniu wzrosła na terenie całego Los Angeles o 0,4 procenta, w tym samym czasie w Foothill's - obszarze, który objęty był działaniem algorytmu - tego samego typu przestępczość spadła o 12 procent.

2. Świadome podejmowanie decyzji

Analiza danych komputerowych dostarcza mnóstwo informacji. Według zwolenników działań predykcyjnych mogą prowadzić one do podejmowania bardziej obiektywnych i opartych na dowodach decyzji zapobiegając tym samym wszelkim arbitralnym osądom i działaniom opartym na uprzedzeniach funkcjonariuszy policji. Takie stanowisko w tej sprawie zajął również Prokurator Generalny USA, który twierdzi, że policja polegająca na analizie danych może być zjawiskiem przełomowym. Poprzez zastosowanie technologii predykcyjnych, Prokurator Generalny był w stanie usunąć Camden z czołówki listy najniebezpieczniejszych miast w Ameryce. Wskaźnik morderstw spadł tam o 41 procent, a całą przestępczość w mieście zredukowano o 26 procent. A co najważniejsze, policja przestała zajmować się jedynie drobnymi przestępstwami narkotykowymi, które miały miejsce przed samym komisariatem, a zajęli się sprawami o zasięgu i znaczeniu ogólnostanowym, takimi jak powstrzymanie aktów przemocy najbardziej brutalnych przestępców, ściganie gangów ulicznych, zapobieganiu handlu bronią i narkotykami oraz powstrzymywanie korupcji politycznej.

3. Podniesienie sprawiedliwości w sprawach karnych

Postępowanie przewidujące może pomóc policji stać się bardziej sprawiedliwa. Poprzez promowanie podejmowania decyzji w oparciu o obiektywne dowody, działania policyjne przewidujące mogą potencjalnie złagodzić pewne rozbieżności w egzekwowaniu prawa. Kiedy algorytm wytyczył mapę "gorących punktów" czyli obszarów o wzmożonym zagrożeniu przestępczością w omówionym wyżej badaniu LA, nie opierał się on bezpośrednio na uprzedzeniach. Z drugiej strony, tradycyjnie konstruowane mapy punktów zagrożenia LAPD zostały stworzone przez ludzi (nieuchronnie kierujących się uprzedzeniami). W rezultacie algorytmy mogą być w stanie pomóc funkcjonariuszom policji w lepszym przewidywaniu ryzyka, określaniu tożsamości przestępców oraz identyfikowaniu słabych elementów społeczności i jej członków. Trzeba jednak pamiętać, że ten potencjał może być wykorzystany tylko, jeśli kalkulacje algorytmu są wolne od stronniczości, co niestety nie zawsze ma miejsce, jak opiszemy poniżej.

4. Coraz więcej zastosowań działań predykcyjnych

Dane mają ogromny potencjał, by służyć dobrej sprawie. Kolejnym przykładem wykorzystania technologii predykcyjnych może być wczesne wykrywanie i ostrzeganie przed szkodliwymi wzorcami działań policji. Na tej zasadzie, wydziały policji mogłyby stosować analizę danych jako narzędzie do przewidywania niewłaściwego postępowania funkcjonariuszy. Doświadczenie przeprowadzone w Chicago i innych miejscach pokazuje, że niewłaściwe postępowanie policji przebiega według konkretnych, powtarzalnych i spójnych wzorców, a szkolenie i wsparcie funkcjonariuszy podatnych na niepoprawne zachowanie może pomóc w zapobieganiu takim incydentom. W podobny sposób systemy prognostyczne policji mogłyby zostać użyte do oceny, czy dany organ ścigania powinien w ten sam sposób traktować różne dzielnice lub osoby o różnym pochodzeniu etnicznym. Może to pomóc policji uświadomić sobie wszelkie uprzedzenia, które mogą szkodzić zaufaniu opinii publicznej lub marnotrawić zasoby policji.

Wady

1. Obawy dotyczące prywatności

Jak już wspomniano, działania policji predykcyjnej mają dwa główne zastosowania: wykorzystanie danych geograficznych dotyczących aresztować w celu przeanalizowania, w jaki sposób siły policyjne rozmieszczają funkcjonariuszy i gdzie występują obszary wzmożonego ryzyka, oraz wykorzystanie danych o osobach indywidualnych zebranych z różnych źródeł internetowych, takich jak konta w mediach społecznościowych czy nagrania z telewizji przemysłowej, aby przeprowadzić ocenę prawdopodobieństwa popełnienia przestępstwa przez daną osobę. Pierwsze użycie technologii predykcyjnych, zakładając, że opiera się na anonimowych danych dotyczących aresztowania, prawdopodobnie nie stanowi zagrożenia dla prywatności. Jednak drugie z nich – wykorzystanie publicznie dostępnych informacji i nagrań z telewizji przemysłowej – ewidentnie stanowi wobec naszej prywatności poważne zagrożenie.

Pomóż nam chronić Twoje prawa Przekaż darowiznę
Niektóre te dane mogą być zbyt osobiste, aby można je było przechowywać, a osoby kontrolujące je mogą nie mieć umiejętności i kompetencji, aby zapewnić im bezpieczeństwo. Istnieje spore ryzyko, że informacje gromadzone i przechowywane przez wydział policji mogą wyciec. Zwłaszcza że bezpieczeństwo danych jest kosztowne, zarówno w kwestiach szkoleń, jak i personelu. Biorąc pod uwagę wrażliwy charakter takich informacji, możliwość wycieku danych jest szczególnie niepokojąca. Na przykład, czy czułbyś się komfortowo, gdyby policja posiadała i przechowywała informacje o tym, co robiłeś w zeszły weekend? Prawdopodobnie nie. Zwłaszcza jeśli weźmiesz pod uwagę, że dane mogą wyciekać, co może mieć z kolei szkodliwy wpływ na Twoje życie prywatne i zawodowe.

Środowisko cyfrowe, a w szczególności łatwy dostęp do dużej ilości danych osobowych w mediach społecznościowych, potęguje te obawy. Badanie analizujące proceder gromadzenia danych przez organy ścigania, podkreśla kontrowersje związane z rosnącą na znaczeniu rolą danych z mediów społecznościowych w działaniach policyjnych. Ponieważ wielu użytkowników sieci społecznościowych nie postrzega swojego cyfrowego środowiska jako publicznego, wyszukiwarki i inne zautomatyzowane narzędzia analityczne znacznie zwiększają potencjał nadzoru państwowego. Co niepokojące, prawo nie określa dozwolonego zakresu wykorzystania informacji z mediów społecznościowych i nie ustala granic ich wykorzystania przez organy ścigania i organy bezpieczeństwa. Konsekwencje będą coraz bardziej znaczące, ponieważ coraz więcej danych osobowych jest ujawnianych i gromadzonych publicznie bez jasno określonych przepisów dotyczących prywatności. Jak twierdzi prawnik ds. ochrony danych Alan Dahi: „Tylko dlatego, że coś jest online, nie oznacza to, że może być dowolnie przywłaszczane przez innych – nie jest to uczciwe ani moralnie, ani legalnie”.

Oprócz obaw o prywatność, wykorzystanie danych osobowych do przewidywania skłonności danej osoby do popełnienia przestępstwa może również podważyć domniemanie niewinności – zgodnie z którym każdy jest uważany za niewinnego i traktowany jako niewinny aż do czasu udowodnienia mu winy.

2. Brak dokładności

Wiarygodność działań predykcyjnych zależy od jakości danych oraz uczciwości ich realizatorów i użytkowników. W raporcie stwierdzono, że praktyka ta nie jest kryształową kulą, która może dokładnie przewidzieć przyszłość.

Jeśli chodzi o wykorzystywanie danych do przewidywania obszarów wysokiego ryzyka przestępczości, dziesięciolecia badań kryminologicznych pokazują, że raporty o przestępstwach i inne statystyki gromadzone przez policję przede wszystkim dokumentują reakcję organów ścigania na otrzymywane zgłoszenia i sytuacje, z którymi się spotykają, a nie dostarczają obiektywnych lub pełnych danych wszystkich zbrodni, które się zdarzają. Innymi słowy, bazy danych informują nas, gdzie w przeszłości policja zauważyła przestępstwa. Wiemy jednak, że w wielu krajach policja przeznacza nieproporcjonalne środki na określone grupy mniejszościowe. W rezultacie do danych wkradają się praktyki rasistowskie. Policja przewidująca staje się wtedy błędnym kołem. Statystyki przestępczości gromadzone na podstawie polityki rasistowskiej stworzą rasistowskie prognozy, prowadząc do nadmiernego nadzoru, który będzie nadal generował mylące dane i dalsze rasistowskie prognozy oparte na uprzedzeniach.

Jeśli chodzi o wykorzystanie danych osobowych w celu ustalenia prawdopodobieństwa popełnienia przez kogoś przestępstwa, dobrze wiemy, że aktywność online nie odzwierciedla dokładnie ludzkich zachowań w prawdziwym świecie. Chociaż pomysł, że predykcyjna policja może w przyszłości doprowadzić do aresztowania kogoś, zanim popełni przestępstwo, może wydawać się naciągany, przekonanie, że technologie predykcyjne oparte na danych uzasadniają zaostrzenie środków nadzoru w stosunku do grup i osób rzekomo wysokiego ryzyka popełnienia przestępstwa jest wątpliwa, nawet jeśli ocena tego ryzyka jest wątpliwa, pomysł ten nie jest tak odległy od rzeczywistości jak może się wydawać.

3. Dyskryminacja

Inną wadą działania policji predykcyjnej jest to, że może dawać stronnicze wyniki. ACLU skrytykowała tę praktykę za jej tendencję do utrwalania profilowania rasowego. Kluczowym ograniczeniem każdego algorytmu, który jest zasilany stronniczymi danymi, jest to, że wzmacnia błędy wynikające z konwencjonalnych procesów, jeszcze bardziej potęgując nieuzasadnione rozbieżności w egzekwowaniu.

Rozważmy przykład dwóch nastolatków, którzy oboje regularnie palą trawkę. Nastolatek A mieszka w okolicy o niższym poziomie przestępczości, podczas gdy nastolatek B mieszka na obszarze o wyższym poziomie przestępczości. Koncentrując się na obszarze o najwyższym przewidywanym ryzyku przestępczości, A i B staną się odpowiednio niedostatecznie i nadmiernie nadzorowane. Nastolatek B jest zatem bardziej skłonny niż nastolatek A trafić do więzienia. Na poziomie indywidualnym asymetria szkodzi perspektywom B, ponieważ posiadanie karalności negatywnie wpłynie na jego dostęp do kariery i edukacji. Na poziomie systemowym ta dynamika może podważyć ważne cele policji, takie jak budowanie zaufania społeczności. Obecne systemy są zatem ślepe na ich wpływ w tych obszarach i mogą wyrządzić niezauważone szkody. Predykcyjne systemy policyjne zaostrzą tę tendencję, skupiając działania policyjnymi jedynie na zmniejszaniu liczbowych wskaźników wykrytych, a nie faktycznych przestępstw.

4. Odpowiedzialność

Ponadto działania policyjne przewidujące ograniczają odpowiedzialność organów ścigania. Ponieważ większość procesów w analityce danych jest zautomatyzowana, może to osłabić zdolność funkcjonariuszy i działów do wyjaśniania i uzasadniania swoich decyzji w znaczący sposób. Ponadto, ze względu na złożoność i tajność tych narzędzi, policja i społeczności mają obecnie ograniczone możliwości oceny ryzyka stronniczych danych lub wadliwych systemów prognozowania.

Podsumowując, chociaż działania policyjne oparte na predykcjach niosą ze sobą obietnicę skutecznego i sprawiedliwego działania policji, w rzeczywistości są zarówno niedokładne w swoich przewidywaniach, jak i stwarzają poważne wyzwania w tworzeniu swobodniejszego i sprawiedliwszego społeczeństwa. W nadchodzących latach technologie policyjne przewidujące będą zyskiwać na popularności, ponieważ są tańsze niż konwencjonalne praktyki policyjne. Jednak obecne ramy prawne określające zakres działania tych technologii są niejasne i nieprzydatne. To musi się zmienić. Państwa członkowskie UE powinny zapytać, czy w ogóle powinniśmy budować te systemy. Polowanie na uczciwe i przejrzyste algorytmiczne podejmowanie decyzji może być niewystarczające, aby rozwiązać wszystkie problematyczne kwestie, które się wokół pojawiają.