Nowe technologie i prawa człowieka

Rozpoznawanie twarzy: Korzyści i zagrożenia

W tym artykule postaramy się odpowiedzieć na najważniejsze pytania dotyczące technologii rozpoznawania twarzy: czy to bezpieczne, do czego jest wykorzystywana, jak dokładnie działa, czy to legalne i czy korzyści jakie niesie przeważają nad zagrożeniami.

prez Nikolett Aszodi & Alice Norga

Technologia rozpoznawania twarzy to gorący aktualnie temat, który wzbudza zażarte debaty na całym świecie. Z jednej strony technologia rozpoznawania twarzy jest postrzegana jako wysoce wydajna. Jest niezwykle szybka i (choć to kwestia sporna) obiektywna w wykonywaniu zadań. Z drugiej jednak strony istnieje obawa, że wszelkie uprzedzenia i nieścisłości nieodłącznie wpisane w działanie tych systemów mogą prowadzić do dyskryminacji i zagrażać podstawowym prawom człowieka, takim jak choćby nasze prawo protestu wobec środków i przedsięwzięć, na które nie wyrażamy zgody.

Czym jest rozpoznawanie twarzy i jak dokładnie działa?

Sam termin rozpoznawania twarzy niesie za sobą dość oczywiste znaczenie, jednak nie zaszkodzi przyjrzeć się bliżej, czym naprawdę jest ta technologia. Biuro Komisarza ds. Informacji w Wielkiej Brytanii definiuje rozpoznawanie twarzy jako „proces, dzięki któremu można zidentyfikować lub w inny sposób rozpoznać osobę na podstawie obrazu cyfrowego”. Podobnie jak dowód osobisty, twoja twarz może służyć jako dokument tożsamości.

Bądź na bieżąco.

Rozpoznawanie twarzy wykorzystywane jest do dwóch celów: identyfikacji i kategoryzacji. Identyfikacja to porównanie i dopasowanie materiału cyfrowego (nagranego lub rejestrowanego na bieżąco) do wcześniej zapisanych obrazów w bazie danych. Kiedy takie informacje są "skatalogowane", efekty procesu rozpoznawania twarzy mogą być bardziej wydajne i mają szerszy zasięg. Technologia może wówczas automatycznie kategoryzować dane osoby według możliwych do zidentyfikowania cech, takich jak wiek, płeć, waga, a nawet domniemana orientacja seksualna bez udziału prawdziwej osoby.

Algorytm przypisuje ludzi do danych kategorii, porównując rejestrowany obraz ze „statystycznie najbardziej reprezentatywnym obrazem dla kategorii”. Dlatego technologia rozpoznawania twarzy, jeśli wykorzystywana na szeroką skalę, stwarza możliwość wprowadzenia masowego nadzoru biometrycznego. A to wszystko jest możliwe dlatego, że kamery przemysłowe i monitoring, wszechobecny zarówno w miejscach publicznych, jak i w przestrzeni prywatnej, można zaktualizować, uruchamiając funkcje zastosowania technologii rozpoznawania twarzy. Technologia ta wdrażana jest już przez organy ścigania i podmioty prywatne w wielu miejscach, między innymi w szkołach i na dworcach kolejowych.

Najbardziej martwiące jest to, że nasze zdjęcia, nagrania i dane najczęściej są przesyłane do baz rozpoznawania twarzy bez naszej świadomości ani wyrażenia zgody. Przykładem może być niedawny skandal z Clearview AI, kiedy wyszło na jaw, że ta amerykańska firma technologiczna zgromadziła ponad trzy miliardy zdjęć twarzy, pobranych z platform mediów społecznościowych, takich jak Facebook, Youtube czy Twitter, a następnie odpłatnie udostępniała te informacje rządom i firmom prywatnym.

Te bardzo wrażliwe dane i prywatne informacje są obecnie wykorzystywane głównie przez organy ścigania do organizowania postępowania policyjnego, a w przyszłości mogą być wykorzystywane przez wszelkiego typu organy publiczne lub podmioty prywatne do oceny i decyzji dotyczących m.in. twojej rekrutacji do pracy, na studia, przydzielenia kredytu, przyzwolenia na podróże zagraniczne czy nawet wstępu na festiwal.

W jaki sposób rozpoznawanie twarzy wpływa na nasze codzienne życie?

Mimo że technologia rozpoznawania twarzy może wydawać się nam odległym zjawiskiem rodem z filmów science fiction, to jednak już teraz powoli i bezszelestnie rozprzestrzenia się na arenie polityki europejskiej. Po testach zastosowania rozpoznawania twarzy na stacji Berlin-Südkreuz przeprowadzanych od 2018 r. Niemcy planują aktualnie, pomimo głosów krytyki, wprowadzenie systemów nadzoru biometrycznego na dodatkowych 134 dworcach kolejowych i 14 lotniskach. Temat technologii rozpoznawania twarzy jest również mocno wykorzystywany we Francji, a prezydent Macron chce pod tym względem dogonić Chiny i Stany Zjednoczone.

Włoska policja również zaczęła wdrażać system automatycznego rozpoznawania obrazów (SARI - Automatic Image Recognition System) w 2017 roku. Celem zastosowania tych technologii nie było kilka konkretnych osób, ale masowe przetwarzanie danych biometrycznych wszystkich osób znajdujących się w monitorowanych przestrzeniach w celu identyfikacji niektórych z nich. Niedawno Belgrad (Serbia) zainstalował setki kamer do rozpoznawania twarzy, tworząc w ten sposób stały system nadzoru. Bez wiedzy i świadomości większości ogółu społeczeństwa zastosowanie tych technologii staje się coraz bardziej powszechne w całej Europie. Na szczęście ostatnie orzeczenia prawne w niektórych krajach uznały takie zastosowanie systemów rozpoznawania twarzy za niezgodne z prawem.

Jakie są korzyści?

Technologia rozpoznawania twarzy jest przedstawiana jest w superlatywach, jako mechanizm do polepszenia naszego komfortu i wygody. Chociażby na lotnisku nie musimy już zawracać sobie głowy wpisywaniem hasła do telefonu czy pokazywaniem dowodu tożsamości - nasze twarze wystarczą do pomyślnej weryfikacji. W Osace wdrożono systemy rozpoznawania twarzy na czterech dworcach kolejowych - ludzie mijają bramki dostępu poprzez samo zeskanowanie twarzy, bez użycia biletu czy dowodu osobistego. Urząd transportu podkreśla, że "to ogromna zaleta i ułatwienie, zwłaszcza dla pasażerów z dużym bagażem, którzy mogą sprawnie minąć bramki po prostu pokazując twarz, zamiast szukać biletów."

Chociaż faktyczne procesy autentykacji biometrycznej są skomplikowane i techniczne, to z punktu widzenia użytkownika jest to niezwykle łatwe i szybkie. Przyłożenie palca do skanera i odblokowanie konta w kilka sekund jest znacznie szybsze, niż wpisywanie długiego hasła zawierającego wiele znaków specjalnych. Co więcej, wielu użytkowników ma tendencję do zapominania swojego hasła. A jakie są szanse, że zapomnisz własne dane biometryczne? 0%!

Kolejnym argumentem za stosowaniem rozpoznawania twarzy są kwestie bezpieczeństwa. Mówi się, że biometria jest w stanie w bardziej rzetelny sposób zagwarantować poprawna weryfikację tożsamości osoby starającej się o dostęp lub wykonanie transakcji. Zwolennicy korzystania z danych biometrycznych zwracają uwagę, że hasła, kody PIN i wszelkie inne informacje prywatne mogą dostać się w niepożądane ręce poprzez naruszenie danych - w ten sposób oszuści są w stanie podszyć się pod inną osobą, otrzymując dostęp do kont uwierzytelnianych tradycyjnymi metodami. Z drugiej strony znacznie trudniej byłoby podszyć się pod Ciebie, gdyby wymagana byłą autoryzacja poprzez odcisk palca na miejscy. Również jeśli chodzi o egzekwowanie prawa i organy ścigania, zwolennicy tych technologii podkreślają, że znacząco wspierają one policję w działaniach śledczych i poszukiwawczych.

Jakie niesie zagrożenia?

Rozpoznawanie twarzy zagraża naszym prawom w więcej niż jednym aspekcie. Przede wszystkim, technologia ta w sposób inwazyjny wkracza w naszą przestrzeń prywatną i pozyskuje nasze osobiste i wrażliwe dane. Te dane w świetle prawa należą do nas (chociażby na podstawie Ogólnego Rozporządzenia o Ochronie Danych), dlatego mamy prawo wiedzieć, kiedy i w jakim celu jakikolwiek podmiot pozyskuje takie informacje na nasz temat.

Po drugie, świadomość, że można nas łatwo zidentyfikować, może prowadzić nas do autocenzury z obawy przed negatywnymi konsekwencjami. Na przykład osoby, które mają świadomość, że zostaną zidentyfikowane i skatalogowane w bazie danych za pojawienie się na proteście, mogą zostać w ten sposób zniechęcone do udziału. Jest to szczególnie szkodliwe w sytuacjach, w których rządy bezprawnie ograniczają prawo do demonstracji, aby stłumić publiczną krytykę.

Pomóż nam chronić Twoje prawa Przekaż darowiznę
Po trzecie, dane biometryczne niosą ze sobą szczególne ryzyko w kwestii bezpieczeństwa. W przeciwieństwie do tradycyjnego hasła czy PINu, danych biometrycznych nie można zmienić. Jeśli moje dane odcisków palców wyciekną, nie mogę tego „zresetować” jak w przypadku hasła. Co gorsza, Twoja twarz może zostać zeskanowana w dowolnym miejscu i czasie bez Twojej zgody. Oznacza to, że Twoje dane biometryczne mogą być faktycznie przechowywane w wielu bazach danych, których środki bezpieczeństwa mogą być niewystarczające, aby je ochronić.

Wiadomo również, że technologia rozpoznawania twarzy działa stosunkowo dobrze na twarzach białoskórych i męskich, jednocześnie wykazując wysoki wskaźnik niedokładności w przypadku osób innych ras, zwłaszcza kobiet. Oznacza to, że osoby należące do mniejszości etnicznych, które już teraz mają zwykle trudniejszy dostęp do usług i udogodnień, napotkają dodatkową barierę, gdy władze zastosują dodatkowo dyskryminującą dla nich technologię rozpoznawania twarzy.

Rozpoznawanie twarzy nie tylko dyskryminuje osoby kolorowe, ale jest również nieproporcjonalnie nastawione na nadzór osób zmarginalizowanych. W kontekście organów ścigania rozpoznawanie twarzy jest stosowane głównie w społecznościach, które już są nadmiernie nadzorowane. Na przykład we Włoszech baza danych policyjnego oprogramowania do rozpoznawania twarzy zawierała 2 miliony zdjęć Włochów, przechowując jednocześnie aż 7 milionów zdjęć uchodźców i migrantów. Tak więc sposób wykorzystania tej technologii może utrwalić i pogłębić nieproporcjonalny sposób, w jaki ludzie z niektórych grup są już nadmiernie obserwowani i dyskryminowani.

Wnioski

Rozpoznawanie twarzy może wydawać się atrakcyjne ze względu na swój potencjał poprawy komfortu naszego życia i zwiększenia bezpieczeństwa publicznego. Jest jednak bardziej prawdopodobne, że skończy się jako poważna niedogodność, która stanowić będzie zagrożenie dla naszych swobód i praw oraz wzmacniać będzie istniejące już nierówności i dyskryminację. Jako że rządy coraz chętniej sięgają po tę technologię w wielu kontekstach i sytuacjach, organy ustawodawcze muszą nadrobić zaległość i wprowadzić klarowne zakazy i regulacje dotyczące stosowanie tych metod.

Liberties o technologii rozpoznawania twarzy

My w Liberties dążymy do zakazania masowej inwigilacji poprzez rozpoznawanie twarzy. Kilka miesięcy temu dołączyliśmy do ruchu ReclaimYourFace. Jeśli zgadzasz się, że w naszym społeczeństwie i naszej przestrzeni publicznej nie ma miejsca na technologie rozpoznawania twarzy, podpisz petycję tutaj.