Systemy rozpoznawania twarzy to technologie biometryczne, które rejestrują rysy twarzy w celu zweryfikowania tożsamości lub zlokalizowania danej osoby w grupie, miejscu lub w bazie danych. Stosowana przez systemy technologia zmieniła sposób identyfikacji, dzięki czemu proces jest znacznie bardziej efektywny. Aplikacje, takie jak Snapchat używają tej technologii do tworzenia filtrów twarzy, może być ona także używana do odblokowywania telefonu, a niektóre lotniska testują obecnie wykorzystanie technologii rozpoznawania twarzy w celu identyfikacji pasażerów przed wejściem na pokład. Można ją jednak również wykorzystać w celu inwigilacji; Niezależnie od tego, czy chodzi o śledzenie ludzi na ulicach, kontrolę protestów, czy o operacje biznesowe, stopień wykorzystania sztucznej inteligencji zdecydowanie wzrasta.
W rezultacie stosowanie technologii rozpoznawania twarzy wywołało wiele debat i kontrowersji. W opublikowanym w kwietniu 2021 r. projekcie ustawy o sztucznej inteligencji Komisja Europejska zaproponowała pewne ograniczenie publicznego wykorzystania technologii rozpoznawania twarzy, a w październiku 2021 r. Parlament Europejski wezwał do zakazania jej stosowania. Europejski Inspektor Ochrony Danych oraz Europejska Rada Ochrony Danych wydali w 2021 r. wspólną opinię na temat ustawy o sztucznej inteligencji, w której wezwali do wprowadzenia zakazu zdalnego nadzoru biometrycznego w miejscach publicznych. Organizacje praw człowieka kwestionują wykorzystanie tej technologii w przestrzeni publicznej i regularnie ostrzegają przed związanymi z nią zagrożeniami. Wiele osób i organizacji prowadzi kampanie, aby zakazać jej stosowanie.
Dlaczego jest tak wiele powodów do zmartwień? Co możemy z tym zrobić? Przyjrzyjmy się nieco bliżej głównym problemom.
Jakie są największe obawy dotyczące prywatności w związku z technologią rozpoznawania twarzy?
1. Niewłaściwe przechowywanie danych
Zdjęcia twarzy są niezwykle łatwe do zebrania, ponieważ za pomocą kamer można je zrobić w miejscach publicznych. Największy problem tkwi w tym, że żaden system bezpieczeństwa nie jest szczelny. Wyobraź sobie, że istnieje baza danych z Twoim zdjęciem lub adresem. Jeśli baza danych zostanie zhakowana i niewłaściwa osoba uzyska do niej dostęp, może ją wykorzystać do kradzieży Twojej tożsamości, rozboju lub nękania. Stalkerzy mogą na przykład wyszukiwać obrazy, aby zebrać informacje osobiste o danej osobie, takie jak jej adres. Mogą również użyć Twojego wizerunku, aby podszywać się pod Ciebie w Internecie i oszukiwać ludzi, a policja może pomyśleć, że to Ty jesteś osobą, która za tym stoi.
Bazy danych biometrycznych są szeroko wykorzystywane przez policję i rządy, a także popularne strony internetowe i aplikacje, które przechowują dane dotyczące naszych twarzy lub innych cech biometrycznych, takich jak odciski palców. W sprawie Clearview AI, znanej firmy zajmującej się identyfikacją twarzy, która sprzedaje dostęp do swojej bazy danych, między innymi amerykańskim organom ścigania, amerykański senator Edward Markey stwierdził: „Jeśli Twoje hasło zostanie zhakowane, możesz je zmienić. Jeśli numer Twojej karty kredytowej zostanie zhakowany, możesz ją zablokować. Ale nie możesz zmienić informacji biometrycznych, takich jak cechy swojej twarzy."
2. Niewłaściwe wykorzystanie danych
Wyniki ankiety pokazują, że ta technologia, podobnie jak wszystkie inne, nie jest odporna na problem uprzedzeń. Rozpoznaje białych mężczyzn łatwiej niż kobiety czy inne grupy etniczne. W 2018 r. w przypadku identyfikowania kolorowych kobiet margines błędu wynosił 35%, a w przypadku mężczyzn 1%. Problem ten został z czasem zredukowany w wyniku szkolenia, ale nadal istnieje i bardzo trudno go całkowicie wyeliminować.
Te błędne wyniki mogą prowadzić do błędnych aresztowań. Na przykład Nijeer Parks został aresztowany w 2019 r. w USA za rzekome kradzieże w sklepach i próbę potrącenia funkcjonariusza samochodem. Został błędnie zidentyfikowany i niesłusznie aresztowany na podstawie technologii rozpoznawania twarzy. Sprawa została ostatecznie umorzona, ale trwało to rok. Parks spędził 10 dni w więzieniu i wydał 5 tys. dolarów na obronę prawną. Ponadto wykorzystanie informacji biometrycznych w celu klasyfikacji według określonych kryteriów może utorować drogę profilowaniu, prowadzącemu do dyskryminacji i niesłusznych wyroków wobec niektórych grup z powodu świadomych lub nieświadomych uprzedzeń w systemie wymiaru sprawiedliwości.
Wreszcie, niektóre reżimy wykorzystują tę technologię do atakowania grup mniejszościowych, jak miało to miejsce w przypadku chińskiego rządu, który wykorzystał oprogramowanie do rozpoznawania twarzy Huawei do identyfikacji Ujgurów. Zgodnie z wewnętrznym raportem, używany system był podobno zdolny do zidentyfikowania w tłumie osób ze względu na wiek, płeć i pochodzenie etniczne, a następnie wywołania alarmu zgłaszającego policji każdego członka społeczności ujgurskiej. Podobno Huawei dostarczył władzom serwery, kamery i inne narzędzia.
3. Naruszenie prywatności jednostki
Sposób wykorzystania technologii rozpoznawania twarzy jest z natury inwazyjny. Tak jak ma to miejsce dzisiaj, zbieranie danych odbywa się bez zgody lub wiedzy osób fizycznych: możesz zostać sfilmowany po prostu idąc ulicą.
Bycie nagrywanym i monitorowanym bez zgody, a nawet wiedzy, jest wyraźnym naruszeniem osobistej prywatności i wolności. Odbiera możliwość swobodnego poruszania się i działania bez obawy, że jest się obserwowanym. Bycie obserwowanym zmienia sposób, w jaki się zachowujemy, a także wpływa na nasze samopoczucie i może prowadzić do większego stresu i zmniejszyć zaufanie do władz. Jeśli ludzie obawiają się, że ich codzienne interakcje i rozmowy są monitorowane, mogą unikać krytykowania rządu z obawy, że coś stanie się im lub ich bliskim.
Nadzorowanie ludzi wynikające z tego, że w przyszłości mogą zrobić coś nielegalnego, jest również naruszeniem domniemania niewinności. Organy ścigania mogą traktować kogoś inaczej na podstawie domniemanej przyszłej winy, której nie można udowodnić.
4. Naruszenie wolności słowa i zrzeszania się
Technologia rozpoznawania twarzy budzi obawy, ponieważ może stać się narzędziem biometrycznego masowego nadzoru. Nadzór, zwłaszcza w przypadku demonstracji, ogranicza wolność słowa i hamuje działania takie jak aktywizm polityczny. Narzędzia te są wykorzystywane do monitorowania populacji oraz, w krajach, w których krytyka rządu nie jest tolerowana, do aresztowania tych, którzy sprzeciwiają się władzy. W USA organizacja pozarządowa Electronic Frontier Foundation ujawniła, że Departament Policji San Francisco uzyskał dostęp na żywo do ponad 400 kamer, aby szpiegować uczestników protestów w 2020 roku. Kiedy pewne technologie znajdują się w danym miejscu, mogą być i często są nadużywane.
Podobnie korzystanie z technologii rozpoznawania twarzy ogranicza prawo do anonimowości. Ludzie oczekują pewnego jej rodzaju, nawet w miejscach publicznych, i nie chcą, żeby ich twarz była wiązana z faktami, działaniami lub danymi na ich temat dostępnymi w Internecie. Ciągły brak anonimowości jest tym bardziej niebezpieczny, gdy technologia umożliwia sprawdzenie z kim ludzie się spotykają i z jakich powodów.
W artykule VICE Joshua Franco, starszy doradca ds. badań i zastępca dyrektora Amnesty Tech w Amnesty International, stwierdził: „Strach i niepewność generowane przez inwigilację hamują aktywność bardziej niż jakiekolwiek działania policji, [...] jeśli czujesz, że jesteś obserwowany, sam się pilnujesz, a to wypycha ludzi z przestrzeni publicznej”.
5. Brak przejrzystości
Przejrzystość w zakresie gromadzenia, zarządzania i usuwania danych jest w UE nadal zbyt niska; często nakładane są sankcje na firmy lub instytucje za niedostateczne wypełnienie obowiązków informacyjnych. RODO wymaga zwięzłych, przejrzystych, zrozumiałych i łatwo dostępnych informacji dla osób, których dane dotyczą (art. 12, 13, 14). Na przykład w wielu przypadkach dotyczących korzystania z technologii rozpoznawania twarzy niemożliwe jest zidentyfikowanie podmiotów gromadzących i przetwarzających dane, ponieważ możesz nie wiedzieć, że jesteś rejestrowany. A nawet jeśli zostaną zidentyfikowani, ilość zebranych danych i cel, dla którego zostaną wykorzystane, może pozostać nieznany. Ponadto osoby, których dane dotyczą, nie mogą pobierać, poprawiać, kontrolować ani usuwać takich danych, jeśli nie są świadome ich istnienia.
Przejrzystość jest ważna, ponieważ pozwala na lepszą kontrolę nad sposobem przetwarzania Twoich danych: możesz upewnić się, że firmy przestrzegają prawa i szanują Twoje prawa osobiste, sprawdzając, czy przestrzegane są obowiązki informacyjne lub weryfikując, czy masz dostęp do swoich danych osobowych. Jeśli tak nie jest, możesz złożyć skargę do organu kontroli. Bez zachowania przejrzystości firmy mogą robić z Twoimi danymi osobowymi, co chcą, bez Twojej wiedzy, a ludzie nie wiedzą, kto i w jakim celu posiada ich dane biometryczne. Ludzie mogą być poddawani ukierunkowanym reklamom, profilowaniu itp. lub ich dane mogą zostać sprzedane podmiotowi trzeciemu. Na przykład wspomniana wyżej Clearview AI bez otrzymania zgody zbierała zdjęcia osób w Internecie i wykorzystywała je do budowania bazy danych, z której korzystały następnie prywatne firmy. Po dwóch latach sporów prawnych firma Clearview AI osiągnęła porozumienie z American Civil Liberties Union i na stałe wstrzymała sprzedaż swojej bazy danych biometrycznych prywatnym firmom i osobom fizycznym w Stanach Zjednoczonych.
6. Możemy do tego przywyknąć
Jeśli technologia rozpoznawania twarzy będzie się rozwijać bez ograniczeń, ludzie mogą się do niej przyzwyczaić i jej wykorzystywanie może stać się normą. Istnieje ryzyko, że takie środki w miarę upływu czasu będą coraz częściej stosowane. Gdyby inwigilacja została zinstytucjonalizowana, ze wszystkich wymienionych wcześniej powodów, przestrzeń praw obywatelskich kurczyłaby się coraz bardziej.
7. Postęp może sprawić, że technologia będzie dostępna dla wszystkich
W 2011 roku A. Acquisti i jego zespół przeprowadzili wiele eksperymentów, aby pokazać potencjalne zagrożenia związane z technologią rozpoznawania twarzy. W pierwszym wykorzystali tę technologię do dopasowania publicznych zdjęć profilowych na Facebooku i zdjęć profilowych z serwisów randkowych. Byli w stanie zidentyfikować wiele osób, nawet jeśli w swoim profilu randkowym używały tylko imienia lub pseudonimu. W innym eksperymencie zrobili zdjęcia studentom kamerą internetową i dopasowali je do ich profilu na Facebooku. Byli w stanie zidentyfikować około jednej trzeciej z nich. To zapowiada przyszłość, w której wszyscy będziemy mogli być rozpoznawalni przez każdego, kto ma smartfon; stalker mógłby znaleźć Twoje dane osobowe i wykorzystać je, żeby Cię śledzić.
Jak pokazało ostatnie stulecie, technologia rozwija się bardzo gwałtownie. Możliwość zidentyfikowania osoby, którą widzisz na ulicy, może stać się normą – w 2021 r. policja w Wielkiej Brytanii opracowała aplikację na telefony komórkowe, aby identyfikować poszukiwane osoby w czasie rzeczywistym za pomocą aplikacji do rozpoznawania twarzy. W serwisie YouTube nakręcono filmy pokazujące, jak można stworzyć własny system rozpoznawania twarzy i identyfikować osoby korzystające z technologii rozpoznawania twarzy.
Jakie rozwiązania są dostępne?
Po pierwsze, gromadzenie, przechowywanie i udostępnianie danych biometrycznych powinno być całkowicie przejrzyste, a ludzie powinni mieć możliwość dostępu do swoich danych i ich kontroli oraz możliwość poznania podmiotu przetwarzającego ich dane. Powinniśmy mieć także możliwość wyrażenia wyraźnej, a przede wszystkim świadomej zgody, zanim nasze dane biometryczne zostaną włączone do bazy danych i zanim ktokolwiek uzyska do nich dostęp. [newsletter title={Wyprzedź inwigilację o krok i bądź na bieżąco. Zapisz się do newslettera!}}
Jednym z głównych problemów jest brak regulacji. Chociaż opracowywane jest coraz więcej przepisów, obecne ramy prawne są niewystarczające, aby zapewnić skuteczną kontrolę nad tą technologią. Wiele krajów nie posiada żadnych przepisów w tym zakresie, a te, które obowiązują, są nadal niekompletne. W Europie mamy stosunkowo rygorystyczne rozporządzenie, RODO – ale nie jest odpowiednio egzekwowane. Ponadto RODO nie ma zastosowania do organów ścigania.
Opinia publiczna jest coraz bardziej wyczulona na kwestie związane z ochroną danych. Jednak obawy związane z technologią rozpoznawania twarzy są wciąż mało znane, ponieważ ich gromadzenie i używanie jest „niewidoczne” w naszym codziennym życiu. Użytkownicy muszą być bardziej czujni i świadomi, aby doprowadzić do zmian społecznych.
Ta świadomość powinna być szerzona wśród pracowników firm, członków rządów lub wszelkiego rodzaju instytucji wykorzystujących technologię rozpoznawania twarzy. Każdy z tych organów powinien mieć dedykowanych specjalistów ds. bezpieczeństwa w tej kwestii, a także dedykowane protokoły bezpieczeństwa i szkolenia pracowników. Organizacje, które przechowują publicznie dostępne rejestry, powinny podejmować proaktywne środki zapobiegające nadużyciom, takie jak ograniczony dostęp do wrażliwych baz danych.
Powiązane materiały:
Rozpoznawanie twarzy: Korzyści i zagrożenia
Czy algorytmy podejmujące decyzje faktycznie zawsze mają rację, są sprawiedliwe i godne zaufania?