Tech & Rights

Clearview AI - aplikace porušující soukromí, ze které máme husí kůži

Pokud jste ten typ člověka, který si prostě nemůže pomoci, a klikne na všechno, z čeho má husí kůži, jako jsem já, pravděpodobně už jste četli články o Clearview AI.

by Orsolya Reich

Pokud však máte více štěstí a přečetli jste jich dost, zde je rychlá rekapitulace příběhu. Podle zpráv z médií, spuštění technologie Clearview AI vyškrabalo z internetu více než tři miliardy obličejů, včetně stránek sociálních médií, jako je YouTube, Facebook, Instagram a Twitter. Udělali to bez získání souhlasu uživatelů nebo společností. Vyvinuli také aplikaci pro rozpoznávání tváří, která komunikuje s jejich databází vyloupených fotografií. Pokud tedy pořídíte obrázek osoby (stačí částečný obličej) a zkontrolujete ji v databázi Clearview, uvidíte veřejné fotografie této osoby spolu s odkazy na místo, kde se tyto fotografie objevily. I když jsou tyto fotografie staré 20 nebo 30 let.

The New York Times dokonce zmiňuje technickou možnost spárování programu Clearview s brýlemi s rozšířenou realitou, což by předplatitelům Clearview umožnilo identifikovat a prozkoumat příběh každého člověka, které vidí v reálném čase. Protestující, atraktivní kolemjdoucí, řekněte si.

Podle start-upu v roce 2019 používalo Clearview AI více než 600 amerických donucovacích orgánů, které jej licencovaly také hrstce soukromých firem. V blízké budoucnosti plánují agresivně zacílit na americké policejní útvary a plánují také rozšíření na nejméně 22 dalších zemí.

Už máte husinu? Ne? Myslíte si, že jste jako občan EU chráněni před takovými nízkými hodnotami narušujícími soukromí, protože neopustíte starý dobrý kontinent? Bohužel možná nebudete mít takové stěstí. Společnost chce rozšířit své služby do EU s potenciálními partnery například v Itálii, Řecku a Nizozemí. V tomto okamžiku není jasné, zda společnost Clearview porušila evropské zákony. Pokud sbírali obrázky od občanů EU, může jejich software porušovat obecné nařízení EU o ochraně údajů, jehož čl. 4 odst. 14 se týká zpracování biometrických údajů. Jejich právní postavení je však dnes zcela nejasné a vše, co Evropská komise uvedla, je, že sleduje tiskovou zprávu a věc konzultuje s orgány EU pro ochranu údajů.

Sledování tiskových zpráv zjevně nestačí. Evropská komise musí jednat, lépe dříve než později. Clearview a společnosti experimentující s podobnou strategií stírání internetu jsou pro nás všechny jasnou hrozbou. Chceme žít ve společnosti, kde jsme schopni se volně pohybovat a jednat ve vnějším světě. Nechceme, aby nás někdo, dokonce ani státní agenti, neustále sledovali, když se objevíme na veřejných prostorách.

Nebylo tomu tak dávno, kdy to vypadalo, že Evropská komise pochopila naši touhu žít ve svobodné společnosti. Plánovala zakázat, alespoň prozatím, technologii rozpoznávání obličeje. Plánovaný zákaz byl však vyňat z posledního návrhu předpisu o umělé inteligenci. To nejmeněí, co by měla Komise udělat, je vrátit jej zpět.

PS: Chcete se dozvědět více o otázkách ochrany soukromí, dohledu, bezpečnosti a zabezpečení? Zajímá vás, jak souvisí se zdravím našich demokracií? Přečtěte si sérii #meandmyrights od našeho vedoucího advokacie, Israela Butlera, ZDE.