I sistemi di riconoscimento facciale sono tecnologie biometriche che registrano i tratti del viso per verificare l'identità o localizzare una persona in un gruppo, in un luogo o in un database. La tecnologia utilizzata dai sistemi ha cambiato le modalità di identificazione, rendendo il processo molto più efficiente. Applicazioni come Snapchat utilizzano questa tecnologia per creare filtri facciali, può essere usata anche per sbloccare un telefono e alcuni aeroporti stanno testando l'uso della tecnologia di riconoscimento facciale per identificare i passeggeri prima dell'imbarco. Tuttavia, può essere utilizzata anche per la sorveglianza; che si tratti di seguire le persone per strada, di monitorare le proteste o le operazioni commerciali, l'uso dell'intelligenza artificiale sta decisamente aumentando.
Di conseguenza, l'uso della tecnologia di riconoscimento facciale ha generato molti dibattiti e controversie. Nel progetto di legge sull'intelligenza artificiale pubblicato nell'aprile 2021, la Commissione europea ha proposto alcune restrizioni sull'uso pubblico della tecnologia di riconoscimento facciale e nell'ottobre 2021 il Parlamento europeo ha chiesto di vietarne l'uso. Il Garante europeo della protezione dei dati e il Comitato europeo per la protezione dei dati hanno emesso un parere congiunto sul disegno di legge sull'intelligenza artificiale nel 2021, chiedendo di vietare la sorveglianza biometrica a distanza nei luoghi pubblici. Le organizzazioni per i diritti umani si interrogano sull'uso di questa tecnologia negli spazi pubblici e mettono regolarmente in guardia dai rischi connessi. Molti individui e organizzazioni si stanno battendo per vietarne l'uso.
Perché c'è tanta preoccupazione? Cosa possiamo fare? Vediamo un po' più da vicino i problemi principali.
Quali sono le maggiori preoccupazioni per la privacy in relazione alla tecnologia di riconoscimento facciale?
1. Archiviazione inappropriata dei dati
Le immagini facciali sono estremamente facili da raccogliere, in quanto possono essere scattate in luoghi pubblici con l'ausilio di telecamere. Il problema principale è che nessun sistema di sicurezza è a prova di bomba. Immagina che ci sia un database con la tua foto o il tuo indirizzo. Se il database viene violato e la persona sbagliata vi accede, potrebbe usarlo per rubare la tua identità, commettere furti o molestie. Ad esempio, gli stalker possono cercare immagini per raccogliere informazioni personali su una persona, come il suo indirizzo. Possono anche usare la tua immagine per impersonarti online e ingannare le persone, e la polizia potrebbe pensare che sia tu la persona che sta dietro a tutto questo.
I database biometrici sono ampiamente utilizzati dalla polizia e dai governi, oltre che dai siti web e dalle app più diffuse che memorizzano dati sui nostri volti o su altre caratteristiche biometriche come le impronte digitali. Nel caso di Clearview AI, una nota azienda di identificazione facciale che vende l'accesso al proprio database, tra gli altri, alle forze dell'ordine statunitensi, il senatore americano Edward Markey ha dichiarato: "Se la tua password è stata violata, puoi cambiarla. Se il numero della tua carta di credito viene violato, puoi bloccarla. Ma non è possibile modificare le informazioni biometriche, come i tratti del viso".
2. Uso improprio dei dati
I risultati del sondaggio mostrano che questa tecnologia, come tutte le altre, non è immune dal problema dei pregiudizi. Riconosce più facilmente gli uomini bianchi rispetto alle donne o ad altri gruppi etnici. Nel 2018, il margine di errore per l'identificazione delle donne di colore è stato del 35% e dell'1% per gli uomini. Questo problema si è ridotto nel tempo grazie alla formazione, ma esiste ancora ed è molto difficile da eliminare completamente.
Questi falsi positivi possono portare a falsi arresti. Ad esempio, Nijeer Parks è stato arrestato nel 2019 negli Stati Uniti per presunto taccheggio e per aver tentato di investire un agente con un'auto. È stato identificato erroneamente e arrestato sulla base della tecnologia di riconoscimento facciale. Alla fine il caso è stato archiviato, ma c'è voluto un anno. Parks ha trascorso 10 giorni in carcere e ha speso 5.000 dollari per la difesa legale. Inoltre, l'uso di informazioni biometriche per classificare in base a criteri specifici può aprire la strada al profiling, portando a discriminazioni e condanne errate nei confronti di alcuni gruppi a causa di pregiudizi consci o inconsci nel sistema giudiziario.
Infine, alcuni regimi utilizzano la tecnologia per colpire gruppi minoritari, come nel caso del governo cinese, che ha utilizzato il software di riconoscimento facciale di Huawei per identificare gli uiguri. Secondo un rapporto interno, il sistema utilizzato sarebbe stato in grado di identificare gli individui in mezzo alla folla in base all'età, al sesso e all'etnia, e di far scattare un allarme per segnalare alla polizia qualsiasi membro della comunità uigura. Huawei avrebbe fornito alle autorità server, telecamere e altri strumenti.
3. Violazione della privacy individuale
Il modo in cui viene utilizzata la tecnologia di riconoscimento facciale è intrinsecamente invasivo e intrusivo. Come accade oggi, la raccolta dei dati avviene senza il consenso o la conoscenza delle persone: si può essere filmati semplicemente camminando per strada.
Essere registrati e monitorati senza consenso o addirittura senza saperlo è una chiara violazione della privacy e della libertà personale. Toglie la possibilità di muoversi e agire liberamente senza paura di essere osservati. Essere osservati cambia il modo in cui ci comportiamo, influisce sul nostro benessere e può portare a un maggiore stress e a una minore fiducia nelle autorità. Se le persone temono che le loro interazioni e conversazioni quotidiane siano monitorate, possono evitare di criticare il governo per paura che accada qualcosa a loro o ai loro cari.Sorvegliare le persone sulla base del fatto che potrebbero fare qualcosa di illegale in futuro è anche una violazione della presunzione di innocenza. Le forze dell'ordine possono trattare qualcuno in modo diverso sulla base di una presunta colpa futura che non può essere dimostrata.
4. Violazione della libertà di espressione e di associazione
La tecnologia di riconoscimento facciale solleva preoccupazioni perché può diventare uno strumento di sorveglianza biometrica di massa. La sorveglianza, soprattutto per le manifestazioni, limita la libertà di espressione e inibisce attività come l'attivismo politico. Questi strumenti vengono utilizzati per monitorare le popolazioni e, nei Paesi in cui le critiche al governo non sono tollerate, per arrestare chi si oppone all'autorità. Negli Stati Uniti, l'ONG Electronic Frontier Foundation ha rivelato che il Dipartimento di Polizia di San Francisco ha ottenuto l'accesso in diretta a più di 400 telecamere per spiare i partecipanti alle proteste del 2020. Quando alcune tecnologie sono in vigore, possono essere, e spesso lo sono, usate in modo improprio.
Allo stesso modo, l'uso della tecnologia di riconoscimento facciale limita il diritto all'anonimato. Le persone si aspettano un certo tipo di comportamento, anche in luoghi pubblici, e non vogliono che il loro volto sia collegato a fatti, azioni o dati su di loro disponibili online. La continua mancanza di anonimato è ancora più pericolosa quando la tecnologia permette di vedere chi si incontra e per quali motivi.
Nell'articolo di VICE, Joshua Franco, consulente senior per la ricerca e vicedirettore di Amnesty Tech presso Amnesty International, ha dichiarato: "La paura e l'incertezza generate dalla sorveglianza inibiscono l'attività più di qualsiasi controllo, [...] se si ha la sensazione di essere osservati, ci si controlla da soli, e questo spinge le persone fuori dagli spazi pubblici".
5. Mancanza di trasparenza
La trasparenza nella raccolta, gestione e cancellazione dei dati è ancora troppo bassa nell'UE; spesso vengono imposte sanzioni alle aziende o alle istituzioni per l'insufficiente rispetto degli obblighi di informazione. Il GDPR richiede informazioni concise, trasparenti, comprensibili e facilmente accessibili per gli interessati (articoli 12, 13 e 14). Ad esempio, in molti casi che prevedono l'uso di tecnologie di riconoscimento facciale, è impossibile identificare gli addetti alla raccolta e al trattamento dei dati perché l'utente potrebbe non sapere di essere registrato. E anche se vengono identificati, la quantità di dati raccolti e lo scopo per cui verranno utilizzati possono rimanere sconosciuti. Inoltre, gli interessati non possono recuperare, correggere, controllare o cancellare tali dati se non ne conoscono l'esistenza.
La trasparenza è importante perché ti permette di avere un migliore controllo sul trattamento dei tuoi dati: puoi assicurarti che le aziende siano conformi alla legge e rispettino i tuoi diritti personali controllando se gli obblighi di informazione sono stati rispettati o verificando che abbia accesso ai tuoi dati personali. In caso contrario, è possibile presentare un reclamo all'organo di controllo. Senza trasparenza, le aziende possono fare ciò che vogliono con i tuoi dati personali a tua insaputa e le persone non sanno chi possiede i loro dati biometrici e per quale scopo. Le persone possono essere sottoposte a pubblicità mirata, profilazione, ecc. o i loro dati possono essere venduti a terzi. Ad esempio, la già citata Clearview AI ha raccolto foto di persone online senza ottenere il consenso e le ha utilizzate per costruire un database, che è stato poi utilizzato da aziende private. Dopo due anni di controversie, Clearview AI ha raggiunto un accordo con l'American Civil Liberties Union e ha bloccato in modo permanente la vendita del suo database biometrico a società private e individui negli Stati Uniti.
6. Possiamo abituarci
Se la tecnologia di riconoscimento facciale si sviluppa senza limitazioni, le persone potrebbero abituarsi e il suo utilizzo potrebbe diventare la norma. Il rischio è che tali misure rimangano in vigore e diventino sempre più comuni con il passare del tempo. Se la sorveglianza venisse istituzionalizzata, per tutti i motivi citati prima, lo spazio per i diritti civili si ridurrebbe sempre di più.
7. Il progresso può rendere la tecnologia accessibile a tutti
Nel 2011, A. Acquisti e il suo team hanno condotto una serie di esperimenti per dimostrare i potenziali rischi della tecnologia di riconoscimento facciale. Nel primo caso, hanno utilizzato la tecnologia per abbinare le immagini del profilo pubblico su Facebook e quelle dei siti di incontri. Sono stati in grado di identificare molte persone, anche se hanno usato solo un nome o un soprannome nel loro profilo di appuntamenti. In un altro esperimento, hanno scattato foto di studenti con una webcam e le hanno abbinate al loro profilo Facebook. Sono riusciti a identificarne circa un terzo. Questo prefigura un futuro in cui tutti noi possiamo essere riconosciuti da chiunque abbia uno smartphone; uno stalker potrebbe trovare le tue informazioni personali e usarle per rintracciarti.
Come dimostra il secolo scorso, la tecnologia si evolve rapidamente. Essere in grado di identificare qualcuno che si vede per strada potrebbe diventare la norma: nel 2021, la polizia del Regno Unito ha sviluppato un'applicazione per cellulari per identificare i ricercati in tempo reale utilizzando un'applicazione di riconoscimento facciale. Su YouTube sono stati realizzati dei video che mostrano come sia possibile creare un proprio sistema di riconoscimento facciale e identificare le persone in pubblico utilizzando la tecnologia di riconoscimento facciale.
Quali sono le soluzioni disponibili?
In primo luogo, la raccolta, l'archiviazione e la condivisione dei dati biometrici devono essere completamente trasparenti e le persone devono essere in grado di accedere e controllare i propri dati e sapere chi li sta elaborando. Dovremmo anche essere in grado di dare un consenso esplicito e, soprattutto, informato prima che i nostri dati biometrici vengano inseriti in un database e prima che qualcuno vi abbia accesso. [newsletter title={Stai un passo avanti alla sorveglianza e rimani informato. Iscriviti alla newsletter!}
Uno dei problemi principali è la mancanza di regolamentazione. Sebbene si stia sviluppando un numero sempre maggiore di leggi, l'attuale quadro giuridico è insufficiente a garantire un controllo efficace su questa tecnologia. Molti Paesi non hanno alcuna legislazione in materia e quelle esistenti sono ancora incomplete. In Europa abbiamo un regolamento relativamente severo, il GDPR, ma non viene applicato in modo adeguato. Inoltre, il GDPR non si applica alle forze dell'ordine.
Il pubblico è sempre più sensibile ai temi della protezione dei dati. Tuttavia, le preoccupazioni relative alla tecnologia di riconoscimento facciale sono ancora poco conosciute, poiché la sua raccolta e il suo utilizzo sono "invisibili" nella nostra vita quotidiana. Gli utenti devono essere più vigili e consapevoli per ottenere un cambiamento sociale.
Questa consapevolezza dovrebbe essere diffusa tra i dipendenti delle aziende, i membri dei governi o di qualsiasi tipo di istituzione che utilizza la tecnologia di riconoscimento facciale. Ognuno di questi organismi dovrebbe avere specialisti di sicurezza dedicati al tema, nonché protocolli di sicurezza dedicati e formazione del personale. Le organizzazioni che conservano documenti accessibili al pubblico devono adottare misure proattive per prevenire gli abusi, ad esempio limitando l'accesso ai database sensibili.
Per saperne di più:
Riconoscimento facciale: Pro e contro
Gli algoritmi decisionali sono sempre corretti, equi e affidabili oppure NO?
10 effetti dell'intelligenza artificiale sulla nostra vita quotidiana
Credito d'immagine: Christopher Burns/Unsplash