Technologies et droits

Reconnaissance faciale : les 7 plus grandes menaces pour la vie privée

Le recours à la technologie de reconnaissance faciale est en pleine expansion. Cette technologie de surveillance, dont la croissance est fulgurante, s'inscrit dans notre quotidien. Mais les menaces pour la vie privée sont enfin prises au sérieux.

by Liberties.EU

Les systèmes de reconnaissance faciale consistent en des technologies biométriques, qui capturent les traits du visage d'une personne dans le but de vérifier son identité ou de la localiser au sein d’un un groupe, dans un lieu ou encore sur une base de données. La technologie utilisée à ces fins a changé la façon dont les personnes peuvent être identifiées, rendant le processus beaucoup plus efficace. Des applications comme Snapchat l'utilisent pour appliquer des filtres de visage. Elle est aussi utilisée pour déverrouiller votre téléphone, et certains aéroports testent désormais la technologie de reconnaissance faciale afin d’identifier les passagers avant l'embarquement. Mais elle peut aussi être exploitée dans le but de surveiller. Que ce soit pour suivre des personnes dans la rue, surveiller des manifestations ou dans le cadre d’opérations commerciales, l'IA est de plus en plus utilisée.

Aussi, la technologie de reconnaissance faciale a-t-elle donné lieu à de nombreux débats et controverses. Dans le projet de directive sur l'intelligence artificielle, publié en avril 2021, la Commission européenne a proposé de restreindre, dans une certaine mesure, l'utilisation publique de la technologie de reconnaissance faciale et le Parlement européen a demandé l'interdiction de cette technologie en octobre 2021. Le Contrôleur européen de la protection des données et le Conseil européen de la protection des données ont publié en 2021 un avis commun sur la directive relative à l'IA. Le texte demande l'interdiction de la surveillance biométrique à distance dans les lieux publics. Les organisations de défense des droits humains ont contesté l'utilisation de cette technologie dans les espaces publics et avertissent régulièrement de ses dangers. Beaucoup font campagne pour l'interdire.

Pourquoi cette technologie suscite-t-elle autant d’inquiétudes ? Que pouvons-nous y faire ? Examinons en détail les principales craintes soulevées. [Donate title={Libertés fait pression contre la technologie de reconnaissance faciale. Soutenez-nous.]]

Quelles sont les principales préoccupations en matière de vie privée liées à la technologie de reconnaissance faciale ?

1. Stockage inapproprié des données

Les images faciales sont extrêmement faciles à collecter car vous pouvez être filmée par des caméras dans des lieux publics. Le principal problème, c’est qu'aucun système de sécurité n'est étanche. Imaginez qu'il existe une base de données contenant votre photo ou votre adresse. Si cette base de données est piratée et qu'une personne malveillante y accède, elle pourrait l'utiliser à des fins d'usurpation d'identité, de vol ou de harcèlement. Par exemple, les harceleurs pourraient effectuer des recherches inversées sur les photos pour recueillir des informations personnelles sur une personne, telle que son adresse. Ils pourraient également utiliser votre image pour se faire passer pour vous en ligne et escroquer d’autres personnes. La police pourrait même penser que vous êtes derrière tout cela.

Les bases de données biométriques sont largement utilisées par les forces de police et les gouvernements, ainsi que par des sites web et des applications populaires qui stockent des données sur nos visages ou d'autres caractéristiques biométriques telles que nos empreintes digitales. Lorsque Clearview AI, une entreprise d'identification faciale notoire qui vend l'accès à sa base de données, aux forces de l'ordre américaines (entre autres institutions), le sénateur américain Edward Markey a déclaré : « Si votre mot de passe est piraté, vous pouvez changer votre mot de passe. Si votre numéro de carte de crédit est piraté, vous pouvez faire opposition. Mais vous ne pouvez pas changer les informations biométriques comme vos caractéristiques faciales. »

2. Utilisation malveillante des données

Les résultats de l’étude montrent que cette technologie, comme toutes les autres, reproduit des préjugés et biais. Elle reconnaît plus facilement les hommes blancs que les femmes ou les autres groupes ethniques. En 2018, 35% des erreurs de reconnaissance faciale se produisent lors de l'identification de femmes de couleur, contre 1% pour les hommes blancs. Ce biais a été réduit au fil du temps, avec l’expérience acquise, mais il est toujours présent et très difficile à éliminer intégralement.

Ces faux positifs peuvent donner lieu à de fausses arrestations. Nijeer Parks, par exemple, a été arrêté en 2019 aux États-Unis pour avoir prétendument commis un vol à l'étalage et tenté de foncer dans un agent avec une voiture. Il avait été mal identifié et arrêté à tort, et ce sur la base d’un système de reconnaissance faciale. L'affaire a fini par être abandonnée mais cela a pris un an. L’homme innocent aura écopé de 10 jours en prison et dépensé 5000$ pour sa défense juridique. De plus, l'utilisation d'informations biométriques dans le but d'une classification selon certains critères pourrait ouvrir la voie au profilage (contrôle au faciès), entraînant des discriminations et des condamnations injustifiées à l'encontre de certains groupes en raison de préjugés conscients ou inconscients du système judiciaire.


Enfin, les régimes de certains pays utilisent cette technologie pour cibler des groupes minoritaires. Ce fut notamment le cas du gouvernement chinois qui a utilisé le logiciel de reconnaissance faciale de Huawei pour identifier les Ouïghours. Selon un rapport de test interne, le système utilisé aurait été capable d'identifier au sein d’une foule l'âge, le sexe et l'origine ethnique de chaque personne, puis de déclencher une alarme signalant à la police tout membre de la communauté ouïgoure. Huawei aurait fourni les serveurs, les caméras et autres outils.

3. Atteinte à la vie privée des citoyen·ne·s

La façon dont la technologie de reconnaissance faciale est utilisée est intrinsèquement invasive et intrusive. La collecte de données est couramment réalisée sans le consentement des individus ou sans qu’ils en aient connaissance : par exemple, vous pouvez être filmé simplement en marchant dans la rue.

Le fait d'être enregistré et surveillé sans son consentement et même à son insu constitue une atteinte manifeste à la vie privée et à la liberté individuelle. Cela nous prive de l'assurance de pouvoir nous déplacer et agir librement sans craindre d'être constamment surveillé et contrôlé. Le fait d'être observé altère notre comportement et affecte également notre bien-être. Un tel regard peut créer un sentiment d'être constamment surveillé par d’autres, ce qui peut entraîner une augmentation du stress et une diminution de la confiance de la population dans le gouvernement. Si les personnes craignent que leurs interactions et conversations quotidiennes soient surveillées, elles peuvent être amenées à éviter de critiquer le gouvernement de peur qu'il leur arrive quelque chose, à elles ou à leurs proches.

Surveiller des personnes parce qu'elles pourraient potentiellement commettre un acte illégal à l'avenir constitue également une violation de la présomption d'innocence. Les forces de l'ordre pourraient traiter une personne différemment sur la base d'une supposée culpabilité future, qui ne peut être prouvée.

4. Atteinte à la liberté d'expression et d'association

La technologie de reconnaissance faciale suscite de vives inquiétudes car elle pourrait bien devenir un outil biométrique de surveillance de masse. La surveillance, en particulier dans le contexte des manifestations, muselle la liberté d'expression et refroidit les activités telles que le militantisme politique. Ces outils sont utilisés pour surveiller la population et, dans les pays où la critique du gouvernement n'est pas tolérée, pour arrêter celles et ceux qui s'opposent à ce dernier. Aux États-Unis, l'ONG Electronic Frontier Foundation a révélé que la police de San Francisco a eu accès en direct à plus de 400 caméras pour espionner les manifestantes lors des manifestations de 2020. Lorsque certaines technologies sont en place, elles peuvent être, et sont souvent, mal utilisées.

De la même façon, l'utilisation de la technologie de reconnaissance faciale restreint le droit à l'anonymat. Les citoyens s'attendent à jouir d’une certaine forme d'anonymat, même en public. Ils ne s'attendent pas à ce que leur visage soit lié à des faits, des actions ou des données les concernant disponibles en ligne. Ne pas être anonyme à tout moment est d'autant plus dangereux que la technologie permet de reconnaître les personnes avec lesquelles on s'associe, et pour quelles raisons.

Dans un article du média VICE, Joshua Franco, conseiller en recherche et directeur adjoint d'Amnesty Tech à Amnesty International, a déclaré : « La peur et l'incertitude générées par la surveillance inhibent l'activité plus que n'importe quelle action de la police, [...] si vous avez l'impression d'être surveillé, vous vous auto-policez, et cela pousse les gens hors de l'espace public. »

5. Un cruel manque de transparence

La transparence concernant la collecte, la gestion et la suppression des données est encore trop faible en pratique dans l'UE ; des sanctions sont souvent prononcées à l'encontre des entreprises ou des institutions pour un respect insuffisant des obligations d'information. Le GDPR exige que les personnes concernées reçoivent des informations concises, transparentes, compréhensibles et facilement accessibles (articles 12, 13, et 14). Par exemple, dans de nombreux cas où la reconnaissance faciale est utilisée, il est impossible d'identifier les personnes ou entités responsables de la collecte et/ou du traitement de données, car vous pouvez ne pas savoir que vous êtes enregistré. Et même s'ils sont identifiés, la quantité de données collectées et la finalité de leur utilisation peuvent rester inconnues. De plus, les personnes concernées ne peuvent pas récupérer, corriger, contrôler ou supprimer ces données si elles ignorent qu'elles existent.

La transparence est essentielle car elle permet de mieux contrôler la manière dont vos données sont traitées. Vous pouvez vous assurer que les entreprises, par exemple, respectent la loi et vos droits individuels en vérifiant que les obligations relatives aux informations sont respectées, ou en vérifiant que vous pouvez accéder à vos données personnelles. Si ce n'est pas le cas, vous pouvez alors déposer une plainte auprès de l'autorité de contrôle. Sans transparence, les entreprises peuvent faire ce que bon leur semble de vos données personnelles et à votre insu. Les citoyens ne savent pas qui possède leurs données biométriques et dans quel but. Les individus peuvent ainsi être soumis à des publicités ciblées, au profilage, et leurs données peuvent également être vendues à une tierce partie. À titre d'exemple, l'entreprise Clearview AI mentionnée ci-dessus a collecté des photos de personnes sur Internet sans leur consentement et les a utilisées pour constituer sa base de données. Celle-ci a ensuite été utilisée par des entreprises privées. Après deux ans de litige, Clearview AI a conclu un accord avec l'Union américaine des libertés civiles afin d'arrêter définitivement la vente de sa base de données biométriques à des entreprises privées et à des particuliers aux États-Unis.


6. Un technologie de surveillance qui pourrait se normaliser

Si la technologie de reconnaissance faciale poursuit son expansion sans limitation, les citoyens pourraient s'y habituer. Cette technologie pourrait devenir la norme. Le risque est que ces mesures restent en place, et qu'elles soient utilisées plus fréquemment au fil du temps. L'espace des droits civils se réduirait alors de plus en plus si la surveillance est institutionnalisée, pour toutes les raisons citées précédemment.

7. De nouvelles avancées pourraient la rendre accessible à tous

En 2011, A. Acquisti et son équipe ont mené plusieurs expériences pour montrer les dangers potentiels de la technologie de reconnaissance faciale dans le futur. Dans le cadre de la première expérience, ils ont utilisé cette technologie pour faire correspondre des photos de profils publics Facebook et des photos de profils de sites de rencontres. Ils ont pu identifier de nombreuses personnes, même lorsqu'elles n'utilisaient que leur prénom ou un pseudonyme sur leur profil de rencontre. Dans une autre expérience, ils ont pris des photos d'étudiantes prises par webcam et les ont comparées à leur profil Facebook. Ils ont été en mesure d'identifier environ un tiers d'entre eux. Cela laisse présager un avenir dans lequel nous pourrions tous être reconnaissables par quiconque possède un smartphone ; n’importe qui pourrait trouver vos informations personnelles et les utiliser pour vous harceler.

Comme le siècle dernier nous l'a montré, l'évolution de la technologie est devenue exponentielle. Pouvoir identifier quelqu'un que vous voyez dans la rue pourrait devenir la norme. En 2021, la police britannique a développé une application sur les téléphones portables permettant d'identifier en temps réel les personnes recherchées grâce à une application de reconnaissance faciale. Sur YouTube, des vidéos ont été réalisées expliquant comment vous pouvez créer votre propre système de reconnaissance faciale et identifier des personnes en public à l'aide de cette technologie.

Quelles sont les solutions disponibles ?

En premier lieu, la collecte, le stockage et le partage des données biométriques devraient être entièrement transparents. Les citoyens devraient avoir la possibilité d'accéder à leurs données et de les contrôler, ainsi que la possibilité de savoir qui traite les données. Les citoyens devraient pouvoir donner un consentement clair, et surtout éclairé, avant que leurs données biométriques ne soient intégrées dans une base de données et avant que quiconque n'y accède. [Newsletter title={Prenez une longueur d'avance sur la surveillance en restant informé. Inscrivez-vous!}}

L'absence de réglementation constitue l'un des principaux problèmes. Bien qu'un nombre croissant de lois soient en cours d'élaboration, le cadre juridique actuel est insuffisant et inégal entre les pays pour permettre un contrôle efficace de cette technologie. De nombreux pays ne disposent d’aucune législation à cet égard, et celles qui sont en vigueur sont encore relativement incomplètes. En Europe, nous disposons d'une réglementation relativement stricte, le RGPD (mais qui souffre d'une application insuffisante). En outre, le RGPD ne s'applique pas aux forces de l'ordre.

Le grand public est de plus en plus conscient des questions liées à la protection des données. Cependant, les problèmes liés aux technologies de reconnaissance faciale sont encore peu connus, car leur collecte et leur utilisation sont « invisibles » au quotidien. Les utilisateurs doivent être plus alertes et éduqués à ce sujet afin d'obtenir des changements sociétaux.

Cette prise de conscience générale devrait être transposée dans les entreprises, les gouvernements ou tout type d'institution utilisant la technologie de reconnaissance faciale. Chacune d'entre elles devrait disposer de professionnels de la sécurité spécialisés dans ce domaine, ainsi que de protocoles de sécurité spécifiques et de formations à destination des employés. Les organisations qui hébergent des dossiers accessibles au public devraient prendre des mesures proactives afin d’éviter les abus, comme la restriction de l'accès aux bases de données sensibles.

Lectures connexes (articles de Liberties) :

La reconnaissance faciale : avantages et inconvénients

La prise de décision algorithmique est-elle vraiment fiable et équitable ?

10 impacts de l'intelligence artificielle sur notre vie quotidienne

Photocredit: Christopher Burns/Unsplash

Donate to liberties

DONATE TO LIBERTIES

Your donation makes our team stronger, our campaigns louder, and our defense of your human & digital rights more impactful.

KEY ACHIEVEMENTS

  • 100+ EU-wide human & digital rights campaigns
  • 500+ rights defenders trained
  • 100,000+ monthly website visitors
  • Quotes in The Guardian, The New York Times, Reuters & more


More milestones


Your support makes a difference.

Your donation will help us become stronger, louder and more sustainable, and it will directly support the core vision of Liberties: the full implementation of human rights in the European Union.

Subscribe to stay in
the loop

Why should I?
  • You will get the latest reports before everyone else!
  • You can follow what we are doing for your right!
  • You will know about our achivements!

Show me a sample!