La reconnaissance faciale en débat au Congrès

, Partager

Repassée sous contrôle démocrate aux élections de mi-mandat de novembre 2018, la Chambre des représentants des Etats-Unis s’est récemment emparée du sujet de la reconnaissance faciale – une technologie faisant l’objet de débats animés depuis que la ville de San Francisco a interdit son utilisation par les forces de l’ordre et que plusieurs chercheurs et associations ont mis en évidence les biais de tels outils. La Commission du contrôle et de la réforme de la Chambre (House Committee on Oversight and Reform) a ainsi conduit deux auditions, les 22 mai et 4 juin 2019 : la première portait sur l’impact des technologies de reconnaissance faciale pour les droits et libertés civiles, et la deuxième sur la transparence de l’utilisation par le gouvernement de la reconnaissance faciale.

A l’heure actuelle, il n’existe aucune réglementation fédérale encadrant l’utilisation des technologies de reconnaissance faciale par le secteur privé ou public. Si l’organisme d’audit du Congrès, le Government Accountability Office (GAO), avait publié un rapport en mai 2016 contenant plusieurs recommandations adressées au FBI afin d’améliorer la sécurité, la transparence et l’exactitude de sa base de données biométriques, ces annonces n’avaient pas été suivies d’effets. Un projet de loi, le Commercial Facial Recognition Privacy Act, vient toutefois d’être déposé au Sénat américain sous le parrainage bipartisan des sénateurs Brian Schatz (D-HI) et Roy Blunt (R-MO). Il s’agit de la première grande initiative de réglementation fédérale de la technologie biométrique. La loi exigerait que toute technologie mise sur le marché fasse l’objet de tests par des tiers pour s’assurer qu’elle respecte les normes d’exactitude, d’équité, de sécurité et de protection des données établies au préalable par la Federal Trade Commission (FTC) et le National Institute of Standards and Technology (NIST). Elle imposerait aux entreprises d’informer les individus de leur utilisation de la biométrie faciale et d’obtenir leur consentement. L’utilisation de la reconnaissance faciale par le gouvernement n’est toutefois pas concernée par cette loi.

Les taux de précision des technologies de reconnaissance faciale se sont accrus de façon significative ces deux dernières années, mais les résultats restent inégaux en fonction du genre et de l’origine ethnique des individus étudiés et de la qualité des images récoltées. Le rapport du NIST d’avril 2019 sur les tests 1:1 (vérifier l’identité d’une personne en la comparant à une photo) montre que les taux de réussite sur des photos d’individus féminins à la peau noire étaient constamment inférieurs à ceux des sujets blancs et masculins. En janvier 2019, Joy Buolamwini (MIT), fondatrice de l’Algorithmic Justice League, et Inioluwa Deborah Raji (Université de Toronto) ont démontré que l’outil de reconnaissance faciale d’Amazon, Rekognition, affichait un taux d’erreur pour les femmes noires supérieur de 31 points à celui des hommes blancs. Rekognition a également échoué à classer comme « femme » des personnalités afro-américaines célèbres aux Etats-Unis. Enfin, l’American Civil Liberties Union (ACLU) de Californie du Nord a testé Rekognition en comparant les portraits des représentants au Congrès américain avec une base de données de photos d’identité judiciaires. L’outil a produit 28 « faux positifs », assimilant ainsi incorrectement 28 représentants à des individus arrêtés pour crime. Les faux positifs touchaient proportionnellement plus de représentants à la peau foncée.

En dépit de ces biais et d’une opposition forte de la part de la société civile, Amazon continue de vendre son logiciel Rekognition aux forces de l’ordre américaines. Selon le projet The Perpetual Line-Up du Centre pour la vie privée et la technologie de l’Université de Georgetown, en 2016, au moins un service de police sur quatre pouvait effectuer des recherches de reconnaissance faciale. La reconnaissance faciale est aussi utilisée pour les contrôles aux frontières des passagers internationaux et a déjà été déployée pour les citoyens américains dans trois programmes pilotes menés par la Transport Security Administration (TSA). Le calendrier de déploiement a été accéléré sur décret du Président en mars 2017. Les technologies de reconnaissance faciale sont également de plus en plus utilisées par les municipalités et les lieux accueillant du public (casinos, stades).

Lors de l’audition du 22 mai, la représentante Alexandria Ocasio-Cortez a bien résumé les enjeux : « When tech companies develop algorithms that automate the assumptions of people from one demo, they start to automate subconscious bias. When those flawed algorithms get sold to law enforcement, it can be disastrous for anyone that doesn’t look like most Silicon Valley engineers. »

Pour en savoir plus :


Rédactrice :
- Clémentine Désigaud, Attachée adjointe pour la Science et la Technologie, Washington DC, deputy-ntics@ambascience-usa.org