Sujet encore assez méconnu en 2021, mais assurément incontournable dans le débat médiatique pour les décennies à venir, l’intelligence artificielle et la reconnaissance faciale sont des outils technologiques qui sont en train de révolutionner notre monde occidental pour le meilleur et peut être pour le pire. La Chine, leader mondial dans le domaine, nous expose tout le danger que représentent ces technologies.
Lorsque l’on parle des dérives, voire des dangers de la technologie, les termes « d’intelligence artificielle » et de « reconnaissance faciale » ne sont jamais très loin. Entre inquiétude et interrogation, ces évolutions technologiques renvoient à la culture populaire avec des œuvres dystopiques comme le film « Terminator » (où une intelligence artificielle nommée Skynet prend le contrôle des armes atomiques et détruit l’humanité) ou encore « 1984 » d'Orwell (dans lequel Big Brother surveille la population dans ses moindres gestes).
Intelligence artificielle et reconnaissance faciale, de quoi parle-t-on ?
Pour comprendre le sujet et les thématiques qui en découlent, il convient avant toute chose d’analyser ce que sont factuellement l’intelligence artificielle et la reconnaissance faciale.
Concrètement on peut définir l'intelligence artificielle (IA) comme l'ensemble des théories et techniques mises en œuvre afin de réaliser des machines capables de simuler l'intelligence humaine. Le processus de création d’une IA comprend trois phases : l’apprentissage (acquisition de données), le raisonnement (acquisition de règles afin d’obtenir des conclusions) et enfin l’autocorrection.
La reconnaissance faciale (RF) est « une catégorie de logiciels biométriques » qui utilise des algorithmes de type « deep learning » (des IA utilisant une méthode d’apprentissage automatique, fondée sur l’apprentissage de modèles de données). L’IA va cartographier mathématiquement les différentes caractéristiques du visage d’un être humain pour ensuite stocker ces données sous forme « d'empreinte faciale ».
Le « Big Brother » chinois : sonnette d’alarme pour les sociétés occidentales
L’analyse de la situation en Chine, inquiétante, voire alarmante, parait appropriée pour mieux comprendre les dérives qu’engendrent l’utilisation de ces nouvelles techniques. Ce pays, leader dans l’IA, utilise la reconnaissance faciale, liée à l’intelligence artificielle, pour exercer un contrôle drastique de la population dans une logique de « totalitarisme technologique ».
Ce cybercontrôle a commencé dans les années 2007 – 2010. Le ministère de la sécurité chinois, en collaboration avec l’entreprise canadienne Nortel Networks, a mis en place le « bouclier d’or ». Ce système de télésurveillance en réseau avait pour finalité la centralisation de toutes les ressources électroniques disponibles visant à « défendre l’intérêt du citoyen et améliorer le taux de résolution des affaires criminelles » selon le ministre de l’époque, Jia Chunwang.
Le processus s'est accéléré avec l'arrivée au pouvoir de Xi Jinping qui a déclaré vouloir « contrôler tout l’internet chinois d’une main de fer ». Le président chinois a compris qu’internet pouvait être une arme de contre-pouvoir, comme ce fut le cas avec les révolutions arabes. Il lui fallait donc le contrôler et utiliser le progrès technologique pour assurer la bonne stabilité du parti. Cette prise de contrôle s’est traduite par un investissement massif de la Chine dans l’intelligence artificielle et le Big Data.
Ainsi la Chine, depuis 2014, a lancé un vaste programme de contrôle de sa population avec la mise en place d’un logiciel de reconnaissance faciale. Ce dernier permet de contrôler les citoyens dans la rue, les étudiants dans les lycées, la circulation routière ou encore de payer dans certains magasins.
Le système de reconnaissance faciale chinois s’appuie en partie sur le « bouclier d’or » qui s’articule autour d’un réseau de surveillance numérique dans tout le pays. Celui-ci crée un réseau fermé (intranet) entre les polices locale, régionale et nationale qui permet l’accès et le partage de dossiers d’identification des citoyens chinois. En 2020, on estime à près de 500 millions le nombre de caméras interconnectées installées en Chine. La reconnaissance faciale n’est plus limitée aux caméras connectées. La police utilise désormais des lunettes connectées à une IA pour identifier le citoyen et savoir si ce dernier est recherché.
Le gouvernement chinois utilise désormais les caméras de reconnaissance faciale à d’autres desseins. Il y a d’une part la volonté pour le parti d’obtenir un recensement complet de tous les citoyens à travers les données biométriques obtenues grâce aux nouvelles caméras 3D et d’autre part d’exercer un contrôle plus soutenu sur sa population, comme l’a démontré un exemple de soupçon de fichage de la communauté des Ouïghours.
Ce contrôle par la reconnaissance faciale s’exprime de différentes manières. Les caméras permettent de reconnaître les citoyens, leurs voitures ou encore de contrôler l’accès à certaines écoles et leurs étudiants. La reconnaissance faciale est aujourd’hui un préalable obligatoire pour certains achats, comme les téléphones, ou encore pour payer dans des magasins.
L’IA comme outil de notation des citoyens : la science-fiction… sans la fiction
Depuis 2015, le gouvernement a mis en place dans certaines villes un système de notation des citoyens appelé « crédit social ». Les caméras à reconnaissance faciale identifient le citoyen et ajoutent ou soustraient des points à ce qui est défini en Chine comme la « seconde carte d’identité ».
Par exemple, dans le cas des passages piétons, dans la ville de Shenzhen, le citoyen qui ne respecte pas le feu voit son nom affiché sur un écran géant et perd 20 points sur les 1 000 qui lui ont été crédités. Cette notation est connue des autres citoyens et entreprises comme les banques par exemple.
La perte de points peut influencer l’accès à un poste ou l’obtention d’un prêt. Si la somme des points est trop faible, le citoyen peut alors être placé sur « une liste noire » le gouvernement applique alors des sanctions comme l’interdiction de prendre le train, d’inscrire son enfant dans une grande école, de pouvoir créer une entreprise ou encore avoir une carte de crédit. Cette « cybernote » va dans les prochaines années devenir essentielle dans la vie des citoyens chinois, car elle influencera toutes leurs actions : elle deviendra ainsi une note à part entière pour l’entrée à l'université des étudiants chinois.
Une présence de l’IA et de la reconnaissance faciale à relativiser en France, pour le moment.
Le développement en Europe de l’IA et de la reconnaissance faciale est un sujet de la plus grande importance, car ce système pourrait amener, à l’instar de la Chine, à un contrôle de masse « orwellien » sur toute une population par un gouvernement. Cependant, nous en sommes très loin. Comme l'explique Patrice Navarro, avocat spécialisé dans la protection des données, « Tout le monde se méfie de la reconnaissance faciale depuis longtemps. C'est un sujet qui est regardé de très près par la CNIL, qui continue à suivre les expérimentations. Elle a ainsi refusé l'usage de la reconnaissance faciale dans les lycées ou pour empêcher l'entrée des hooligans dans les stades. La France n'est pas le pays le plus restrictif, mais c'est l'un des pays qui y réfléchit le plus en revanche ».
Il est important de souligner que la reconnaissance faciale en temps réel n’est pas autorisée en France. Seule la reconnaissance faciale a posteriori est autorisée pour la police et la gendarmerie. Celle-ci est réalisée à l’aide du TAJ (traitement d’antécédents judiciaires), comprenant 18 millions de personnes dont 8 millions avec photos. Là encore, le contre-pouvoir institutionnel qu’est la CNIL encadre la procédure : « Il faut qu'il y ait consentement des personnes, et que ce soit pour un motif particulièrement fort et proportionné d'intérêt public ou de sécurité publique ».
Cependant, plusieurs tests ont déjà été effectués sur le territoire français. En 2019, à Nice, lors du carnaval, l’État, avec l’aide d’une intelligence artificielle israélienne, a mis en place un test pour repérer des « prétendus fichés S » au milieu de la foule. À Cannes, la même année, la mairie a mis en place un système d’IA pour contrôler le port du masque par la population. Ce test a aussi été effectué dans la station Châtelet à Paris. Si la fin du confinement a mis fin au test de Cannes, la CNIL a mis un terme à l’essai de la station Châtelet, ce qui montre une autorité et une prise en main de ce sujet par la CNIL.
La situation risque néanmoins de changer avec les JO 2024. En effet, l’enjeu sécuritaire pour ce type d’évènement est colossal. La CNIL n’exclut donc pas de rendre un avis favorable : « C’est envisageable, indique Marie-Laure Denis, présidente de la CNIL. Soit sur la base d'un consentement réel, soit par un texte qui autorise pour une durée limitée et sur un périmètre défini l'utilisation de ces pratiques. Tout cela est anticipable et faisable. Il s'agit encore une fois de concilier la protection des Français et la protection de leurs libertés, ce qui est également important ».
La France est donc, fort heureusement, encore loin du modèle chinois. Il faudra cependant prêter attention à l’évolution du droit concernant l’intelligence artificielle et la reconnaissance faciale dans les années à venir afin d’éviter toute dérive.
Eric Gallay pour le Club Risques AEGE
Pour aller plus loin :