Un état de surveillance permanent ?

Le vif débat suscité par la proposition de loi « Sécurité globale » s’est conclu par son vote, le 20 novembre dernier en première lecture, sans le moindre amendement quant aux restrictions très nettes des libertés qu’il implique. Plus particulièrement, les nouvelles technologies, dont l’usage policier est pourtant bien présent dans le texte, sont passées sous le radar du débat. Pourtant, la promptitude de l’usage sécuritaire de la technologie, mise en regard de l’extrême difficulté à moderniser les administrations et services publics, est symptomatique du malaise démocratique actuel. Elle dénote un malentendu fondamental concernant l’intérêt des nouvelles technologies dont l’État ne semble envisager l’utilité immédiate que pour quadriller l’espace public.

Le choc techno-sécuritaire

En l’espace de quelques années, les usages techno-sécuritaires se sont développés de plus en plus rapidement. La collecte de données personnelles via les réseaux sociaux, les fichages biométriques, la collecte de données personnelles sensibles comme celles concernant la santé, les logiciels de reconnaissance faciale, les drones et autres logiciels de police prédictive rejoignent l’arsenal juridique au service des divers fronts symboliques ouverts ces cinq dernières années par les exécutifs successifs. Peu importe l’ennemi, le réflexe est toujours le même : une réponse disproportionnée qui met en place un vaste système de techno-surveillance.

À partir de 2018, au nom de la sécurité, les expérimentations de reconnaissance faciale se sont multipliées partout en France avant que la Commission nationale de l’informatique et des libertés (CNIL), sollicitée par diverses associations de défense des libertés numériques, n’en interdise les plus controversées, dont celles réalisées dans des lycées de la région Provence-Alpes-Côte d’Azur. La loi « sécurité globale » en est le dernier exemple en date. Elle prévoit l’usage de drones – pudiquement nommés « dispositifs aéroportés de captation d’images » – dans l’espace public et de caméras mobiles qui permettront aux forces de l’ordre d’exploiter en temps réel les images captées. Saisie, la Défenseure des droits a alerté sur les « risques considérables » d’atteinte à la liberté d’informer et au droit à la vie privée, associés à l’installation d’une surveillance particulièrement intrusive, dont l’objectif est de collecter massivement et indistinctement les données à caractère personnel de la population.

L’enjeu démocratique est majeur : nous sommes en train d’industrialiser un état de surveillance permanent. Cette vision biaisée des technologies transforme en profondeur nos rapports sociaux ainsi que les équilibres des droits qui définissent la vie privée, l’existence collective et les libertés. Elle préfigure une idéologie autoritariste qui stipule que la sécurité est plus importante que la liberté, et le contrôle plus important que la vie privée. L’usage sécuritaire des technologies est un projet idéologique qui concourt à façonner de nouvelles normes intériorisées, encastrées dans ce que Deleuze prophétisait déjà comme la « société de contrôle » – une société au sein de laquelle les mécanismes de coercition sont incorporés1.

En quadrillant l’espace public, chaque individu devient par défaut potentiellement un coupable. Sous prétexte de l’urgence, nous sommes en train d’organiser une inversion générale de la charge de la preuve qui présage d’un système juridique basé sur la présomption de culpabilité. Jusqu’alors, c’était à l’accusation de faire la preuve de la culpabilité du suspect. Sous l’œil de la caméra et face aux algorithmes de reconnaissance faciale, c’est à chacun que reviendra désormais, à tout instant et en tout lieu, la charge de prouver son innocence en offrant son visage à l’identification algorithmique, sans qu’aucun garde-fou, recours en cas d’erreur ou contre-pouvoir véritablement opérationnel ne soit explicité ou même prévu.

Un contrat social défiguré

Les raisons de cette inflation sécuritaire sont historiquement nombreuses, mais l’obsession du tout-sécuritaire pointe en filigrane le désengagement de l’État de ses prérogatives initiales d’État social pour se replier vers des fonctions purement régaliennes. L’État a en réalité perdu la confiance de son peuple et surtout la confiance en lui-même, pour paraphraser le député jauressien Francis de Pressensé. La rhétorique de la peur, de la menace, des antagonismes et de la guerre contre un ennemi toujours invisible ne peut être lue que comme une ultime tentative d’autolégitimation – légitimant en conséquence la collecte massive de données et les dispositifs de techno-surveillance, et transfigurant au passage le contrat social, dont les termes initiaux « liberté contre sécurité » glissent sans grande résistance vers la formulation « liberté contre sécurité contre vie privée ».

Pour répondre à la double insécurité consécutive à un contrat social devenu antidémocratique et à l’obsession de ne pouvoir tout contrôler, nous risquons d’arriver à un point de non-retour : la crainte qu’il n’y ait jamais assez de données, alimentant une paranoïa étatique. Le réflexe de quadriller le territoire de technologies de « flicage », de ficher la population entière (création du méga-fichier des titres électroniques sécurisés [TES] en 2018, projet en cours du « Health Data Hub ») au nom de la sécurité plébiscitée – artificiellement ou non – par les opinions publiques est devenu l’horizon ultime des démocraties ouest-européennes.

Un enjeu de souveraineté

Sous prétexte de protéger la société, les choix qui sont faits par les exécutifs successifs en réalité l’exposent à des menaces. Les collaborations diverses entre les services d’intelligence, les services d’ordre, l’armée et les fournisseurs de services technologiques installent une toile d’acteurs privés et publics qui nourrissent et enregistrent nos existences numériques. La sécurité est un marché qui représente une manne financière importante. D’ici 2022, le marché mondial de la reconnaissance faciale devrait générer 9, 6 milliards de dollars de revenus, porté par l’augmentation des activités de lutte contre la criminalité et le terrorisme. En France, les partenariats public-privé se multiplient, avec des géants industriels comme Engie Ineo, Thales, Palantir, Cisco, IBM, Microsoft. En sur-traitant l’automatisation de certaines fonctions régaliennes critiques, en captant massivement des données personnelles ou stratégiques, certaines entreprises privées sont en passe de morceler la souveraineté étatique.

La souveraineté du citoyen à disposer de lui-même ou, a minima, de prendre des décisions libres et éclairées est, elle aussi, sérieusement mise à mal. L’acceptation sociale de ces technologies pose en effet un problème éthique. Dans la plupart des cas constatés, les usages techno-sécuritaires sont précédés par des usages individuels et commerciaux. La reconnaissance faciale a d’abord été incorporée dans des objets de domotique domestique intelligente, sur les réseaux sociaux ou pour déverrouiller des smartphones. Ces expériences fluides, en apparence inoffensives, ouvrent la porte à une acceptabilité forte, en créant l’accoutumance à des technologies qui servent à la fois le confort personnel et le sécuritaire. La banalisation de ces technologies rend invisibles des risques politiques bien réels.

Du bon usage des technologies

Les nouvelles technologies, utilisées à bon escient, constituent pourtant un formidable outil de politique publique. Si elles ne sont associées à aucun dispositif de fichage et de répression, si elles étudient les grandes masses pour mener plus loin notre compréhension du monde et si elles sont mises au service du progrès de la connaissance, alors elles sont bienvenues.

L’open data et l’intelligence artificielle ont d’ores et déjà démontré leur utilité. Pendant la crise sanitaire, ces outils ont permis de modéliser les mouvements de population afin de comprendre et d’anticiper les effets de propagation du virus. En disposant des bonnes données en quantité suffisante, l’intelligence artificielle est un instrument efficace pour identifier les signaux faibles en amont et modéliser des éléments importants de politiques publiques, comme les plans d’urbanisme, la gestion « intelligente » des services de la ville, la lutte contre le réchauffement climatique, la politique industrielle, etc.

Les nouvelles technologies et les plateformes numériques doivent aider à bâtir des services publics modernes autour d’un contrat social renouvelé, en mettant en son cœur la transparence algorithmique, la loyauté et le privacy by design. Plutôt que des stratégies sécuritaires politiciennes qui décrédibilisent l’action publique, les nouvelles technologies sont indispensables à la construction de biens communs.

Penser une nouvelle éthique d’État

Ce ne sont pourtant pas les choix qui sont faits. Dans la continuité de la logique qui fut invoquée après les attentats de 2015 et de la loi sur le renseignement qui s’ensuivit, la fulgurance de la crise sanitaire et sécuritaire actuelle vient de nouveau heurter notre État de droit et nos libertés fondamentales. Il devient urgent de penser une nouvelle éthique d’État.

Le discours sécuritaire ambiant n’est par nature non pas fort mais autoritaire. Il nous revient de rebâtir un véritable État fort, c’est-à-dire éthique, autour de ce que Ricœur appelait des « institutions justes »2. Notre enjeu démocratique consiste à repositionner le projet de liberté politique au centre du fonctionnement institutionnel. Cela passe par un usage utile de la loi qui protège et renforce les contre-pouvoirs, plutôt que de les affaiblir ou de les criminaliser comme c’est le cas actuellement. L’éthique d’État consiste à penser les institutions comme lieux de pouvoir mais aussi de contre-pouvoir, et d’en radicaliser les garde-fous.

D’un point de vue institutionnel, il s’agit de renforcer l’indépendance et les prérogatives des instances de contrôle existantes (CNIL, Conseil d’État, Conseil constitutionnel). En complément, nous pourrions injecter une dose de contrôle citoyen direct en créant par exemple un shadow parliament, un parlement citoyen comme lieu hybride de contrôle, d’accountability politique, de débats et de réflexion collective mais aussi d’innovation sociale et technologique – un lieu où le personnel politique écouterait leurs concitoyens, construirait les solutions avec eux et leur rendrait des comptes le cas échéant.

L’État éthique doit compléter ses institutions de contrôle par une forme de démocratie latérale, hors les murs, en renforçant les protections des contre-pouvoirs construits par la société civile (ONG, associations, lanceurs d’alerte). Il est heureux de constater la vivacité des débats en France, que l’on avait cru un temps éteints. La société n’a jamais été aussi politisée, consciente des enjeux contemporains. Un État éthique doit précisément accompagner cette conscience politique et entrer en convergence avec les expertises citoyennes critiques.

Plutôt que dans l’élaboration de lois anxiogènes, voilà où nous attendons réellement la valeur ajoutée d’un État de droit à la fois démocratique et technologiquement innovant. Retrouver une éthique d’État robuste constitue un prérequis indispensable à la confiance du peuple. Sans quoi, nous risquons d’aller vers des lendemains particulièrement sombres.

• 1. Gilles Deleuze, « Post-scriptum sur les sociétés de contrôle » [1990], Pourparlers (1972-1990), Paris, Minuit, 1990.
• 2. Paul Ricœur, Soi-même comme un autre, Paris, Seuil, 1990. Voir aussi le dossier « Paul Ricœur, penseur des institutions justes », Esprit, novembre 2017.