Les véritables enjeux d'une IA démocratique

« La notion de gouvernement se simplifie : le nombre seul fait la loi et le droit. Toute la politique se réduit à une question d’arithmétique. »
Alexis de Tocqueville, Considérations sur la Révolution1 

L’intelligence artificielle, bien plus qu’une innovation technique, s’impose aujourd’hui comme un projet politique total. Son irruption sur la scène publique, catalysée par l’émergence de ChatGPT en 2023, a fait surgir une multitude de récits : utopies de croissance, fantasmes de toute-puissance, hégémonie culturelle et économique de la Silicon Valley, concurrences géopolitiques, mais aussi inquiétudes profondes sur la transformation de nos sociétés. Puissance de calcul, capacités, compétences, consommation, investissements, bénéfices, emplois… la discussion sur l’IA est tout entière empreinte de technique. C’est oublier que l’IA est aussi – et peut-être surtout – un projet politique et social qui, depuis les années 1950 et l’invention de ce terme, n’a eu de cesse de se faire de la place dans le monde.

Ce qui est en jeu n’est pas simplement le développement d’outils plus performants, mais la manière même dont nous produisons du pouvoir et de la normativité. En réduisant le réel à des paramètres exploitables, en conférant aux algorithmes un rôle central dans la gestion des comportements, l’IA ne se contente pas d’assister l’action publique, elle la redéfinit en profondeur. Aujourd’hui, la promesse d’une IA au service de la délibération démocratique se fait de plus en plus pressante dans le monde de la recherche. Une expérimentation menée par les équipes de Google DeepMind semble même démontrer les bienfaits d’une « Habermas machine2 » dans la pratique politique de la délibération. L’IA pourrait donc prendre en charge jusqu’à la démocratie, selon une promesse d’empowerment des individus et des sociétés qui prolonge d’une certaine manière l’utopie politique de décentralisation, d’émancipation, de décloisonnement des savoirs, voire d’une forme d’humanisme technique des débuts du numérique. Cette tension entre potentiel d’émancipation et risque de domination technique traverse tout le projet politique de l’IA et annonce ses dilemmes contemporains. Désormais, les enjeux démocratiques de l’IA ne peuvent se résumer à une régulation a posteriori, ils impliquent l’imagination d’une voie alternative, d’une IA imprégnée de démocratie.

L’IA, un projet politique et social

Comprendre l’IA aujourd’hui, c’est donc revenir sur ce qu’elle est fondamentalement : un projet politique et social, avant d’être un produit technologique. L’IA que nous connaissons aujourd’hui est un objet statistique, prédictif, inscrit dans un processus de réduction du réel à quelques paramètres, ce qui masque les choix politiques et idéologiques – humains – dans leur conception. Cette vision de la neutralité de la technologie sert alors en retour le projet politique d’une vision managériale et algorithmique de la décision publique, qui s’ancre dans la théorie foucaldienne du pouvoir considéré comme un ensemble de dispositifs, mais surtout dans un mythe de la rationalité. L’essor de l’IA s’inscrit ainsi dans la longue histoire du rêve politique et technique d’ordonnancement total du monde, rêve visant à se dispenser de l’individu pour atteindre une société parfaitement réglée, optimisée, gouvernée non plus par la loi, mais par la donnée, les algorithmes et les modèles prédictifs. Pareil mouvement prolonge la logique d’une gouvernance par les nombres, qui produit un renversement fondamental : la normativité n’est plus pensée en termes de législation mais en termes de programmation et d’optimisation. Désormais, l’avènement de la « gouvernementalité algorithmique3 » rendrait définitivement possible le règne de la raison grâce à des systèmes techniques supposés neutres et infaillibles. Un exemple de cette logique est le recours croissant aux algorithmes dans l’attribution des aides sociales, comme dans le cas du logiciel utilisé par la CAF pour détecter les fraudes4: fondé sur des scores de risque générés à partir de données croisées (revenus, situation familiale, logement, etc.), ce système oriente les contrôles vers certains profils statistiquement jugés « à risque », souvent les plus précaires. Cette automatisation partielle de la décision transforme la logique d’un service public fondé sur des droits sociaux en un mécanisme de tri et de suspicion ; un tel glissement s’inscrivant dans un imaginaire et une utopie cybernétique où l’harmonie sociale résulte non pas de délibérations humaines, mais de calculs automatisés. La cybernétique suppose, en effet, une compréhension mécaniste de la nature et des systèmes vivants qui la composent ; elle impose alors ce qu’Alain Supiot appelle « une vision réticulaire du monde naturel et humain » et elle « tend à effacer la différence entre l’homme, l’animal et la machine5 ».

Ce faisant, l’IA est à la fois la matérialisation et la victoire du projet cybernétique qui la précède et la porte. Selon ses pères fondateurs, Norbert Wiener en tête, toute information est une donnée qui provoque un résultat. Humains comme machines sont dès lors des systèmes de traitement de l’information6. Ronan Le Roux, dans sa préface de l'édition française de Cybernétique et société, note qu'une interprétation simpliste a présenté Wiener comme un fervent défenseur des technologies de l'information et de la communication utilisées pour le contrôle social. Cependant, Wiener avait tout de même mis en garde contre les dérives autoritaires que ces technologies pouvaient provoquer et plaidait malgré tout pour « un usage humain des êtres humains7 ». En créant des ponts entre les sciences cognitives, sociales, la physique, la biologie et l’informatique, Wiener voyait dans l’échange et l’archivage de l’information des vecteurs de paix et de progrès.

Cette dynamique s’enracine dans la rationalité politique moderne. Comme le rappelle Félix Tréguer8, la raison d’État constitue dès le XVIIe siècle le fondement d’une nouvelle forme de rationalité, qui justifie l’affirmation de la puissance souveraine. Elle agit comme le principe justificateur de la violence du souverain, désormais prolongé par la puissance calculatoire des machines. L’IA serait ainsi le dernier avatar d’un projet politique de maîtrise totale, où la société ne serait plus gouvernée par des lois discutées collectivement, mais par des systèmes automatiques d’optimisation, indifférents aux singularités humaines. Dès lors, le « légalisme informatique9 » qui émerge de la gouvernance algorithmique sape les fondements normatifs des démocraties libérales en privilégiant l'efficacité et la prévisibilité au détriment de la contestation, de la délibération, de la réflexivité. L'État « datafié », bien qu'il soit souvent présenté en termes d'optimisation et de bienveillance, risque de réaliser les conditions d'un despotisme doux par le biais d'un contrôle automatisé, d'une diminution de l’autonomie et d'une érosion de la délibération démocratique.

L’histoire politique de l’IA est ainsi l’histoire de la récupération, par le pouvoir économique et politique, des théories du contrat social, et de la défense, par ce même pouvoir, d’une part de la rationalité et d’autre part de la cybernétique. Il n’est pas anodin que pareille volonté de rationaliser la gouvernance par le calcul et la prédiction ait trouvé très tôt un écho dans le monde privé de la révolution industrielle. La recherche d’efficacité maximale est d’abord expérimentée sur les corps au travail. Simone Weil l’avait perçu dans ses écrits sur l’organisation du travail à l’usine : les gestes des ouvriers y sont réduits à des mouvements mécaniques, cadencés, « comme le tic-tac d’une horloge ». L’organisation scientifique du travail (OST), ou taylorisme, vise à standardiser et optimiser chaque geste en fonction de critères d’efficacité et de rendement. À cette logique mécaniste vient s’ajouter une référence biologique, tout aussi normative : celle du darwinisme social, selon lequel seuls les plus aptes survivent dans un environnement concurrentiel. Cette idéologie perdure aujourd’hui sous la forme de l’ultralibéralisme, où la compétition de tous contre tous devient le mode par défaut des relations sociales et économiques. À ces représentations de l’humain comme rouage mécanique ou organisme en lutte s’ajoute aujourd’hui la figure nouvelle de l’homme programmable, issue de la cybernétique et prolongée par la révolution numérique.

Gouverner sans le politique

L’IA se présente comme un projet de gouvernance sans le politique, c’est-à-dire sans débat, sans conflit, sans subjectivité. L’individu n’est plus considéré comme un citoyen, un sujet de droits ou un acteur politique, mais comme un « fournisseur de data10 » (Stiegler) et un « automate obéissant11 » (Ellul). Son comportement devient une matière première exploitable, prédictible, modélisable à des fins de gestion et d’optimisation. Cette logique produit une réduction de l’humain à un ensemble de compétences ou de fonctions qui peuvent être copiées, améliorées, dépassées. C’est le cœur du projet de l’IA contemporaine. Les tests visant à comparer les performances de l’IA à celles de l’humain dans des domaines aussi variés que la compréhension de texte, la rédaction, la résolution de problèmes ou même l’empathie, participent d’un discours de légitimation de l’automatisation généralisée. Ces tests, calibrés pour favoriser les IA, dessinent en creux un monde où l’automatisation des capacités humaines mène à l’automatisation de l’humain lui-même. Nous n’aurions alors plus besoin de vote dans l’isoloir, de débat faussé par des mensonges, des approximations, des manipulations, des entreprises démagogiques – les modèles de la société nous donneraient la vérité. Jusqu’à créer une démocratie sans citoyens, où il s’agirait de rationaliser la décision publique, de réduire l’incertitude et les lenteurs du politique. La délibération démocratique se voit ainsi remplacée par une logique gestionnaire, où la politique devient un management de l’État, centré sur l’efficacité.

Mais cette rationalisation a un coût démocratique majeur. Car, si l’individu semble être de plus en plus individualisé par les technologies (ciblage publicitaire, personnalisation des contenus), il est aussi « désindividué12 » : réduit à un ensemble de traces numériques, à des profils statistiques, à des comportements passés utilisés pour modéliser ses comportements futurs. Les individus deviennent alors des produits de calcul, expropriés de leur volonté, soumis à une automatisation de leurs désirs et de leurs choix par des architectures techniques invisibles et insidieuses. Les plateformes et les systèmes d’IA court-circuitent les institutions représentatives, réduisent la citoyenneté à un statut d’utilisateur, et brouillent les conditions mêmes de la souveraineté démocratique. Ce glissement vers une gouvernance algorithmique s’accompagne d’une réinvention de l’architecture du pouvoir : avec l’émergence du « capitalisme de surveillance13 », concept popularisé par Shoshana Zuboff, nous assistons à une privatisation du contrat social en même temps qu’à une réduction de son champ. L’État n’est plus le seul garant de l’ordre social : ce sont désormais les grandes plateformes technologiques qui imposent des normes, conditionnent les comportements et orientent les désirs.

La promesse initiale d’un internet décentralisé, espace de liberté, d’échange horizontal et d’émancipation, a laissé place à une centralisation extrême du pouvoir entre les mains d’un petit nombre d’acteurs – les GAFAM ou Big Tech – qui captent, traitent et exploitent les données de milliards d’utilisateurs. Les réseaux sociaux, devenus des arènes électorales, contribuent à l’automatisation de la représentation politique. Les campagnes se construisent autour de stratégies de microciblage, appuyées par des algorithmes qui maximisent l’engagement, souvent au détriment de la vérité et de l’utopie du débat raisonné. Ainsi, le capitalisme de surveillance ne se contente pas d’exploiter nos comportements : il redéfinit les conditions mêmes de l’exercice démocratique et remplace le contrat social.

L’IA peut-elle être démocratique ?

Face aux inquiétudes que suscitent les technologies numériques et l’IA, l’éthique est souvent convoquée comme réponse. Mais elle fonctionne aujourd’hui a posteriori, comme un dispositif de rattrapage, intervenant une fois que les technologies sont déjà pensées, développées et déployées. Elle ne remet pas en question les choix initiaux, mais tente d’en adoucir les effets au prix, parfois, d’une légitimation implicite du système existant, dont il s’agit de préparer l’accoutumance et d’encadrer les usages. Elle peine donc à interroger les finalités structurelles des innovations et se perd dans une multitude de micro-sujets qui occultent les enjeux fondamentaux de pouvoir, de modèle de société, de contrat social. Pour Mark Hunyadi, au lieu d’interroger le cadre général dans lequel les choix technologiques s’inscrivent, l’éthique actuelle se contente de gérer des « thèmes éthiques » isolés, sans vision politique globale14. Elle devient un outil d’acceptabilité, au service d’un progrès considéré comme inéluctable.

Plutôt qu’une éthique de compensation, il faut alors penser une véritable politisation des choix technologiques. Cela suppose de replacer la technique au cœur du contrat social et d’interroger les finalités politiques des innovations, les valeurs qu’elles cristallisent, les rapports de pouvoir qu’elles redéfinissent. Il ne suffit plus de déclarer que l’on souhaite « mettre l’humain au centre » – slogan devenu creux à force d’usage. Il faut rendre visibles les conflits d’intérêts, les antagonismes de valeurs, et ouvrir un débat démocratique sur les finalités : Pourquoi cette innovation ? Pour qui ? Au service de quoi ? Quelle vision du monde sous-tend un projet technologique donné ? Cette démarche implique une rupture avec le récit du progrès technologique automatique et linéaire, un récit qui présente chaque nouvelle avancée comme une nécessité historique. Au contraire, chaque innovation est un choix humain, et doit être débattue comme tel, dans des arènes démocratiques. L’IA n’a pas vocation à être ce que les grandes entreprises technologiques nous présentent (imiter les capacités humaines, les remplacer…). Comme le dit Anne Alombert, il ne s’agit pas de lutter contre, mais de lutter avec l’IA contre les processus de prolétarisation causés par la délégation toujours plus importante de tâches aux machines15. 

Si l’IA menace certains fondements de la démocratie, elle pourrait aussi, à condition de la soumettre à un cadrage politique clair, devenir un outil au service du débat public. Il est cependant fondamental de distinguer deux logiques : une IA pour la démocratie, qui renforce les capacités d’agir collectif ; et une IA à la place de la démocratie, qui vise à automatiser les choix en réduisant l’incertitude du débat. La première valorise le conflit démocratique comme ressource ; la seconde cherche à le lisser, à le contourner, à le rendre « gérable ».

Depuis quelques années, en effet, fleurissent les initiatives politiques faisant des technologies numériques un recours pour panser les maux de la démocratie. Dans le sillon de « hackers citoyens » et de la figure d’Audrey Tang, devenue ministre du numérique en 2016 suite à la « révolution des Tournesols » de 2014, lors de laquelle la jeunesse s’est soulevée pour contester le pouvoir, Taïwan a transformé son mode de fonctionnement démocratique jusqu’à y intégrer le logiciel de participation Pol.is16. A ainsi été créé vTaïwan pour « virtual Taïwan », plateforme de délibération citoyenne et de co-élaboration des lois. D’une manière similaire, les « indignés » victorieux à la mairie de Barcelone derrière Ada Colau ont lancé en 2016 la plateforme Decidim.Barcelona – fondée sur un autre logiciel libre de participation en ligne, Decidim – destinée à coconstruire le plan d’action municipal pour la période 2016-2019. Dans la lignée de ces dispositifs, l’IA peut être mobilisée non pas pour remplacer la délibération, mais pour structurer le débat, faire émerger les points d’accord et les désaccords, et favoriser une réflexivité collective.

De l’autre côté, des initiatives « technosolutionnistes » promettent monts et merveilles. La « machine Habermas » est un système d’IA développé par Google DeepMind qui, inspiré par la théorie de l'agir communicationnel de Jürgen Habermas, vise à faciliter les délibérations démocratiques en aidant des groupes à trouver un consensus sur des sujets complexes et clivants. Ce dispositif se présente comme une alternative aux débats traditionnels, ouvrant alors une dialectique technique particulière : d’un côté les solutions numériques peuvent permettre « d’améliorer » la démocratie, de l’autre elles témoignent du rêve prométhéen de contrôle parfait du monde humain par la technique. L’architecture technologique algorithmique pourrait se substituer à l’architecture institutionnelle démocratique, voire la soigner de ses maux. Derrière des intentions louables, ce projet peut donc être considéré comme antidémocratique : atténuer la conflictualité, lisser les opinions, automatiser la production du consensus. Le danger de telles solutions est de vider la démocratie de sa substance en évacuant progressivement les citoyens du débat public.

La démocratie n’est pas un frein, elle est la solution. Il ne s'agit pas de tenter de moduler la démocratie grâce à la technique, mais assurément d'améliorer la technique par le biais de la démocratie. Ce geste, ce retournement logique, au-delà d'être simplement une notion abstraite, nécessite une transformation des institutions et des méthodes. Cette réorientation démocratique ne viendra pas des Big Tech. Il ne faut pas attendre des géants du numérique qu’ils changent spontanément. Des modèles alternatifs sont possibles et existent. L’exemple de Taïwan est à ce titre éclairant : dans un contexte de fragilité géopolitique, la démocratie a été renforcée précisément par sa capacité à absorber la technologie dans un projet collectif de gouvernance ouverte. Plutôt que sur une décentralisation complète des modes de gouvernance, l’architecture nouvelle mise sur une institutionnalisation de ces pratiques technologiques par le biais d’une victoire politique et d’initiatives d’élus. Face aux menaces de totalitarisme technologique et d’hégémonie technique et idéologique des Big Tech, l’Etat comme institution doit être ce Léviathan qui renforce l’agir démocratique des citoyens.

Plutôt que de subir la révolution numérique, l’IA peut aussi être transformée en un levier de réinvention démocratique. Parce qu’elle engage des questions profondément morales, sociales et politiques, elle ne peut être pensée en dehors d’un contrat social démocratique, mais doit au contraire y être pleinement intégrée. Pour sortir de la gestion algorithmique des populations, il ne s’agit pas d’« armer » la démocratie au risque d’en perdre les valeurs, mais d’investir collectivement dans la conception de technologies collaboratives, interopérables, de redonner sens à la délibération, et de bâtir un contrat numérique capable d’articuler innovation et souveraineté populaire.

• 1. Alexis de Tocqueville, Considérations sur la Révolution, I, 5, in Œuvres, t. 3, Paris, Gallimard, « Bibliothèque de la Pléiade », 2004, p. 492.
• 2. Voir Michael Henry Tessler et al., « AI can help humans find common ground in democratic deliberation », Science, vol. 386, n. 6719, 2024.
• 3. Voir Antoinette Rouvroy et Thomas Berns, « Gouvernementalité algorithmique et perspectives d’émancipation. Le disparate comme condition d’individuation par la relation ? », Réseaux, n. 177, 2013.
• 4. Voir par exemple « Notation des allocataires : l’indécence des pratiques de la CAF désormais indéniable », La Quadrature du Net, https://www.laquadrature.net/2023/11/27/notation-des-allocataires-lindecence-des-pratiques-de-la-caf-desormais-indeniable/
• 5. Alain Supiot, La Gouvernance par les nombres. Cours au Collège de France (2012-2014), Paris, Fayard, coll. «  Poids et mesures du monde  », 2015, p. 409.
• 6. Voir Daniel Andler, Intelligence artificielle, intelligence humaine : la double énigme, Gallimard, 2023.
• 7. Voir Ronan Le Roux, « Cybernétique et société au XXIe siècle », Préface à : Norbert Wiener, Cybernétique et société, trad. Pierre-Yves Mistoulon, Paris, Points, 2014.
• 8. Felix Tréguer, Contre-histoire d’Internet. Du XVe siècle à nos jours, Editions Agone, 2023, p. 33.
• 9. Voir Mireille Hildebrandt, « A philosophy of technology for computational “law” », in The Philosophical Foundations of Information Technology Law, éd. David Mangan, Gijs van Dijck, Angela Davis, Oxford University Press, 2024.
• 10. Voir Bernard Stiegler, Dans la disruption. Comment ne pas devenir fou ?, Paris, Les Liens qui libèrent, 2016.
• 11. Voir Patrick Chastenet, Introduction à Jacques Ellul, Paris, La Découverte, 2019, coll. « Repères ».
• 12. Voir B. Stiegler, Dans la disruption, op. cit.
• 13. Voir Shoshana Zuboff, L’Âge du Capitalisme de surveillance, trad. Bee Formentelli et Anne-Sylvie Homassel, Zulma.
• 14. Voir Mark Hunyadi, La Tyrannie des modes de vie, Le Bord de l’eau, 2015.
• 15. Voir Anne Alombert, « Courts-circuits algorithmiques », Esprit, avril 2025.
• 16. Voir Émilie Frenkiel, « Hacker la démocratie taïwanaise : Audrey Tang et la réinvention de la politique ». Participations, 2017/1.