La bataille de l’esprit

Pour combattre efficacement un ennemi, il vaut mieux connaître ses buts de guerre. Des tech-titans d’aujourd’hui1, on ne connaît pourtant que l’arme privilégiée : le numérique augmenté de l’intelligence artificielle. En revanche, leurs buts de guerre sont moins clairs : s’agit-il seulement pour eux d’accumuler sans frein une nouvelle forme de richesse capitaliste ? De contrôler l’ensemble des pratiques et comportements humains ? De s’assurer un monopole sur les données, pour mettre les États eux-mêmes à leur botte ? De saper le système démocratique ? De vassaliser l’humanité par des technologies dont ils détiendraient tous les paramètres ou d’hybrider progressivement les humains à leurs machines ? Il y a sans doute un peu de tout cela dans cet écheveau difficile à démêler. Peut-être même les buts envisagés n’émergent-ils à chaque fois que de manière relativement contingente, au gré des innovations technologiques, chacune ouvrant à des possibilités jusque-là sous-estimées ou insoupçonnées. De là résulte une certaine incertitude quant aux véritables buts de guerre, dont le seul dénominateur commun semble être l’hubris totalisante qui les anime, alimentée au ventre mou des big data.

Mais quels que soient les buts poursuivis, une chose est néanmoins sûre : leur réalisation devra nécessairement passer par un seul et même champ de bataille, celui de l’esprit humain. Voilà le fait majeur qui doit guider toutes les analyses critiques du numérique. C’est l’esprit qu’il s’agit de conquérir, non pas tant pour l’assujettir ou le réprimer, mais pour en assurer la docile collaboration. Empire plus que dictature, le pouvoir des tech-titans ne vise pas tant l’asservissement forcé que la colonisation consentie. La conquête de l’esprit humain est pour eux la mère de toutes les batailles, celle dont dépendra la réalisation de tous leurs buts ultérieurs.

Le numérique, forme de relation au monde

On se trompe donc dramatiquement de stratégie à l’égard de l’empire numérique si l’on se contente, comme le fait l’Union européenne par exemple, de mener la bataille sur le terrain des droits individuels, tels que la protection des données personnelles, le respect de la vie privée, la non-discrimination et l’égalité de genre, ou encore la protection des consommateurs. Non que les tech-titans ne menacent pas ces droits, bien entendu : ils le font en permanence, sans relâche, et protéger ceux-ci reste assurément une lutte importante à mener – c’est bien ce que tente de faire l’Europe, avec son inflation de textes juridiques sur le numérique et l’intelligence artificielle. Mais, ce faisant, elle se trompe de champ de bataille. En effet, pendant que l’Union essaye vaillamment de protéger juridiquement les droits et libertés démocratiques des utilisateurs, le numérique augmenté de l’intelligence artificielle (désormais : « numérique+ ») poursuit sans répit son incursion dans tous les domaines de la vie individuelle et sociale. Dans cette offensive globale, le module « droits et libertés individuels » n’est pour les tech-titans qu’un détail perturbateur dont leur empire numérique s’accommodera très bien : soit qu’ils sachent en contourner les exigences, soit qu’ils payent pour ses infractions, soit qu’ils l’intègrent à son fonctionnement. Pour le numérique+, l’enjeu est ailleurs : il est d’imposer tendanciellement à tous les humains, dans tous les domaines de leur existence, un rapport au monde qui passe par ses dispositifs techniques, de faire du numérique, pour chacune et chacun, une médiation obligée au monde. Voilà ce qui importe vraiment.

En effet, c’est une fois que cette médiation se sera définitivement imposée que l’esprit humain sera colonisé, satellisé, mis sous tutelle. Nous en voyons déjà les prémices, jour après jour : incités de toute part à nous en remettre à des machines pour un nombre toujours croissant de nos actions quotidiennes, nous nous sommes installés sans résistance dans une dépendance unilatérale à la technique, qui s’est imposée à bas bruit. Plus rien n’est possible aujourd’hui sans la création d’un profil, l’obtention de codes, la création de mots de passe : autant d’actions identifiantes obligées qui présupposent elles-mêmes l’acquisition des appareils, l’approbation de conditions générales, l’acceptation d’une licence d’utilisation et l’abonnement à un opérateur. Ce n’est qu’une fois ces réquisits satisfaits que peut se dérouler l’action envisagée, mais elle aussi devra se dérouler conformément aux process élaborés par d’autres – remplissage de cases préformatées, communication d’informations, clic à l’endroit désigné, etc. Le passage obligé par le numérique a donc deux faces : celle (tout à fait inédite dans l’histoire de la technique) de l’identification préalable de l’utilisateur et celle de la soumission sans réplique possible à la procédure imposée par l’application. Désormais, pour réaliser une action et atteindre leur but, les humains doivent d’abord obéir à des machines : fait anthropologique majeur ! Les relations à la technique se substituent progressivement aux relations naturelles au monde. Comment cette obéissance imposée n’aurait-elle pas des effets sur la vie de l’esprit ?

Car l’esprit est ce qui nous relie au monde. Il est l’ensemble de ce qui permet la connexion avec la réalité dans laquelle nous évoluons, passée, présente ou future, réalité physique, sociale, symbolique, psychique. En philosophie de l’esprit, il existe un débat plusieurs fois séculaire sur le constituant ultime ou le trait distinctif des états mentaux par opposition aux états physiques : conscience de soi ? Représentations ? Intentionnalité ? Expérience vécue ? Or, quelles que soient les complexités liées aux recherches sur ce constituant ultime, ces dédales de réflexions ne doivent pas faire perdre de vue que la fonction qu’est tenu d’assumer chacun de ces nobles candidats est à la fois la plus immédiate et la plus mystérieuse qui soit : celle de permettre notre connexion au monde. Cette connexion, quelle qu’en soit la nature, est ce qui définit l’esprit. Celui-ci n’est ni un lieu spécial (un « théâtre intérieur »), ni une substance particulière (immatérielle, pensante), ni un ensemble de dispositions ou de fonctions, il est avant tout relation au monde. Ce verre sur la table n’a pas d’esprit parce qu’il n’a pas de connexion au monde, voilà tout. Par suite, que notre connexion au monde soit faite de conscience, d’intentionnalité, de représentations ou de qualia est une tout autre question. L’esprit est l’organe de notre relation au monde, telle est sa réalité première – même si ce n’est pas un organe en un sens biologiquement identifiable.

Or, devenant médiation obligée, le numérique+ est désormais en position d’imposer à l’esprit sa forme privilégiée de relation au monde. Plus que jamais, la raison individuelle, loin de la splendide souveraineté du cogito cartésien, apparaît comme un organe d’adaptation à la rationalité sociale : si je pense qu’il faut sourire au distributeur de billets pour avoir de l’argent, je n’ai pas compris la rationalité du système qui me permet d’accomplir ma volonté. La rationalité individuelle ne peut s’exercer sans ce mariage avec la rationalité objective, telle qu’elle est consignée dans la technique et, plus largement, dans le contexte où se déroule l’action. Il n’en a certes jamais été autrement : l’individu a toujours dû se hisser à la hauteur de la rationalité sociale. Mais l’emprise qu’exerce le numérique confère à ce phénomène une portée sans précédent, l’obligeant à se conformer en permanence à l’ordre établi, à s’aligner dans tous les domaines de l’existence à l’état de choses existant. Dans ce contexte, la part restante de la raison individuelle, sa part non alignée, se réduit comme peau de chagrin.

La colonisation libidinale

Il est vrai que cette obligation générale de conformisme ne s’opère pas sur le mode de la contrainte. En compensation de cette obéissance imposée par défaut, chaque utilisateur du numérique (individus, organismes, institutions, États) se trouve dédommagé de manière continue par les innombrables bienfaits qu’il procure. Chacun y trouve son compte, c’est-à-dire son confort : qui en raison des satisfactions immédiates que le système lui met à portée de main, qui en raison de la réduction des coûts qu’il lui permet dans sa chaîne de production, qui en raison de la rationalisation et l’efficacité qu’il en obtient dans son domaine d’exercice. Personne n’échappe aux bienfaits du numérique+, dont l’utilité immédiate apparaît en maints domaines incontestable et spectaculaire (navigation, médecine, accès aux biens culturels…). De ce fait, l’extension unilatérale du numérique dans notre monde vécu paraît non seulement indolore, mais tend à se faire reconnaître comme désirable (ce qui, en retour, a évidemment pour effet de l’accélérer). Il ne provoque plus une « désublimation répressive2 », comme le disait Marcuse, mais bien plutôt de l’asservissement enjoué.

L’arrivée sur le marché planétaire, fin 2022, de ChatGPT, emblème de l’intelligence artificielle générative, en offre une démonstration éclatante. Le premier moment de panique passé (qu’allaient devenir nombre de professions ? Comment enseigner et quoi ? Comment se situer par rapport à cette nouvelle forme de production du savoir ? Selon quelles normes de vérité ?), ChatGPT a été accueilli porte ouverte dans la vie de toutes celles et tous ceux qui avaient des tâches à lui faire accomplir, à juste titre fascinés par ses performances hors du commun. Il est aujourd’hui, de l’avis général, un compagnon fort apprécié. Dès sa mise sur le marché, l’intelligence générative ouvrait donc aux utilisateurs un immense champ de satisfactions supplémentaires – à vrai dire, un nouveau continent – situé à portée de clic : la production de textes inédits, doués de sens et ressemblant à s’y méprendre à un test de Turing réussi.

Tout est donc fait – et avec quel succès ! – pour que, du point de vue de l’utilisateur, les dispositifs numériques apparaissent extraordinairement pratiques, c’est-à-dire, d’une part, qu’ils accomplissent efficacement ce que l’utilisateur leur demande (c’est la dimension objective de ce qui est pratique), et, d’autre part, qu’ils le fassent de la manière la plus économique possible en matière d’énergie cognitive, psychique ou physique (c’est sa dimension subjective). En un mot comme en cent, le système numérique a la faculté de s’adresser à ses utilisateurs comme à des êtres libidinaux, cherchant à leur offrir les voies les plus commodes de l’exécution de leurs désirs et volontés, et pas seulement consuméristes. Il sait comment faire pour aller dans le sens de la satisfaction de ses utilisateurs individuels quels qu’ils soient (du gamer de base à la chercheuse de pointe, en passant par l’ingénieur ou la sportive), pour être le plus confortable possible, pour se rendre utile et finalement leur apparaître indispensable. Pour les institutions ou les organismes publics ou privés, le système numérique est aussi capable d’offrir une satisfaction libidinale systémique, comme l’optimisation des coûts (économies opérationnelles, économies d’échelle grâce à la dématérialisation, réduction des coûts d’infrastructure, etc.) ou l’amélioration de la compétitivité. Partout, l’empire du libidinal s’est imposé comme une évidence3.

Le paradigme cybernétique

Ce faisant, le numérique réussit à mettre en œuvre, avec une force colossale et à tous les niveaux d’utilisation, ce qui a toujours été au principe de son fonctionnement : le paradigme cybernétique de la communication, « creuset et matrice » du numérique et de l’intelligence artificielle, comme l’a encore récemment rappelé Daniel Andler4. Essentiel est ici le concept d’information : pour la cybernétique, une information n’est rien d’autre qu’une donnée qui, moyennant un certain traitement, déclenche un certain effet. Une information n’est pas porteuse de sens, elle est une donnée physique dans les échanges avec le monde extérieur. C’est au demeurant ce qui a permis naguère à Norbert Wiener, le père fondateur de la cybernétique, d’unifier, en un geste métaphysique inouï, tous les comportements (des machines, du vivant, de l’humain, de la société) sous cet unique schéma cybernétique : réceptions d’inputs, traitement, déclenchement d’un output, puis effet en retour (feedback, « rétroaction ») de l’action en train de s’accomplir, lequel constitue à son tour un nouvel input pour le système considéré.

Or, en s’adressant à nous comme à des êtres libidinaux, le système numérique compte précisément sur un traitement libidinal des informations qu’il nous envoie, c’est-à-dire sur une réponse qui s’oriente toujours au plus commode, au plus satisfaisant, au plus pratique. Seule condition à remplir pour entrer dans ce système généralisé de satisfaction : s’en remettre à la machine. Tel est l’automatisme auquel s’alimente tout le système, l’automatisme de tous les automatismes, ou archi-automatisme : l’automatisme de l’esprit consistant à s’adresser à la machine pour résoudre ses problèmes, répondre à ses questions, satisfaire ses désirs. C’est cet archi-automatisme qu’alimente chaque jour la colonisation de notre monde vécu par le numérique augmenté.

En conséquence, la médiation obligée du numérique met aujourd’hui chacun de ses utilisateurs en position d’opérateur cybernétique, recevant sans cesse, à sa demande ou non, des inputs qui lui sont adressés, tout en produisant des outputs qui deviennent instantanément à leur tour des informations pour le système, dans une circulation cybernétique sans fin. Défini, sous le paradigme cybernétique, comme un appareil à traiter l’information, l’être humain, mué en utilisateur, est lui-même devenu, dans le monde numérique, une information à traiter. Ainsi, en extrayant en continu les données d’usage de chaque utilisateur (le profilage) et en les traitant de manière appropriée, le dispositif cybernético-numérique se donne les moyens techniques de nous emmieller dans son système et de s’adresser à nous, non comme à des êtres capables de penser, de juger et de réfléchir, mais comme à des êtres enclins à satisfaire leurs désirs et volontés de la manière la plus commode et confortable possible. Ce faisant, il n’abolit pas, mais contourne ces facultés que Hannah Arendt estimait les plus hautes de l’esprit humain : penser, juger, contempler (qu’elle distinguait toutes du savoir et de la connaissance). Mais en les contournant, il les affaiblit, les amaigrit, les érode, jusqu’à faire de l’esprit un organe atrophié.

Ce qui menace à terme, c’est le devenir-cybernétique de l’esprit.

Ce qui menace donc à terme, c’est le devenir-cybernétique de l’esprit. La numérisation du monde enveloppe l’esprit d’un manteau de données. Plongé dans sa cuve numérique, l’esprit (quoi d’autre ?) s’y meut comme dans son nouveau milieu naturel, s’accoutumant toujours davantage à se repérer dans un monde sous commande de traitement de données. Ainsi, l’esprit apprend désormais – aussi facilement qu’on apprend sa langue maternelle – à se comporter en acteur cybernétique, adoptant automatiquement les manières de faire du monde numérique, réactif aux informations, sachant transformer les inputs en outputs, aguerri à formuler ses buts et objectifs (formuler des requêtes pour l’intelligence artificielle générative est une spécialisation : le prompt engineering), habile à optimiser ses comportements et à planifier ses stratégies. On le voit exemplairement chez les enfants : l’esprit acquiert très vite les bons réflexes pour s’orienter dans le monde par data interposées. C’est ainsi que la colonisation du monde vécu par le numérique débouche inévitablement sur la colonisation de l’esprit, organe de la relation au monde. À monde cybernétique, esprit cybernétique : telle est la formule du devenir-cybernétique de l’esprit.

Mais, au fond, pourquoi donc serait-ce une menace ? Si l’esprit est l’organe de la relation au monde, pourquoi ne pas applaudir à ce décuplement des possibilités d’accès au monde, réel ou virtuel, offertes à chacune et à chacun par une technologie géniale ? Pourquoi le devenir-cybernétique de l’esprit ne serait-il pas, tout simplement, une augmentation des pouvoirs de l’esprit, dont il y aurait plus lieu de se réjouir que de s’inquiéter ?

L’esprit, puissance de contrefactualité

Cela tient à la nature de l’esprit. En tant qu’opérateurs cybernétiques, nous sommes toujours davantage plongés dans un univers de données. L’esprit se trouve plongé dans un univers de données, dans le donné des données. Or le trait majeur de l’esprit humain, sa caractéristique la plus fondamentale, qui permet de le distinguer de tout autre phénomène naturel, ce n’est pas d’être relié à ce qui est donné, mais à ce qui n’est pas donné ; d’être moins guidé par le réel que par l’idéel ; moins par le donné que par le pas encore donné. Voilà une chose que la philosophie analytique contemporaine de l’esprit, mais aussi la cybernétique et la recherche en intelligence artificielle ont largement oubliée, fascinées qu’elles sont (et cela, on peut le comprendre) par les capacités du traitement algorithmique des données par des dispositifs artificiels. Ces modes toujours plus sophistiqués de traitement des données permettent certes des résultats inouïs – comme le montrent les performances de l’intelligence artificielle générative –, mais ne correspondent en rien au principe de fonctionnement le plus élémentaire de l’esprit humain qui, tout au contraire, se caractérise par sa capacité à dépasser le donné – par ce que j’appelle sa puissance de contrefactualité.

Or c’est précisément cette puissance de contrefactualité de l’esprit – qu’on peut définir exactement comme sa capacité à se relier à une réalité indépendamment de son existence effective – qui se trouve tendanciellement menacée par le bain permanent de données dans lequel nous plonge la numérisation du monde vécu. Platon nommait amour cette capacité de se transcender vers ce qui n’est pas présent ; Kant assignait à la raison, distincte en cela de l’entendement, la faculté de s’orienter en fonction d’idéaux ; l’école phénoménologique désigne du terme d’intentionnalité cette capacité de viser quelque chose au-delà du perçu, capacité au demeurant inhérente à la perception elle-même. Et nombre d’autres ont saisi dans leur conceptualité propre cette puissance de transcendance de l’esprit. Or la cybernétique les a tous renvoyés dos à dos en réduisant l’esprit, l’intelligence et tout ce qui s’ensuit au seul traitement de données. Mais celui-ci n’est que le recto d’une opération qui a aussi, indissociablement, son verso : comment, en vue de quoi, pourquoi je traite les données comme je les traite, cela n’est pas donné, précisément, mais résulte d’une production contrefactuelle de l’esprit. Or l’emprise du monde numérique aujourd’hui arrime toujours davantage l’esprit à un monde de données, le réduisant progressivement à un rôle de simple opérateur cybernétique. Son mode de fonctionnement privilégié n’y est pas la quête spontanée, le questionnement insouciant, l’enquête curieuse, le courage de l’erreur, encore moins la rêverie ou la flânerie ; il est celui de l’échange immédiat d’inputs et d’outputs. Enrôlé dans un système géant d’informations, il devient gérant d’informations et se plie de fait à ce fonctionnalisme ambiant où chaque attente déclenche sa réponse adéquate, où à peine éveillé un désir reçoit la satisfaction qui l’éteint, où la moindre des volontés trouve sa prise en charge automatique par un système qui l’exécute.

Déclarer l’esprit patrimoine commun de l’humanité

La leçon fondamentale à tirer de cette évolution est la suivante : si c’est l’esprit qui est menacé, c’est l’esprit qu’il faut protéger. C’est lui qui désormais est assiégé par la puissance colonisatrice des big data. Et il est menacé dans sa faculté reine, qui est d’être capable de se donner ce qui n’existe qu’en pensée, de dépasser le donné, de ne jamais considérer le factuel que comme un tremplin vers le contrefactuel et d’en faire le guide de tout agir dans le monde. C’est l’esprit dans sa capacité de transcendance qui se trouve ainsi fragilisé par l’omniprésence impérieuse du numérique, tel un malade alité qui voit jour après jour fondre malgré lui sa force musculaire.

Or, dans l’état actuel des choses, nous ne sommes pas équipés pour cette tâche de la défense de l’esprit. Ni moralement, ni politiquement. Dans notre univers juridique, on protège les individus, pas l’esprit. Les lois démocratiques sont certes capables de protéger contre les atteintes aux droits individuels et contre toutes les infractions définies par le système juridique. Mais l’esprit humain, n’étant ni une personne ni un bien juridique, ne peut tomber sous le coup d’une infraction qualifiée par le droit. Il n’y a pas de « crime contre l’esprit », parce que l’esprit n’est pas protégé – laissant libre cours à la bataille que mènent en ce moment même les géants du numérique. Quant à l’Union européenne, toujours encline à un paternalisme bienveillant à l’égard des tech-titans, elle ne fait que protéger les individus en leur qualité d’utilisateurs du numérique+, sans jamais mettre en question le numérique lui-même. Au contraire, elle l’encourage tous azimuts5.

C’est pourquoi j’avance la proposition que l’on déclare l’esprit patrimoine commun de l’humanité, comme on l’a fait pour les fonds marins, avec une Autorité dédiée6. Ce serait la manifestation juridique la plus haute actuellement imaginable d’une prise de conscience à la fois de la valeur inestimable de l’esprit humain et de sa vulnérabilité constitutive. Le préserver dans sa liberté originaire de transcender la réalité simplement donnée et de ne pas être assujetti au fonctionnalisme cybernétique est désormais une tâche qu’il s’agit d’assumer si nous tenons à préserver les conditions d’un épanouissement authentiquement humain.

Une telle « déclaration » propose plus ou autre chose qu’une simple solution aux problèmes que pose la colonisation de l’esprit humain : elle offrirait le cadre normatif, actuellement absent, à l’intérieur duquel pourront prendre place toutes les solutions envisageables – à l’image des droits de l’homme, qui n’ont pas en tant que tels réduit les offenses faites à la dignité humaine, mais ont formulé les principes au nom desquels il fallait les réduire. Déclarer l’esprit patrimoine commun de l’humanité et lui consacrer une Autorité dédiée permettrait d’appréhender et de réguler les innovations technologiques du numérique+, non plus sous le seul angle des droits du marché et de ceux des utilisateurs – lesquels pourraient être, répétons-le, parfaitement respectés dans un monde entièrement cybernétisé –, mais sous celui des conditions de l’épanouissement de l’esprit. On régule aujourd’hui sévèrement l’industrie pharmaceutique parce que chacun sait bien qu’une molécule incontrôlée peut être néfaste pour la santé du corps. Mais, pour l’esprit, nul ne s’en préoccupe : le marché est roi, comme le montre l’exemple de ChatGPT, introduit sans contrôle ni précaution préalables, alors même que tous savaient qu’il allait bouleverser la vie sociale sous bien des rapports.

D’une manière plus générale, l’imposition unilatérale d’un mode cybernétique de relation au monde est une contrainte majeure qui pèse universellement sur l’épanouissement de l’esprit, contrainte d’autant plus insidieuse qu’elle apparaît comme pratique. C’est en ce sens que le numérique+ est fondamentalement une technologie de l’esprit : il façonne l’esprit en stimulant en permanence un traitement libidinal de l’information. Il finit par faire tourner l’esprit dans le circuit fermé de la cybernétique, dont l’addiction aux écrans n’est que la forme extrême, mais peut-être annonciatrice de la future société du streaming, où tout sera à la disposition de chacun en quelques clics. Les problèmes de santé mentale, lesquels deviennent partout dans le monde un problème de santé publique7, représentent le symptôme clinique patent, irrécusable, de la vaste entreprise de colonisation menée sur le champ de bataille de l’esprit. Ce sont donc les droits de ce dernier qu’il faut défendre, là où les droits individuels tels que nous les connaissons se révèlent désormais non seulement impuissants à enrayer la marche triomphale des superpuissances colonisatrices, mais la favorisent. À la politique de l’individu, épuisée, doit désormais se substituer une politique de l’esprit. Selon quelles modalités, avec quelles institutions et en fonction de quels critères, telles sont les questions urgentes à résoudre si nous ne voulons pas perdre la bataille de l’esprit, notre patrimoine commun.

• 1. L’expression usuelle en français de Gafam (Google-Amazon-Facebook-Apple-Microsoft), outre qu’elle est désuète (Facebook s’appelle désormais Meta), ignore des géants américains (comme OpenAI, Netflix, Nvidia) et non américains (Alibaba, Baidu ou Tencent pour la Chine, Spotify pour la Suède, Atlassian pour l’Australie), qui ont tous des rôles majeurs dans la colonisation de l’esprit. L’heureuse expression « tech-titans » m’a été suggérée par Ivan Meseguer de l’Institut Mines-Télécom.
• 2. Herbert Marcuse, Éros et civilisation. Contribution à Freud [1955], trad. Jean-Guy Nény et Boris Fraenkel, Paris, Éditions de Minuit, coll. « Arguments », 1963.
• 3. Voir Mark Hunyadi, « Du sujet de droit au sujet libidinal. L’emprise du numérique sur nos sociétés », Esprit, mars 2019.
• 4. Daniel Andler, Intelligence artificielle, intelligence humaine : la double énigme, Paris, Gallimard, coll. « NRF essais », 2023.
• 5. Comme le montre, par exemple, l’instauration programmée du futur « portefeuille européen d’identité numérique » (PEIN ou, communément, wallet), supposé entrer en vigueur dès 2027.
• 6. Voir M. Hunyadi, Déclaration universelle des droits de l’esprit humain. Une proposition, Paris, Presses universitaires de France, 2024.
• 7. Voir, par exemple, pour la France, « Smartphones, écrans : tous accros ! » [dossier en ligne], Observatoire Santé PRO BTP, janvier 2024.