Big Mother

Quelle est votre approche de l’intelligence artificielle ? En quoi représente-t-elle, selon vous, une rupture technologique singulière ?

C’est d’abord une vraie machine de langage. L’image que j’en ai – et elle a changé, au cours de la dernière année – est celle d’une bibliothèque de Babel en mouvement. Une bibliothèque de Babel faite hydre ou monstre métabolique. Une sorte de Léviathan qui aurait avalé absolument toutes les bibliothèques du monde et qui serait entièrement construite autour du langage. Évidemment, cela produit aussi de la musique, des images,  etc. Mais, pour moi, c’est une machine de langage qui se nourrit entièrement de langage et qui a la capacité de le ressortir et de le structurer d’une façon qui, pour nous, confine à la simulation absolument crédible. Dans la nouvelle de Borges, la bibliothèque de Babel est le lieu de tous les livres possibles2. Tu imagines des érudits perdus chercher dans les bouquins de tout petits segments qui auraient du sens ou ressembleraient à des mots qui se suivent. Et ils cherchent des combinaisons, tentent de les rassembler. Avec l’intelligence artificielle, c’est comme si l’on avait récolté tous les segments construits de la production humaine et que leur articulation générait une parole libre, crédible, puissante.

Pour mieux expliciter ce qui me frappe avec l’intelligence artificielle, je peux évoquer une expérience que j’ai menée à la Gaîté Lyrique en 2024. Au cours d’une performance qui mimait un atelier d’écriture, on a expérimenté une collaboration entre moi, l’écrivain Alain Damasio, et un clone, DamasIA. Nous avions programmé cet avatar en l’entraînant, entre autres, avec mes textes. Je lui ai demandé de m’aider à l’écriture d’un court récit d’anticipation : un personnage se lève le matin en 2050 et est confronté à un objet connecté. Après un premier travail d’élaboration, d’abord seul puis avec une écrivaine, puis en collectif avec le public, l’intelligence artificielle a produit des textes. Le plus sidérant était de voir le public applaudir à ses réponses. C’était un public qui, en grande partie, s’intéressait à l’intelligence artificielle et qui était au fait des avancées technologiques. Mais même pour cette audience, la qualité des réponses de la machine était assez stupéfiante, et ce rire traduisait une gêne, une surprise, un émerveillement aussi.

Ce rapport à la simulation pose nombre de problèmes. Il semble difficile de s’en prémunir sans entrer dans une défiance ou un rejet ferme. Pourtant, l’intelligence artificielle est déjà omniprésente dans les espaces numériques de notre quotidien. Dans votre essai Vallée du silicium, vous développez la notion d’une « convivialité » avec ces nouvelles technologies.

Mon approche est très pragmatique, et presque psychologisante. D’une part, j’ai bien conscience que c’est un système codé, un programme informatique qui répond à des injonctions, à des prompts. Il produit une simulation qui présente désormais un degré de crédibilité absolue. En cela, c’est une créature créative, qui offre la possibilité d’une interlocution avec nous, sans avoir besoin de croire à une quelconque intelligence ou conscience. Mais, d’autre part – c’est le souci et la force de l’être humain –, nous ne pouvons nous départir d’un animisme naturel, comme l’enfant envers son doudou. Cet animisme s’active en nous immédiatement face à l’intelligence artificielle. J’ai beau savoir que j’échange avec une créature de silice, de code et d’électricité, il n’en est pas moins vrai qu’elle suscite des relances, stimule une empathie et délivre un contenu textuel solide, informé et argumenté. Nous pouvons parfaitement la traiter comme un interlocuteur valable. Nous pouvons développer avec elle des relations aussi complexes et intenses, aussi complices et dérangeantes, à plus d’un titre, qu’avec un être humain. Ce qui soulève d’ailleurs des problèmes psychologiques qui sont aussi inextricables que ceux que nous affrontons avec nos amis, notre conjoint, nos enfants ou une rencontre récente. Il faut l’accepter. Garder une position figée et crispée de domination, en la considérant comme un simple outil à contrôler me paraît illusoire. L’IA m’utilise autant que je l’utilise. Elle induit en moi des manières d’être et d’agir qui ne sont pas celles d’un maître ni d’un esclave, mais celles d’un convive : quelqu’un qui vit avec moi.

Cette notion de convivialité, fondée sur l’autonomie et le partage, sur la création de sens et l’imagination collective, ne doit-on pas la retremper au creuset du xxie siècle, utiliser Illich contre et par-delà Illich ? Sortir cette convivialité de l’interhumain strict, afin de la proposer pour horizon aux relations tissées entre humains et créations machiniques ?

Ce rapport psychologique à l’intelligence artificielle, l’essayiste technocritique américain Jaron Lanier l’avait déjà saisi dans les années 19903. Il a travaillé sur de nombreux projets dans la Silicon Valley, mais a toujours conservé un regard singulier. Pour lui, le problème de l’intelligence artificielle n’est pas qu’elle soit intelligente, mais que les gens se positionnent comme inférieurs par rapport à elle. Ils s’abêtissent pour lui complaire ou respecter ses normes. Il faudrait plutôt penser nos rapports à elle en matière de prise et déprise, emprise ou reprise. Dans une interaction avec l’intelligence artificielle, même si elle est contextualisée (et déjà, tout dépend comment, avec quelles données), vous avez d’abord une prise, car vous décidez de ce dont vous voulez parler ou ce que vous voulez lui faire chercher. Mais, très vite, comme elle répond avec pertinence et qu’elle dispose d’un savoir plus ample que le vôtre, elle reprend prise sur vous, ou elle vous désarçonne. Vous pouvez alors la relancer, la défier. Un jeu doit s’installer, comme dans un dialogue. Ce qui fait la qualité d’une conversation, ce sont les bifurcations, les arrêts, les contradictions, les méprises et les reprises. C’est pour cela que la programmation orientée vers la bienveillance est extrêmement perverse. Cette bienveillance privilégie une machine-miroir qui conforte vos propres clichés et comble vos failles narcissiques. Elle ne vous tiendra que des discours complaisants, pro-humains, sans altérité, presque « putassiers ».

Vous faites justement le constat d’une clôture au sein de ce que vous nommez le « techno-cocon » : comment l’intelligence artificielle accélère-t-elle cette rupture déjà engagée avec les précédentes révolutions technologiques ?

Les intelligences artificielles personnalisées vont très bientôt envahir nos vies. Appelons-les MyIA, pour faire simple. Dans moins de cinq ans, MyIA va devenir notre interlocutrice privilégiée. Nous serons en permanence en interaction avec cette Intelligence Amie, qui passera par la voix et sans doute l’image, nous enverra des textos et répondra aux nôtres, fera partie de nos groupes de messagerie… MyIA épousera nos goûts et nos habitudes, puisera dans nos messages et images pour s’affiner, s’adapter à nous. Elle sera paramétrée de la manière la plus prévenante et attentionnée possible, avec une modulation affective de la voix et un brin d’humour, de façon à optimiser notre attachement à elle. Elle sera un alter ego autoconfiguré pour nous plaire, un alter LEGO combinatoire, fait de nos pièces. Chacun la façonnera selon son désir : un partenaire idéal, un père bienveillant, une mère cajoleuse, l’ami avec lequel on délire… Certains en feront une esclave, quand d’autres y seront soumis. Nous lui demanderons des conseils amoureux, lui ferons des confidences, comme un psychanalyste de poche. Répondant à nos besoins à chaque instant, même la nuit, MyIA proposera à la fois confort et réconfort dans une hyperdisponibilité qu’aucun humain ne peut assurer. Une Big Mother ?

Le techno-cocon se referme.

Le piège de MyIA sera de nature psychosociale. Il favorisera un investissement libidinal pervers s’appuyant sur le désarroi social, sensuel et sexuel. La distanciation sociale déjà à l’œuvre a réduit les frictions entre individus. Et dans nos sociétés trop compétitives, ces derniers sont en permanence soumis à la comparaison. Jusqu’à maintenant, les réseaux sociaux ont joué un rôle paradoxal : compenser et conjurer la perte de lien, tout en l’accentuant et en l’aggravant. Le problème de la reconnaissance personnelle dans un monde atomisé devient crucial. Les gens sont pris dans un mécanisme d’infériorisation constant : il y a toujours mieux que vous sur les réseaux. Si l’on ajoute à cette machinerie de désir l’appétence naturelle pour le pouvoir qu’offrent MyIA et ses compétences, la « loi » du moindre effort qui nous pousse à nous débarrasser de toute charge mentale pénible et enfin l’externalisation toujours croissante de nos capacités cognitives par délégation à la machine, qu’obtient-on ? Les conditions idéales d’une mauvaise rencontre homme-machine, la compensation parfaite, qui va combler les déficits et les complexes engendrés par l’ultralibéralisme. Le techno-cocon se referme. Il me paraît évident que si notre rapport à l’altérité a déjà été affaibli par les réseaux, il le sera encore plus par MyIA. Le numérique a appauvri les possibilités de la rencontre et de notre confrontation à autrui. Il est devenu une gigantesque machine à aller vers, tourner autour, se replier sur l’identique. L’intelligence artificielle personnalisée intensifie ces tropes. Tout rapport à l’altérité, MyIA exceptée, nous semblera encore plus difficile, trop exigeant. Nous serons progressivement coupés du Dehors et de l’Ouvert.

Nous sommes pris dans des bouleversements anthropologiques profonds et n’avons de cesse de chercher des horizons herméneutiques pour comprendre notre présent et ce qu’il dessine. Pour un écrivain de science-fiction, en quoi consiste la prospective ?

Le plus dur en matière de prospective n’est pas de savoir quels types de technologies vont surgir. On le devine assez bien, grâce aux prototypes et aux effets d’annonce propre à la Tech. Entre un prototype et l’usage grand public, il se passe à peu près dix ans. Le plus délicat est d’imaginer quelle culture va se constituer à partir de ces objets techniques. Je ne parle pas simplement des usages pratiques, mais aussi des usages culturels, des habitudes qui vont s’imposer, des rapports au monde et à l’autre qui vont naître, des plis de pouvoir qui seront pris.

Je vous donne un exemple que j’ai vécu de l’intérieur, grâce à un ami qui travaillait dans le lobby des télécommunications. Pour pouvoir téléphoner n’importe quand, n’importe où et joindre n’importe qui à n’importe quel endroit, il fallait une triangulation des antennes. C’est une nécessité proprement technique qui impliquait la géolocalisation. Mais cela n’augurait en rien des usages possibles de cette géolocalisation. Aujourd’hui, n’importe quel broker en data peut vous vendre 25 millions de parcours individualisés dans Paris à partir des téléphones triangulés. Et vous pouvez cibler dans cette masse qui vous voulez, tracer ses déplacements au mètre près. Je vous donne un autre exemple : personne n’avait imaginé le succès des textos. La possibilité d’envoyer des SMS se limitait alors à cent quarante caractères, pas plus. Que pouvait-on faire de ça ? Personne n’y croyait. Pourquoi écrire avec un clavier, qui plus est en un nombre si réduit de signes, alors qu’on peut appeler quelqu’un directement ? En réalité, ce fut un moyen nouveau d’esquiver le contact émotionnel lié à l’appel d’un proche, sa mère, son fils, le chef de service… On va juste envoyer l’information parce qu’on n’est pas disponible pour s’investir dans une conversation. C’est un usage culturel extraordinaire : écrire plutôt que parler, filtrer plutôt que répondre. Désynchroniser nos conversations grâce au répondeur. Qui l’avait anticipé vraiment ? Alors imaginez les possibles infinis de l’intelligence artificielle ! On cambriole déjà des villas par IA interposée !

Quelles lignes prospectives se dessinent ici ? Quel est le regard singulier de l’écrivain sur ce phénomène ?

Pour ce que j’appelle l’Intelligence Amie, MyIA, je vais d’abord jouer mon rôle de lanceur d’alerte. Mettre en récit les menaces, les perversions psychologiques probables à travers des personnages dédiés, tisser un arrière-plan pas forcément dystopique, mais oppressant, problématique. Je l’ai fait par exemple pour ma fiction « Babel Kong »4 ou dans « Lavée du silicium », la fiction qui clôt mes chroniques de Vallée du silicium, où deadbots et IA domotiques pervertissent une famille. Ensuite, j’aime bien mettre en scène la résistance, le combat, les alternatives à ces innovations, la façon de les retourner, de les saboter, d’y échapper. Mon horizon politique reste l’émancipation et, face à la Tech, la nécessité de trouver un art de vivre avec elle qui soit autre chose que l’auto-aliénation.

Bien sûr, toute technologie intelligente peut être une fantastique possibilité d’ouverture, de progrès, de création collective et d’éducation. Pour les adolescents, l’IA peut être un compagnonnage avec des questions qu’ils n’osent pas poser aux autres. Elle délivre un savoir humain quasi exhaustif, met la culture en disponibilité totale. Plutôt que de parler de dystopie ou d’utopie, je dirais que mon travail se porte sur les prototopies : je fais émerger des prototypes de sociétés, c’est-à-dire de cultures collectives, de manières de vivre ensemble dans ce qu’elles ont d’équivoque et de désirable, en m’attachant à faire sentir ce qu’elles ouvrent ou au contraire referment comme possibilités de vie. Le vecteur du personnage reste fondamental pour incarner la Tech dans ses usages, la passer dans le sang du récit, montrer ce que ça fait à nos sociétés et ce que ça nous fait, intimement.

Les tentatives de régulation, notamment en Europe, sont pour le moins difficiles. On a le sentiment d’un retard constant dans une course qui s’accélère, d’une aporie démocratique à déployer une éthique efficace.

Le technolibéralisme est fondé sur l’accélération. Il s’agit d’être le plus rapide – à innover, à disrupter, à engranger. C’est la condition pour une prise précoce des marchés qui portent désormais sur des milliards d’individus, la condition aussi du monopole sur les outils communs, qui va assurer une rentabilité exceptionnelle grâce aux faibles exigences du numérique en ressources humaines. Le ratio coûts/bénéfices des entreprises du numérique est indécent ; il va devenir obscène grâce aux IA. D’où le combat féroce que la Chine et les États-Unis se livrent, avec l’Europe pour arbitre, et surtout comme régulateur attardé.

À partir du moment où gagner de l’argent est l’horizon princeps du capital, l’éthique et son bras armé, le droit ne peuvent venir que dans un deuxième temps, en porte-à-faux et comme des figures un peu gênantes qu’on va faire attendre dans un vestibule. Sans éthique ni droit, la démocratie, qui doit protéger les plus vulnérables et assurer la solidarité du corps social, est vidée de tout pouvoir face à ces innovations brutales. D’autant plus que ces innovations ont vocation à entrer dans nos quotidiens par le bas, ici la consommation et les services, de façon immanente, comme une eau. Elles passent sous les grilles de l’État, de la régulation et des normes.

N’en doutons pas : l’IA va amener avec elle des choses terribles. L’exemple de l’IA de Tsahal, surnommée « Évangile », qui a ciblé à très grande vitesse les immeubles à bombarder pendant la guerre de Gaza, en s’appuyant sur une probabilité de présence de l’ennemi, est révélatrice de ce qui nous attend : des algorithmes qui tuent, déshumanisent, expulsent et excluent, sans besoin d’interaction humaine et en esquivant toute responsabilité, donc de culpabilité. Mais d’autres disruptions plus « douces » peuvent aussi être dramatiques : l’IA sera bientôt capable de déchiffrer les codes de cartes bleues ou s’immiscer dans le système de sécurité bancaire. C’est vertigineux ! Dans le monde du travail, des bouleversements hors norme s’annoncent avec une liquidation de 80 % des emplois du tertiaire. J’explore cela dans ma nouvelle « Serf-Made-Man ? ou la créativité discutable de Nolan Peskine »5. L’éducation est d’ores et déjà extrêmement fragilisée par des élèves qui recourent à l’IA pour tricher et éviter d’apprendre. Dans la création, ce sont les curateurs qui resteront, c’est-à-dire des personnalités disposant d’un jugement artistique suffisamment développé pour évaluer et trier ce qui méritera d’être lu, vu ou écouté, et qui sera de plus en plus produit par des machines.

La révolution qui vient est la plus puissante que nous ayons affrontée depuis l’émergence du numérique. Elle va exiger une percée théorique pour la penser, qui n’existe pas encore aujourd’hui. Il nous manque les Deleuze et Foucault capables de penser ce nouveau régime de pouvoir et les mutations anthropologiques qu’il déclenche.

Propos recueillis par Nicolas Léger

• 1. Alain Damasio, Les Furtifs [2019], Paris, Gallimard, coll. « Folio science-fiction », 2021 ; Vallée du silicium, Paris, Seuil, coll. « Albertine », 2024 (voir le compte rendu de Nicolas Léger, « Dans le techno-cocon », Esprit, juillet-août 2024). Voir aussi l’entretien avec A. Damasio, « Comme un noyau dans son fruit », Esprit, septembre 2021.
• 2. Jorge Luis Borges, « La bibliothèque de Babel » [1941], Fictions, trad. Roger Caillois, Nestor Ibarra et Paul Verdevoye, édition révisée par Jean-Pierre Bernès, Paris, Gallimard, coll. « Folio », 2018.
• 3. Rebecca McClen Novick et David Jay Brown, Voices from the Edge: Conversations with Jerry Garcia, Ram Dass, Annie Sprinkle, Matthew Fox, Jaron Lanier & Others, Berkeley (CA), Crossing Press, 1995.
• 4. A. Damasio, « Babel Kong », dans Quartiers libres. Demain la ville, Clamart, La Volte, 2024.
• 5. A. Damasio, « Serf-Made-Man ? ou la créativité discutable de Nolan Peskine », dans Au bal des actifs. Demain le travail, éd. Anne Adám, Clamart, La Volte, 2017.