Do not follow this hidden link or you will be blocked from this website !

Film Minority Report (2002) | DR
Film Minority Report (2002) | DR
Dans le même numéro

Le paradoxe de Zadig

Big data et sécurité

Dans le conte philosophique de Voltaire, on peut lire un exemple du paradoxe de la prévention des crimes annoncés. Pour le résoudre, il faut tenir compte de l’effet de la prophétie sur l’événement prophétisé. Ainsi pour la catastrophe écologique.

La prévention des crimes annoncés mène à l’un des plus vieux paradoxes pragmatiques auquel se heurte l’humanité depuis qu’elle se pose des problèmes éthiques. À l’ère des big data et du deep learning[1], ce paradoxe trouve à s’incarner dans des institutions nouvelles.

Un très ancien paradoxe

Sans remonter aux Anciens ni à la Bible, on en trouve une version particulièrement efficace dans Zadig, le conte philosophique que Voltaire a concocté pour tourner en dérision la théodicée de Leibniz. Lorsque le héros éponyme voit l’ermite qui l’accompagne dans ses pérégrinations assassiner le neveu de leur hôtesse de la veille, il est effaré. Comment, se révolte-t-il, tu ne trouves point d’autre récompense pour la générosité de notre bienfaitrice que ce crime affreux ? À quoi l’ermite, qui n’est autre que l’ange Jesrad, le porte-parole du système leibnizien, répond : si ce jeune homme avait vécu, il aurait tué sa tante dans un an puis, l’année d’après, il t’aurait assassiné, Zadig. Comment le sais-tu ?, s’écrie celui-ci. La réponse : «  C’était écrit.  » C’était écrit, peut-être, mais cela n’aura pourtant pas lieu, faute de criminel.

Le grand auteur de science-fiction américain Philip K. Dick a tiré de ce conte une nouvelle subtile et complexe, The Minority Report[2]. Le paradoxe est le même : la police de l’avenir, faisant fond sur les prédictions toujours exactes émises par un trio de Parques, neutralise les criminels un quart de seconde avant qu’ils commettent leur crime – ce qui les fait s’écrier : «  Ce n’est pas l’avenir si on l’empêche de se réaliser !  » Notons que le paradoxe n’existe que parce qu’il est postulé que l’avenir prédit – ici, un crime – non seulement se réalisera mais aussi qu’il ne peut pas ne pas se réaliser – en termes philosophiques, il est nécessaire, dans la mesure où il est contre­factuellement indépendant des actions qui le précèdent. Les prédictions du type «  Bison futé  » n’ont pas cette prétention : elles ne disent pas ce que sera l’avenir, mais ce qu’il serait si les automobilistes restaient indifférents à la prédiction rendue publique.

On aurait tort de croire que ce paradoxe est une simple invention de métaphysiciens oisifs ou d’écrivains philosophes, et qu’il n’a aucune portée pratique. Dans sa formulation voltairienne, il met en scène la question de la compatibilité entre le libre arbitre et un déterminisme de type théologique[3]. L’une de ses nombreuses incarnations, qui nous rapproche du big data, fait intervenir un déterminisme stochastique. On pense à la défense d’Adolf Eichmann par l’avocat allemand Robert Servatius. Voici ce qu’en disait Hannah Arendt : «  Si l’accusé cherche à se défendre en arguant qu’il a agi non comme un être humain mais comme l’auxiliaire d’une fonction qui aurait tout aussi bien pu être remplie par n’importe qui d’autre, c’est comme si un criminel s’appuyait sur les statistiques criminelles – tel jour en tel endroit, tant de crimes sont commis – pour prétendre qu’il n’a fait que ce que les statistiques attendaient de lui, et que si c’est lui et pas quelqu’un d’autre qui l’a fait, c’est pur accident, puisque après tout il fallait bien que quelqu’un le fasse[4].  »

Un cas régulièrement discuté dans l’enseignement de droit de l’université Yale suscite des réflexions voisines. Un malin génie rendit visite au Premier ministre d’un certain pays et lui proposa le marché suivant : «  Je sais que votre économie est languissante. Je suis désireux de vous aider à la faire redémarrer. Je puis mettre à votre disposition une invention technologique fabuleuse, qui doublera votre produit intérieur brut et le nombre d’emplois disponibles. Mais il y a un prix à payer. Je demanderai chaque année la vie de 20 000 de vos concitoyens, dont une forte proportion de jeunes gens et de jeunes filles.  » Le Premier ministre recula d’effroi et renvoya son visiteur sur le champ. Il venait de rejeter ­l’invention de… l’automobile.

Si nos sociétés acceptent ce mal qu’est la mortalité routière si aisément, s’il ne leur pose pas de problèmes de conscience particuliers, c’est précisément parce qu’elles ne se le représentent jamais dans les termes qui sont ceux de cet apologue. Le problème que celui-ci met en scène est un dilemme moral traditionnel : il s’agit de savoir si des victimes innocentes peuvent être sacrifiées sur l’autel du bien collectif. Bien qu’obsédée par ce type de cas, la philosophie morale classique n’a jamais réussi à les éclairer de façon satisfaisante. Or il suffit de naturaliser les termes de la question morale pour la faire disparaître complètement. On subsume les flux du trafic automobile sous les lois de l’hydrodynamique et les régularités statistiques prennent l’apparence de la fatalité.

La police prédictive

Dans la nouvelle de Philip K. Dick, les trois Parques se nomment Precogs (pour pre-cognition). Leur équivalent dans le monde réel est une start-up californienne installée dans la ville universitaire de Santa Cruz et nommée PredPol (pour predictive police). L’idée sur laquelle elle repose est venue d’un professeur d’anthropologie de l’université de Californie à Los Angeles (UCLA), P. Jeffrey Brantingham. Celui-ci entendait fonder une «  mathématique du crime[5] ». Persuadé que le crime est prévisible à court terme, en particulier pour ce qui concerne les lieux où il se produit, il prit pour modèle la prévision des tremblements de terre. La première secousse est très difficile à anticiper, mais il est beaucoup plus facile de prévoir les répliques. De même – au moins en Californie –, si une maison est cambriolée, la probabilité qu’elle le soit de nouveau dans un avenir proche est multipliée par deux. «  Peu importent les causes, dit notre anthropologue mathématicien, les faits sont là. La séquence d’événements est modélisable.  » Anticipant ce que pourrait être une objection politique ou morale, il ajoute : «  Nous n’effectuons aucun profilage, nous ne nous intéressons pas aux auteurs des infractions. Pour nos prédictions, l’identité des délinquants, ou leurs caractéristiques socioculturelles, sont sans valeur.  »

La police de Modesto, ville moyenne de la San Joaquin Valley, l’un des greniers du monde au centre de la Californie, a été l’une des premières à se payer les services de PredPol, et cela pour faire des économies. Et cela s’est révélé «  efficace  » : les cambriolages ont baissé de plus du quart, tandis que la moitié des arrestations se produisaient dans les zones prioritaires définies par l’algorithme. Certains policiers plus âgés ont eu beaucoup de mal à s’y faire, au motif qu’«  on ne prédit pas l’avenir  ». D’autres observent avec plaisir que les zones à risque définies par PredPol où ils officient disparaissent de la carte des priorités au bout d’un certain temps : c’est la preuve que le système a fonctionné. Une centaine de villes américaines, dont Los Angeles et Atlanta, ont recours aux services de PredPol à la date d’aujourd’hui. La France est sur le point de leur emboîter le pas.

Il existe très peu d’analyses politiques et éthiques sur les présupposés et les implications de cette pratique, tant dans le monde anglo-américain, qui l’a inventée, qu’en France. On trouve en revanche des écrits et des controverses sur les dimensions techniques du problème.

Deux jeunes chercheurs français s’en sont fait l’écho, les sociologues Ismaël Benslimane de l’université Joseph-Fourier de Grenoble[6] et Bilel Benbouzid de l’université Paris-Est Marne-la-Vallée[7]. Il faut dire d’emblée que c’est une littérature verbeuse, prétentieuse, souvent creuse et passablement idéologisée. Mais ce qui en fait l’intérêt, c’est que, sans vraiment le percevoir, les auteurs butent sur les mêmes paradoxes que ceux que nous avons présentés.

Au plan technique, la principale critique qui est faite du logiciel PredPol est qu’il enfonce des portes ouvertes. Des algorithmes beaucoup plus simples et même le savoir fondé sur l’expérience des policiers peuvent faire aussi bien et peut-être mieux que lui. La raison tient à la nature très particulière de la distribution spatiale des crimes et délits dans les villes du monde industriel. On peut dire approximativement, par exemple dans le cas d’une ville comme Chicago, que 80 % de ceux-ci se concentrent dans 20 % de la ville. Cette très forte concentration est l’expression d’une loi de probabilité «  fractale  », dite aussi loi de Pareto. Cette loi apparaît dès lors que des phénomènes mimétiques ou des redondances sont en jeu. C’est le cas ici puisque l’existence d’un crime ou délit en un lieu donné accroît les chances d’une récidive dans un intervalle de temps qui n’est pas très long.

Pour comprendre les mécanismes en jeu, une expérience de pensée est utile. Imaginez une pluie de dix mille jetons qui s’abat uniformément sur une région où se trouvent cent coupes prêtes à les recevoir. Les jetons tombant indépendamment les uns des autres, la distribution du nombre de jetons par coupe va obéir à la courbe en cloche (dite gaussienne). La plupart des coupes contiendront un nombre de jetons qui ne sera pas très éloigné de la moyenne, soit cent jetons. Rares seront les coupes qui contiendront très peu de jetons ou au contraire plusieurs centaines. Changeons maintenant les conditions de l’expérience en posant qu’une coupe donnée a d’autant plus de chances d’attirer les jetons qui tombent qu’elle en contient déjà un grand nombre. La distribution des jetons sur l’ensemble des coupes acquiert alors une tout autre physionomie. Les déviations par rapport à la moyenne qu’admet la courbe en cloche se trouvent amplifiées par un mécanisme d’auto-renforcement. Les événements extrêmes y acquièrent une probabilité considérablement accrue. La distribution que l’on obtient ainsi est dite fractale, car elle conserve la même physionomie quel que soit le seuil où on la coupe, c’est-à-dire le nombre de jetons minimum en deçà duquel on décide de ne pas compter les coupes correspondantes.

Il y a donc des zones, à chaque moment, où les crimes et délits sont fortement concentrés, et les policiers n’ont pas besoin d’un logiciel pour le savoir. Ces zones évoluent dans le temps, en fonction des circonstances mais aussi, bien sûr, de la présence et des actions des policiers. Là encore, ceux-ci sont aux premières loges pour le savoir.

Selon cette critique, PredPol ne sert à rien. Mais, continuent les auteurs en citant leurs sources principalement américaines, cette technique a des effets néfastes. La plus importante est d’ordre politique : par le truchement de la statistique des big data, elle naturalise la criminalité comme nous naturalisons les accidents de la route ainsi que le révélait l’apologue de l’université Yale, masquant ainsi les causes économiques et sociales du crime[8].

C’est l’argument de l’efficacité économique, cependant, qui retient ­l’attention, car il nous ramène aux paradoxes de la première partie. Comme il y a moins de cambriolages, il y a moins besoin de policiers, et donc il y a moins de policiers et, plus généralement, moins de dépenses publiques consacrées à la sécurité, et cela est une mauvaise chose, nous dit-on[9]. On croyait que c’était là le but recherché ! On pense à ce qui a fait achopper le sommet américano-soviétique de Reykjavik en octobre 1986. Reagan et Gorbatchev s’étaient mis d’accord sur la visée d’une dénucléarisation mutuelle très poussée, mais Reagan estimait qu’il ne pouvait retourner dans son pays s’il renonçait à la construction d’un bouclier antimissiles qui violerait le traité ABM de 1972[10]. Mais puisqu’il n’y aura plus d’armes atomiques, de quoi voulez-vous vous protéger ?, ne cessait de demander Gorbatchev. Le paradoxe, nous l’avons vu, c’est que l’avenir actuel ne suffit pas, il faut considérer aussi les avenirs contrefactuels[11].

On retrouve le même paradoxe dans ce que les auteurs nous disent des procédures de validation du logiciel PredPol : ce dernier gagne à tous les coups ! PredPol annonce qu’un délit va avoir lieu dans une zone précise de la ville. Un policier s’y rend. De deux choses l’une : ou un délit a lieu comme prévu et le policier arrête le délinquant – un bon point pour le logiciel ; ou bien aucun délit n’a lieu, mais c’est sans doute du fait de la présence du policier sur place – et c’est encore un bon point : on ne saurait en vouloir à PredPol, qui a permis de prévenir le délit.

Prophétie de malheur

Cela n’est rien d’autre que le paradoxe de Zadig, c’est-à-dire le paradoxe de la prévention des crimes annoncés. Mais ce qui fait réfléchir, c’est que nos sociologues critiquent PredPol d’être ainsi exempt de critiques. Or, alors qu’il fait face au même paradoxe exactement, on en veut au prophète de malheur, qu’il prévoie juste ou non. Son dilemme est le suivant : ou bien ses prévisions se révèlent justes, et on ne lui en sait aucun gré, quand on ne l’accuse pas d’être la cause du malheur annoncé ; ou bien elles ne se réalisent pas, la catastrophe ne se produit pas, et l’on raille après coup son attitude de Cassandre. Mais Cassandre avait été condamnée par le dieu à ce que ses propos ne fussent pas entendus. Jamais donc on n’envisage que si la catastrophe ne s’est pas produite, c’est précisément parce que l’annonce en a été faite et entendue. Comme l’écrit Hans Jonas : «  La prophétie de malheur est faite pour éviter qu’elle ne se réalise ; et se gausser ultérieurement d’éventuels sonneurs d’alarme en leur rappelant que le pire ne s’est pas réalisé serait le comble de l’injustice : il se peut que leur impair soit leur mérite[12].  »

Cassandre avait été condamnée à ce que ses propos ne fussent pas entendus.

Voilà quelque chose que les «  collapsologues  » n’ont absolument pas compris[13]. Ils nous disent que le grand effondrement est certain et ils risquent ainsi de le faire advenir, par autoréalisation : les gens ne peuvent que baisser les bras. En face, leurs adversaires, les anti-catastrophistes ne font pas mieux en plaidant la thèse du «  circulez, il n’y a rien à voir et tout va bien se passer  »[14]. Ce contentement de soi (complacency en anglais) a des effets non moins délétères : on ne fait rien, et la catastrophe arrive tout aussi bien. Les uns et les autres commettent la même faute, qui relève de la logique et de la métaphysique. Ils ne tiennent pas compte du retour causal de la prophétie sur la chose ou l’événement prophétisé, alors même qu’ils entendent par leur parole occuper l’espace public. Si le but qu’ils poursuivent est d’éviter que le pire advienne, alors ni l’optimisme béat des anti-catastrophistes ni le fatalisme mortifère des collapsologues ne résolvent l’équation.

À quoi donc pourrait ressembler une parole publique qui annoncerait l’avenir d’une façon telle que l’avenir ne la détromperait pas sans être pour autant l’avenir catastrophiste des collapsologues ? La non-catastrophe devrait en faire partie mais la catastrophe également afin de pouvoir faire office de dissuasion. Cette double condition implique que l’avenir soit envisagé comme une superposition d’états contradictoires, créant une indétermination qui est la clé du problème posé. Je note simplement qu’on est loin de la position consistant à affirmer que la catastrophe est certaine[15].

[1] - L’expression de deep learning («  apprentissage profond  ») a été inventée par Yann Le Cun qui a fait sa thèse au Crea, le centre de recherches philosophiques que j’ai créé et dirigé à l’École polytechnique. Créateur d’un des algorithmes les plus géniaux pour traiter les masses énormes de données, il a été recruté par Mark Zuckerberg pour développer l’intelligence artificielle avancée au sein de Facebook.

[2] - Philip K. Dick, Minority Report [1956], trad. par Hélène Collon, Paris, Gallimard, 2002. Steven Spielberg en a fait un film du même titre en 2002 qui, hélas, fait passer la dimension métaphysique de l’histoire par pertes et profits.

[3] - Le Dieu de Leibniz est un prédicteur parfait dans tous les mondes possibles : il prédit exactement non seulement ce que je ferai mais aussi ce que je ferais si telles ou telles circonstances se produisaient qui ne se produisent pas dans notre monde. Son omniscience au sujet de l’avenir est dite essentielle. Le jésuite espagnol du xvie siècle Luis de Molina a appelé connaissance moyenne ce savoir que, déjà, il prêtait à Dieu.

[4] - Hannah Arendt, Eichmann in Jerusalem. A Report on the Banality of Evil [2e édition, 1964], New York, Penguin, 1994, p. 497 [je traduis]. La désastreuse traduction française est à éviter. Dès le titre, elle est fautive. Le mot report dans celui-ci ne signifie pas «  rapport  », mais «  reportage  ».

[5] - Le mot crime en anglais possède une acception plus large qu’en français. En France, un vol n’est pas un crime, mais un délit, alors qu’il est bien a crime en anglais.

[6] - Ismaël Benslimane, «  Étude critique d’un système d’analyse prédictive appliqué à la criminalité : PredPol  », Grenoble, Cortecs/université Joseph-Fourrier, 2014.

[7] - Bilel Benbouzid, «  De la prévention situationnelle au predictive policing. Sociologie d’une controverse ignorée  », Champ pénal, vol. XII, 2015.

[8] - Pour I. Benslimane, «  PredPol semble surtout exprimer d’une manière politiquement correcte, grâce à des données chiffrées sur une carte, qu’il y a plus de délits dans certaines zones d’une ville, sans rien dire de la précarisation de ces zones. […] PredPol est un moyen de cacher une réalité sociale. Au lieu de dire que c’est un quartier pauvre, on va dire que c’est une zone de criminalité. On donne ainsi une valeur de probabilité à un délit, alors qu’on pourrait corréler la criminalité à d’autres facteurs, comme la densité de population par exemple.  » («  Étude critique d’un système d’analyse prédictive…  », op. cit.)

[9] - B. Boubouzid, «  Police prédictive : la tentation de dire quel sera le crime de demain  », L’Obs & Rue89, 27 mai 2015 : «  PredPol, pour moi, c’est un algorithme de droite. Il permet de réduire les dépenses publiques, les effectifs dans la police, de faire des économies.  »

[10] - ABM pour anti-ballistic missile. Le 27 mai 1972, Nixon et Brejnev signèrent à Moscou ce traité par lequel les deux puissances décidaient de se rendre vulnérables à une première frappe de l’ennemi en limitant leur capacité de défense. Chacune offrait ainsi à l’autre la garantie qu’elle ne l’attaquerait pas en premier car les représailles, permises par une capacité de seconde frappe, auraient alors le champ libre.

[11] - Voir l’analyse de cet important épisode de la guerre froide dans mon livre La Guerre qui ne peut pas avoir lieu. Essai de métaphysique nucléaire, Paris, Desclée de Brouwer, 2019.

[12] - Hans Jonas, Le Principe responsabilité. Une éthique pour la civilisation technologique [1979], trad. par Jean Greisch, Paris, Flammarion, 1995, p. 233. Il est très intéressant de comparer ce paradoxe de Jonas à un autre paradoxe de Jonas – il s’agit cette fois non plus de Hans Jonas, philosophe allemand du xxe siècle, mais de Jonas fils d’Amittaï, le prophète biblique du viiie siècle avant Jésus-Christ mentionné dans 2 Rois, 14, 25. Rappelons la structure du récit : «  La parole de Yahvé advint à Jonas, fils d’Amittaï, en ces termes : “Debout ! Va à Ninive, la grande ville, et crie contre elle que leur méchanceté est montée devant moi.” Jonas partit pour fuir à Tarsis, loin de la Face de Yahvé.  » Dieu demande à Jonas de prophétiser la chute de Ninive qui a péché devant la Face de l’Éternel. Au lieu de faire son travail de prophète, Jonas s’enfuit. Pourquoi ? Rien ne nous est dit à ce sujet. Tout le monde sait la suite de l’histoire, l’embarquement sur le vaisseau qui se rend à Tarsis (détroit de Gibraltar), la grande tempête punitive, le tirage au sort qui révèle la culpabilité de Jonas, celui-ci jeté par-dessus bord, à sa demande, par les marins afin de calmer le courroux de Yahvé, le grand poisson miséricordieux qui l’avale et, finalement, après que trois jours et trois nuits se sont écoulés, le vomit sur la terre sèche. Mais c’est seulement à la fin de l’histoire que l’on comprend pourquoi Jonas a désobéi à Dieu. C’est que Jonas avait prévu, en tant que prophète efficace, ce qui allait se passer s’il faisait sa prophétie ! Ce qui se serait passé, c’est ce qui se passe maintenant, alors que Yahvé, pour la seconde fois, lui donne l’ordre de prophétiser la chute de Ninive et que cette fois, ayant compris ce qu’il lui en coûtait de désobéir, il obtempère. Les Ninivites se repentent, se convertissent et Dieu leur pardonne. Leur cité sera épargnée. Mais pour Jonas, c’est un échec cuisant, qui le laisse tout «  contrarié  », nous dit le texte. J’ai bâti mon Pour un catastrophisme éclairé. Quand l’impossible est certain (Paris, Seuil, 2002) autour de la confrontation entre ces deux paradoxes.

[13] - Voir par exemple Pablo Servigne et Raphaël Stevens, Comment tout peut s’effondrer. Petit manuel de collapsologie à l’usage des générations présentes, Paris, Seuil, 2015 ; Julien Wosnitza, Pourquoi tout va s’effondrer, Paris, Les Liens qui libèrent, 2018. On note que cette littérature, se nourrissant de sa propre démesure, passe de la possibilité de la catastrophe à sa certitude.

[14] - Voir par exemple Pascal Bruckner, Le Fanatisme de l’Apocalypse. Sauver la Terre, punir l’Homme, Paris, Grasset, 2011.

[15] - Pour aller plus loin, je me permets de renvoyer à trois livres : Pour un catastrophisme éclairé, op. cit. ; L’Avenir de l’économie, Paris, Flammarion, 2012 ; et La Guerre qui ne peut pas avoir lieu, op. cit.

Jean-Pierre Dupuy

Philosophe, épistémologue   Dans son œuvre, Jean-Pierre Dupuy a à cœur de tisser des liens entre les différents champs du savoir (économie, anthropologie, épistémologie…) pour mieux comprendre les phénomènes auxquels est confronté le monde contemporain, qu’il s’agisse de la crise financière ou du risque de destruction que le développement des armes de destruction massive fait peser sur…

Dans le même numéro

Quand le langage travaille

Là où nos sociétés connaissent des tensions, là aussi travaille le langage. Le dossier d’Esprit (décembre 2019), coordonné par Anne Dujin, se met à son écoute, pour entendre l’écho de nos angoisses, de nos espoirs et de nos désirs. À lire aussi dans ce numéro : les déçus du Califat, 1989 ou le sens de l’histoire et un entretien avec Sylvain Tesson.