Le Mythe de la Singularité. Faut-il craindre l'intelligence artificielle ?, de Jean-Gabriel Ganascia

L’intelligence artificielle (IA), ce serpent de mer scientifique, philosophique et romanesque, connaît un regain ­d’intérêt : nombre d’experts prennent la parole, soit qu’ils appellent de leurs vœux cette promesse d’immortalité, soit qu’ils redoutent la fin de ­l’humanité, remplacée par les machines. L’auteur, professeur à l’université Pierre et Marie Curie et président du comité d’éthique du Cnrs, ouvre son livre par ce tableau d’apocalypse, mais pour mieux en dénoncer les paralogismes et modérer les peurs. La Singularité, en effet, présente au premier abord des atours scientifiques – ce terme provient d’ailleurs des mathématiques, où il désigne une rupture sur une courbe régulière. La théorie de la Singularité en procède, et anticipe un point de rupture à venir, où l’intelligence des machines dépassera celle des humains. Pour autant, ce modèle repose sur des pieds d’argile.

Dans un contexte où nous entendons beaucoup de bêtises, Jean-Gabriel Ganascia prend du recul, donne des arguments précis et rationnels propres à tout examen critique, avec clarté et didactisme. Ainsi, l’utilisation de la loi de Moore, devant prédire une évolution technologique catastrophique à long terme, est largement contestable. Selon cette loi empirique, le nombre de transistors d’un circuit électronique double tous les deux ans, ce qui assure un développement linéaire des capacités de nos machines. Or «  en 2016, la société Intel mentionne un ralentissement du rythme de miniaturisation des processeurs et, en conséquence, un écart à la loi de Moore  ». La Singularité, tout esprit, se heurte au mur de la matière, du réel : le mur du silicium. Qui plus est, «  l’observation de la loi de Moore sur les cinquante dernières années ne garantit nullement sa validité dans le futur  », puisque «  l’examen rétrospectif des études prospectives montre que le futur obéit rarement aux prévisions  ». Le progrès est convulsif : il n’existe pas de déterminisme technologique. En effet, la modélisation n’est qu’un moyen entre le scientifique et son objet d’étude, un simple outil de mesure. Cependant, l’accumulation des observations ne suffit pas toujours à justifier un modèle. Enfin, l’auteur évoque trois autres barrières au progrès exponentiel de l’IA : barrière spatiotemporelle qui limite la vitesse de propagation des ondes électromagnétiques ; barrière quantique qui tient à la fréquence finie de transmission de l’information ; et barrière thermodynamique qui accroît l’entropie physique devant compenser la diminution de l’entropie informationnelle, celle qui résulte du calcul.

Quant à la discipline même d’intelligence artificielle, elle est sujette à bon nombre d’idées reçues en raison même de sa complexité. Pensons au machine learning, cette technique qui permet aux ordinateurs, à partir d’une large base de données, d’apprendre par eux-mêmes. C’est de cette façon que le logiciel AlphaGo a battu, à la stupeur générale, le champion de jeu de go. Néanmoins, même quand la machine apprend sur une très grande quantité d’exemples, ces exemples n’en demeurent pas moins annotés : c’est de «  l’apprentissage supervisé  », et la machine n’apprend jamais toute seule à apprendre. « Rien dans l’état actuel des techniques de l’Intelligence artificielle ­n’autorise à affirmer que les ordinateurs seront en mesure de se perfectionner indéfiniment sans le secours de l’Homme, jusqu’à s’emballer, nous dépasser et acquérir leur autonomie. » Pensons aussi aux «  ruptures épistémologiques  » (Bachelard), aux «  changements de paradigme  » (Kuhn), où des concepts nouveaux renversent totalement nos réflexions passées. Galilée ou Einstein ont été les génies de ces révolutions. Comment une machine peut parvenir à penser de telles mutations ? La question est encore aujourd’hui sans réponse, d’autant qu’elle renvoie à un paradoxe logique, inhérent au mythe de la Singularité : comment une rupture techno­logique pourrait-elle se déduire d’une loi qui se fonde sur la régularité même du cours de la technologie ? La Singularité est une contradiction dans les termes. Enfin, dernier problème, l’intelligence, qui n’est pas le calcul, suppose la conscience, et donc une capacité à formuler des sentiments en première personne : par exemple, «  j’ai mal aux dents  », et non pas «  il y a un problème dentaire  ». Or on voit mal, jusqu’à maintenant, comment une machine pourrait ressentir quoi que ce soit et avoir des émotions. Cette distinction entre le calcul des machines (ratio) et l’intelligence humaine (logos), l’auteur l’étaye au moyen d’encarts précis, telle la chambre chinoise de Searle, ou encore le débat entre intelligences artificielles faible et forte. L’intelligence ne saurait être réduite à une exécution rapide d’opérations élémentaires, ni au nombre d’informations stockées dans une mémoire : elle requiert, bien au contraire, une capacité d’autonomie – se donner à soi-même ses propres fins – et une compréhension du sens.

On le voit, du mythe à la mystification, il n’y a qu’un pas, que les propagandistes de la Singularité franchissent sans vergogne. Les techno-gourous adoptent un ton religieux, reprenant l’eschatologie de la gnose antique qui détachait l’esprit humain de son corps – captation d’héritage que l’auteur retrace à merveille. La catastrophe annoncée par nos futurologues ne repose donc sur aucun modèle théorique. Mais alors, si la Singularité est un faux problème, pourquoi ce nouveau millénarisme ? Ces «  fables extravagantes  » ont d’abord le tort de détourner notre attention des vraies questions que soulève déjà l’Ia, comme celle de la gestion et du contrôle de nos données personnelles. Les adeptes de la Singularité sont ceux-là mêmes qui promeuvent les outils à base d’Ia : après s’être enrichis, ils continuent, tout en nous faisant peur, de la développer… pour nous en prémunir. Le discours prophétique est donc performatif : en promettant l’apocalypse, la Silicon Valley se donne les moyens de légitimer ses technologies et de favoriser l’investissement. Un cynisme bien calculé, tout compte fait, de la part de pompiers pyromanes qui, petit à petit, avancent des prétentions politiques, forts de leur catastrophisme, qui assure leur notoriété. Car l’hubris des «  singularitariens  » est à la mesure, paradoxalement, de leur impuissance : ces démiurges restent soumis, économie de marché oblige, aux utilisateurs. Pour capter l’attention de ces consommateurs, force est de déployer un grand récit, à grands renforts médiatiques. Ces fables extra­ordinaires (devenir immortel, télécharger son esprit…), parce qu’elles font peur et fascinent, détournent notre regard, nous divertissent – au sens de Pascal – et portent notre attention sur autre chose que la réalité complexe du monde.

L’épouvantail de la Singularité, précisément, doit masquer ces intrusions dans la sphère politique ; les entreprises libertariennes construisent leurs programmes politiques en rivalité avec les États-nations, fortes de leur grand récit concurrentiel, d’autant plus grand qu’il est fou, exagéré : en un mot, prophétique. Politique, cet essai ne l’est pas moins : en bon scientifique, Jean-Gabriel Ganascia se doit de dénoncer des déclarations pseudo-objectives, et pour tout dire excessives. La mission des savants est, non pas d’affabuler, mais, plus sobrement, «  dans la mesure de leurs compétences propres, d’indiquer les possibles et les probables pour aider les humains à se déterminer et à agir  ». En définitive, l’apocalypse n’est pas pour tout de suite. « Si rien ne permet d’affirmer l’impossibilité absolue de la Singularité, elle est hautement improbable, si improbable qu’on ne saurait l’envisager sérieusement. » La technologie est comme la langue d’Ésope : selon l’usage que l’on en fait, à la fois la meilleure et la pire des choses.