Éloge des sources primaires à l’ère de l’IA générative

Il est étonnant de constater que des « travailleurs du savoir » s’appuient au quotidien sur ChatGPT et consorts pour se renseigner sur des sujets divers et variés. C’est même le principal cas d’usage en France : selon un sondage Ipsos du 10 février 2025, 48% des utilisateurs s’en servent pour « effectuer des recherches ». Pourtant, les IA génératives ont été prises en défaut à maintes reprises. Le terme « hallucination » est même passé dans le langage courant comme désignant un propos produit par un système informatique, asséné avec certitude et vraisemblance, mais entièrement faux.

Des erreurs

Il est arrivé au logiciel d’OpenAI d’inventer un texte de loi, ce qui a mené le cabinet d’avocats newyorkais Levidow, Levidow & Oberman, qui a cru bon de le citer, dans une situation embarrassante. Les professionnels du droit défendaient une personne qui se plaignait de blessures, pour lesquelles elle tenait une compagnie aérienne responsable. Ils ont mentionné dans leur mémoire plusieurs jurisprudences, mais elles n’avaient jamais eu lieu. Du pain béni pour la partie adverse. L’auteur du document a confirmé qu’il avait utilisé ChatGPT et qu’il « n’était pas conscient de la possibilité que ses contenus puissent être faux ». Son supérieur et lui ont chacun été condamnés à payer 5000 dollars à l’été 20231.

Une étude de Stanford, l’université de Californie du Sud et l’université de Loma Linda concernant les informations médicales a montré en 2024 que « entre 50 et 90% des réponses des grands modèles de langage ne sont pas étayées par les sources fournies2  ».

La BBC a, de son côté, publié une enquête en février 2025 sur plusieurs algorithmes3. Le média britannique a ainsi découvert que « 51% des réponses de l’IA ont été jugés problématiques » et que « 19% des réponses de l’IA qui citaient la BBC contenaient des erreurs factuelles ». Cela paraît peut-être faible, mais c’est beaucoup dans des univers qui n’ont pas droit à l’erreur.

Des progrès

Les défenseurs de la technologie prennent souvent en exemple Perplexity, dont le logiciel mentionne ses sources et apparaît effectivement plus fiable, selon la BBC. Ce ne sont peut-être que les balbutiements ; ne disait-on pas aux débuts d’Internet que tout ce qu’on y trouvait était faux ? Les progrès sont rapides et certains d’entre nous auront en tête des gros titres du style « ChatGPT plus fort que des médecins pour détecter certaines maladies ». Effectivement, le logiciel a correctement diagnostiqué des patients avec un résultat médian de 76% contre 74% pour les médecins, d’après une étude menée par Stanford4. C’est bien, mais l’écart demeure faible voire non significatif.

Il n’est pas interdit de penser que l’IA distancera médecins, avocats, enseignants et journalistes : plus elle est spécialisée, plus elle est pertinente. Les professionnels ne sont pas infaillibles et commettent aussi des erreurs, mais rarement les mêmes que celles de l’IA. On pourrait conclure qu’il nous suffit de prendre le meilleur des deux mondes. Mais l’enjeu est tout autre : c’est celui du retour à la source primaire.

Retour aux sources

Ce qui est à craindre avec le déploiement des IA génératives est que leur parole devienne source d’autorité. Car tel est bien le rôle d’une source primaire (texte de loi, étude scientifique ou œuvre littéraire). Et c’est dans le fait de l’avoir parcourue et digérée qu’il est possible d’en avoir une interprétation. C’est ce qu’on appelle littéralement et figurativement le « retour aux sources ».

Cet effort n’est pas demandé à tout un chacun et il est concrètement impraticable pour l’ensemble des questions. Il est néanmoins requis dès que l’on s’intéresse sérieusement à un sujet pour se forger une opinion solide. L’interprétation est un acte d’émancipation. Voulons-nous défendre nos droits ? Lisons la loi. Voulons-nous comprendre une maladie ? Lisons des études scientifiques. Voulons-nous savoir ce qu’untel a voulu dire ? Trouvons là où il l’a dit pour la première fois.

Rien de plus facile aujourd’hui grâce à la fonction « ctrl+F » de nos ordinateurs pour rechercher le passage. Nous percevons alors le contexte dans lequel l’information apparaît. Un contexte qui peut fournir des éléments essentiels que nous ne soupçonnions pas.

Retrouver le contexte

« De même que le tout n’est naturellement compris qu’à partir du détail, de même le détail ne peut être compris qu’à partir du tout », écrivait le théologien du xix^e siècle Friedrich Schleiermacher5. Cette idée est celle du « cercle herméneutique » et correspond au mouvement de la compréhension : un va-et-vient entre le tout et ses parties pour mieux percevoir, prendre du recul ou cerner des détails. Seulement, pour explorer ce cercle, nous ne pouvons pas nous contenter des réponses générées par l’IA.

La machine aura peut-être raison – ou pas –, peu importe. Ce qui compte, c’est le plaisir de recoller les morceaux d’un savoir souvent trop parcellaire, approximatif. Pouvoir dire « à tel chapitre », « dans tel article de loi », « dans telle étude scientifique », ce n’est pas du luxe. Arriver à naviguer entre les sources sans hésitation, sans se reposer sur les on-dit automatiques, et parvenir à synthétiser intuitivement, c’est déceler le sens juste, ou s’en rapprocher le plus possible.

Avons-nous oublié ce qu’est l’esprit d’un texte ? Les juristes connaissent encore bien cette notion, car ils doivent interpréter les lois et se réfugient parfois dans les exposés préliminaires pour appliquer plus justement le droit – général – à des cas particuliers.

Schleiermacher allait jusqu’à écrire qu’il faut « mieux comprendre l’auteur qu’il ne l’a fait lui-même6 ». C’est dire que l’intention initiale ne suffit pas forcément à comprendre ; il faut aller plus loin. Se nourrir d’un contexte linguistique, d’un air du temps et même du ressenti subjectif du lecteur : Schleiermacher a nommé cette méthode « divinatoire7  ». Le terme a été choisi pour désigner ce qui ne s’explique pas uniquement par les concepts, mais ce qui requiert aussi un certain acte de foi en tant que tout un chacun devrait pouvoir reconnaître la validité d’une interprétation pourvu que tous partagent les mêmes connaissances, et surtout le même vécu. Le texte a du sens parce que nous sommes capables de retrouver cet esprit, cette intelligence collective. « La faculté d’exercer avec bonheur cet art repose sur le talent linguistique et sur celui de la connaissance des hommes pris individuellement8. »

C’est un travail que nous pouvons envisager avec les textes scientifiques également : il suffit de consulter les études citées pour remonter le fil d’une pensée. Or, avec l’IA, tout écrit est susceptible d’être trituré, mouliné, déformé pour, au mieux, orienter notre compréhension ou, au pire, induire en erreur, sans les bonnes références qui plus est.

Évidemment, nous ne pouvons et ne devons pas nous substituer à certains professionnels, au premier rang desquels les médecins, mais nous pouvons parler la même langue et – chose semble-t-il originale – dialoguer. Cet exercice demande l’ouverture d’esprit nécessaire pour se remettre en cause, faire preuve de scepticisme vis-à-vis de ses propres interprétations, ne pas disqualifier la méthode scientifique au profit systématique du ressenti, toujours dans l’espoir de mieux comprendre.

Alors replongeons-nous dans les sources primaires avec joie, aujourd’hui qu’elles sont plus accessibles qu’elles ne l’ont jamais été ! Savoir exactement où, quand et comment telle personne a dit ceci ou cela, c’est comme redécouvrir un trésor, parfois au sens propre, car les textes anciens ne manquent pas de gravures et d’enluminures. Soyons riches des traces du passé, des contextes variés et de nos interprétations. La machine ne nous en paraîtra que plus fade, comme un outil purement fonctionnel, ce qu’elle a toujours été, ce qu’elle doit rester et là où elle trouve sa véritable utilité.

• 1. Benjamin Weiser, « Here’s What Happens When Your Lawyer Uses ChatGPT », The New York Times, 27 mai 2023. Voir aussi la décision Roberto Mata vs. Avianca Inc., 22-cv-1461 (PKC), Southern District of New York, 22 juin 2023.
• 2. Kevin Wu, Eric Wu et al., « How well do LLMs cite relevant medical references? An evaluation framework and analyses » [en ligne], 2024.
• 3. BBC, « Representation of BBC News content in AI Assistants » [en ligne], 2025.
• 4. Ethan Goh, Robert Gallo, Jason Hom et al., « Large Language Model Influence on Diagnostic Reasoning: A Randomized Clinical Trial » [en ligne], JAMA Network Open, 28 octobre 2024.
• 5. Friedrich Schleiermacher, « Conférence sur le concept d’herméneutique » [1829], dans Herméneutique. Pour une logique du discours individuel, trad. Christian Berner, Presses universitaires du Septentrion, coll. « Opuscules », 2021, p. 254.
• 6. F. Schleiermacher, « Herméneutique 1819 », dans Herméneutique, op. cit., p. 178.
• 7. Ibid., p. 203.
• 8. Ibid., p. 167.