Une lampe, et le jour repris – Dans la Paume du Monde C.9

Recevez gratuitement la Lettre de 450.fm chaque soir. Je m’inscris →

Gardez cet article avec vous
Emportez-le partout en PDF, gardez-le pour toujours — et soutenez une presse libre et indépendante.
+ frais de traitement
Vous avez un code promo ?

Neuvième chronique d’une série sur la soustraction, tirée de « Dans la paume du monde » (Éditions L.O.L., 2026). Chaque pièce se lit seule. Celle-ci entre dans une chambre d’hôpital où un homme raconte une journée qu’il n’a pas vécue, puis dans un cabinet de conseil, et demande aux machines ce que les vieux cartographes savaient faire : dire où leur carte s’arrête.

Une lampe, et le jour repris - Dans la Paume du Monde C.9

« Une seule flamme, et autour d’elle l’atelier disparaît. On y voit mieux dans le cercle ; on ne voit plus qu’il y a un dehors. Georges de La Tour, Saint Joseph charpentier, vers 1642, musée du Louvre. »

Chambre 14, un mardi, huit heures. L’aide-soignante est arrivée la veille dans le service, et pour dire quelque chose elle demande au monsieur ce qu’il a fait de son lundi. Il a soixante et onze ans, de grandes mains, quarante années de camion derrière lui. Il répond sans chercher. Il a chargé la marée à Dieppe un peu après minuit, la route était grasse à cause du brouillard, il était à Rungis avant quatre heures, et Marcel lui a payé le café au pavillon parce que les soles étaient belles. Elle l’écoute en refaisant le lit. Elle trouve seulement qu’il se lève tôt pour un homme de son âge. Il n’a pas quitté l’étage depuis six semaines.

Il ne ment pas, et c’est ce qu’il faut comprendre d’abord. Le menteur connaît la vérité et dit autre chose : il y a en lui deux contenus et un écart voulu entre les deux. Cet homme n’en a qu’un. Les médecins appellent cela confabuler, depuis qu’un psychiatre russe, Sergueï Korsakoff, a décrit à la fin des années 1880 des malades qui remplissaient ainsi le vide de leur mémoire, avec une sincérité entière. Un neurologue de Genève, Armin Schnider, a passé trente ans au chevet de patients semblables, le plus souvent après une hémorragie à l’avant du cerveau, et il a établi le détail qui change tout : ces récits sont rarement inventés.

Dieppe a eu lieu, le brouillard, les soles, le café de Marcel. Simplement, c’était en 1987. Ce qui s’est rompu chez l’homme de la chambre 14, c’est le filtre, logé juste derrière le front, qui dit en silence à chacun de nous, avant même que le souvenir soit net : ceci est de maintenant, ceci n’en est pas. Privée de ce filtre, sa mémoire lui tend un jour d’il y a quarante ans avec la netteté d’hier, et il le prend.

Aussi sa confiance ne trahit-elle rien. Elle est la même quand il dit son nom, qui est exact, et quand il dit Rungis. L’aide-soignante n’a devant elle qu’une seule voix, également assurée d’un bout à l’autre, et aucun moyen d’y faire le partage. Lui non plus. On ne lui rendra pas service en lui demandant d’être plus prudent : la prudence suppose de savoir où porter le doute, et c’est précisément ce qui lui manque. La meilleure volonté du monde ne fabrique pas un signal absent.

Le jeudi, sa femme vient. Ils sont mariés depuis quarante-quatre ans. Il lui raconte Dieppe, elle l’écoute jusqu’au bout, et elle sait, elle, que la ligne de marée s’est arrêtée en 1991 et qu’on a enterré Marcel il y a neuf ans. Elle est la seule personne dans cette chambre capable de dater ce qu’il dit, pour une raison très simple : elle y était. Le signal qui manque au dedans existe encore, mais au dehors, chez quelqu’un qui a connu la chose autrement et avant.

Toute cette série tourne autour d’une opération que j’appelle soustraction : une forme paraît parce que ce qui était de trop est tombé. On taille une pierre ainsi, on corrige une phrase ainsi, et l’on se corrige soi-même de la même manière, en retirant ce qu’on tenait pour vrai et qui ne l’était pas. Or retrancher suppose de discerner. L’homme de la chambre 14 ne se trompe pas dans son tri ; il ne peut plus trier, parce que rien en lui ne distingue ce qui doit rester de ce qui doit tomber. Ce qu’on ne discerne pas, on ne le retranche pas.

Les systèmes d’intelligence artificielle qui écrivent, résument et conseillent à la demande font la même chose, et ce sont leurs propres ingénieurs qui ont choisi le mot. En 2024, dans la revue Nature, une équipe d’Oxford a proposé de nommer confabulations les réponses fausses et arbitraires que ces systèmes produisent avec la même aisance que les vraies. Un tel système prolonge un texte par ce qui a le plus de chances de le suivre. Quand il sait, la suite est juste ; quand il ne sait pas, elle est plausible, et la phrase qu’il vous rend ne porte aucune marque qui sépare les deux cas. Vous êtes l’aide-soignante du mardi. La comparaison a une limite et il faut la dire : l’homme a perdu un filtre qu’il possédait, la machine a été construite sans, de sorte que ce qui est chez lui une blessure est chez elle le fonctionnement ordinaire.

L’équipe d’Oxford ne s’en est pas tenue au mot. Elle a montré qu’on peut repérer une bonne part de ces confabulations par un moyen très simple : poser plusieurs fois la même question et comparer le sens des réponses. Ce que le système sait revient identique sous des mots différents ; ce qu’il comble change d’une fois à l’autre. C’est, sans l’épouse, la méthode de l’épouse : un contrôle qui vient du dehors, puisque du dedans rien ne le signale. Retenons surtout ce que cela prouve. Le signal peut être fabriqué. Qu’il ne soit pas affiché à côté de chaque réponse n’a donc rien d’une fatalité technique.

Quittons la chambre pour un bureau. En 2023, des chercheurs de Harvard, du MIT et de Wharton ont confié des tâches réalistes à sept cent cinquante-huit consultants d’un grand cabinet international, les uns assistés par une de ces machines, les autres non. Sur les tâches que la machine sait faire, la qualité du travail des assistés dépasse de plus de quarante pour cent celle des autres. Sur une tâche voisine, d’apparence semblable, qu’elle ne sait pas faire, ils trouvent la bonne réponse nettement moins souvent que leurs collègues laissés seuls : dix-neuf points d’écart. Le même homme, avec le même outil, rend donc tantôt un travail meilleur que le sien, tantôt un travail pire, et rien dans le dossier ni dans la réponse ne lui dit de quel côté il se trouve. Les auteurs ont donné un nom à cette limite : une frontière déchiquetée. Elle ne suit pas la difficulté apparente des tâches, et ceux qui la franchissent ne la voient pas.

Savoir quand se fier à un instrument est un jugement, et les bons instruments nous y aident en déclarant leur domaine. Une balance porte sa portée maximale, un pont sa charge limite peinte à l’entrée, un médicament la liste de ce qu’il ne soigne pas. Les cartographes d’autrefois le faisaient avec moins de moyens que nous : arrivés au bord de ce qu’ils savaient, ils laissaient la côte se perdre et écrivaient terra incognita. On leur prête aussi des dragons. La formule « ici sont les dragons » ne figure en réalité que sur deux petits globes des années 1500, dont l’un est conservé à New York, mais la légende a retenu ce qu’il y avait de juste dans le geste : cette carte vaut jusqu’ici, et au-delà elle ne répond plus de rien. Une carte qui, parvenue au bord, continuerait de tracer des côtes vraisemblables du même trait ferme ne serait pas plus savante. Elle enverrait des navires sur les rochers.

Une lampe, et le jour repris - Dans la Paume du Monde C.9

« Le globe Hunt-Lenox, vers 1510, l’un des deux seuls objets connus à porter l’inscription “ici sont les dragons”. Une carte qui dit où elle cesse de savoir. New York Public Library. »

Il faut regarder aussi ce que ces machines retirent, puisqu’on ne mesure d’ordinaire que ce qu’elles ajoutent. En 2023, dans Science, deux économistes du MIT, Shakked Noy et Whitney Zhang, ont fait rédiger des documents professionnels à quatre cent cinquante-trois cadres. Avec l’assistance, l’écart entre les meilleurs et les moins bons se resserre, et l’on a salué le résultat comme une justice. Les auteurs sont plus sobres.

Dans la première version de leur article, ils notent que l’outil remplace surtout l’effort du travailleur au lieu de compléter sa compétence ; beaucoup de participants rendaient le texte de la machine à peine retouché. L’écart ne s’est pas refermé parce que le plus faible a progressé, mais parce que le travail a été fait à sa place. Sur le papier, deux hommes rendent le même document. L’un a jugé, l’autre a reçu. Et tous ces protocoles mesurent l’homme pendant qu’il est assisté, c’est-à-dire dans la seule situation où un affaiblissement ne peut pas se voir. On le fait marcher avec sa canne et l’on conclut qu’il marche mieux.

L’inégalité qui vient ne passe donc pas où on la cherche, entre ceux qui se servent de ces machines et ceux qui s’en abstiennent. Elle passe entre l’épouse et l’aide-soignante. D’un côté, ceux qui ont de quoi dater ce qu’on leur dit, parce qu’ils ont pratiqué le métier autrement, avant ; de l’autre, ceux qui reçoivent de meilleurs résultats sans rien pour en éprouver la solidité, et qui vont mieux sur tout ce que l’on mesure. Je ne demande pas qu’on restreigne l’accès : ce serait retirer un gain réel à ceux qui en profitent le plus. Je demande que la ligne soit visible, puisqu’on sait désormais qu’elle peut l’être au moins en partie. Une frontière signalée cesse d’être un piège et devient un renseignement. Tant qu’elle ne l’est pas, on donne à quelqu’un une lampe et on lui reprend le jour : il y voit mieux dans le cercle, et il ne sait plus qu’il y a un dehors.

Le jeudi suivant, la nuit tombe à cinq heures. Elle allume la lampe de chevet, et dans le rond de lumière il recommence Dieppe, le brouillard, les soles. Elle ne le reprend plus. Elle dit seulement, pour l’aide-soignante restée à la porte : c’était en quatre-vingt-sept. Tant qu’elle viendra, il y aura dans cette chambre quelqu’un pour dater Dieppe. Le jour où elle ne viendra plus, le récit sera le même, aussi précis, aussi calme, et plus personne ne saura qu’il a quarante ans.

Ceux qui veulent vérifier plutôt que me croire iront à Armin Schnider, « Spontaneous confabulation and the adaptation of thought to ongoing reality », Nature Reviews Neuroscience, 2003 ; à Farquhar, Kossen, Kuhn et Gal, « Detecting hallucinations in large language models using semantic entropy », Nature, 2024 ; à Dell’Acqua et collaborateurs, « Navigating the Jagged Technological Frontier », Harvard Business School Working Paper 24-013, 2023 ; et à Noy et Zhang, « Experimental evidence on the productivity effects of generative artificial intelligence », Science, 2023.

Ce qui prolongerait cette chronique : la preuve que l’on apprend à voir la frontière en se servant de la machine, sans avoir pratiqué le métier auparavant et sans que rien ne soit affiché. Des débutants assistés dès le premier jour, qui sauraient au bout de quelques mois où l’outil cesse d’être fiable aussi bien que leurs aînés formés sans lui : l’inégalité que je décris se résorberait seule, et je n’aurais plus rien à demander. La semaine prochaine, une pierre qui ne réclame rien, un jeu de cartes que tout le monde évite, et un homme de quatre-vingt-un ans.

Julien Cartier

À lire aussi sur 450.fm

Cet article vous fait réagir ? Vous avez une information ou un témoignage à nous transmettre ?
Écrire à la rédaction
Cet article vous a plu ? 450.fm est libre et gratuit grâce à ses lecteurs. Un don, même modeste, nous aide à continuer. Soutenir 450.fm →

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici

Julien Cartier
Julien Cartier
J. Cartier enseigne. Engagé pour l'enfance et l'inclusion, il s'est vu décerner, par arrêté, la médaille de l'enfance et des familles. Après un parcours pluridisciplinaire en sciences et en recherche fondamentale, il s'est tourné vers l'éducation : enseignant, formateur et concepteur pédagogique spécialisé dans les technologies éducatives. Il a fondé et préside un laboratoire d'idées consacré à l'intelligence artificielle en éducation, et accompagne les pédagogues vers un usage raisonné de ces outils. Il publie aux Éditions L.O.L., où il interroge modestement ce que notre époque lègue aux générations à venir et ce que les machines qui écrivent retirent à ceux qui les utilisent.

Articles en relation avec ce sujet

Une info, un témoignage, une réaction ?

Écrivez à la rédaction de 450.fm, en toute confidentialité.

Contacter la rédaction

DERNIERS ARTICLES