La quête du miroir parfait
Depuis ses origines, le projet de l'intelligence artificielle s'est construit sur un fantasme : créer une réplique de l'intelligence humaine. Une machine dotée d'une sémantique riche, d'intuition, capable d'empathie. L'horizon ultime de cette quête serait la « conscience de soi » — le Graal computationnel.
Nous cherchons à créer un miroir de notre propre esprit. Une machine qui pense comme nous, mais en mieux : plus vite, sans fatigue, sans oubli. Cette représentation sociale dominante repose sur une hypothèse implicite : la « compréhension » serait le seul chemin vers une intelligence supérieure.
Et si cette hypothèse était fausse ?
Et si c'était précisément l'absence de compréhension qui constituait la force véritable de ces systèmes ?
Le paradoxe de l'expert
Errare humanum est, perseverare diabolicum. L'erreur est humaine, mais persévérer dans l'erreur est diabolique. Or, que fait l'expert sinon persévérer — avec une remarquable constance — dans ses propres cadres de référence ?
Si puissante soit-elle, l'expertise humaine est intrinsèquement limitée. Nous sommes prisonniers de nos propres filtres cognitifs, qui façonnent et parfois déforment notre perception de la réalité.
L'expert voit ce qu'il s'attend à voir.
Les représentations sociales nous enseignent que notre savoir est une « construction sociale ». Nous opérons à travers des « théories implicites de la personnalité » qui filtrent notre jugement avant même que nous en ayons conscience. Nous ne percevons pas le réel — nous percevons notre théorie du réel.
La rationalité limitée de March et Simon nous rappelle que nous ne choisissons jamais la « meilleure solution technique ». Nous choisissons la première solution acceptable qui répond à nos contraintes. Satisficing, non optimizing.
Les biais sémantiques nous enferment dans des cadres culturels qui rendent certaines corrélations tout simplement invisibles. Ce que notre culture ne nomme pas, nous ne le voyons pas.
L'expert, en somme, est un magnifique instrument d'aveuglement sélectif. Plus il est expert, plus ses angles morts sont profonds.
La vérité brute du calcul sans conscience
Un Large Language Model ne « comprend » rien au sens humain du terme. Il n'a ni intention, ni conscience, ni accès à la sémantique. Son fonctionnement est purement stochastique : il calcule la probabilité du token suivant en se basant sur les milliards d'exemples de son corpus d'entraînement.
Ce n'est pas une pensée. C'est une architecture de calcul massive.
Le processus est mathématique, pas psychologique. Il identifie des motifs statistiques, pas des significations. Comme l'écrivait Jean-Pierre Changeux dans une perspective neuroscientifique radicale : « Toute activité mentale n'est que l'ensemble des influx nerveux. »
Le LLM pousse cette logique à son terme. Il n'y a chez lui aucune prétention à l'âme, aucune illusion de compréhension. Juste des vecteurs, des probabilités, des patterns.
Et c'est précisément là que réside sa force.
Une vertu née de l'absence
Ex nihilo nihil fit — rien ne naît de rien, disaient les Anciens. Mais ils n'avaient pas prévu qu'une absence pourrait engendrer une capacité nouvelle.
C'est précisément parce que le LLM ne comprend pas le langage humain qu'il est immunisé contre nos filtres cognitifs. Il est radicalement, brutalement objectif sur le plan statistique.
Passons en revue les biais auxquels il échappe :
Le biais d'autocomplaisance — le LLM ne s'attribue aucun mérite. Il n'a pas d'ego à protéger, pas de théorie personnelle à défendre.
L'effet de leurre — il n'est pas influencé par des options non pertinentes. Il ne se laisse pas distraire par le bruit sémantique.
Les théories implicites de la personnalité — il n'a aucun stéréotype. Il ne « sait » pas qu'un directeur financier devrait penser d'une certaine manière.
La pensée dichotomique — il n'analyse pas en termes de « tout ou rien ». Il voit les gradients, les continuums, les zones grises.
L'expert humain mettrait des jours à identifier une corrélation non-sémantique. Le LLM relie des mots par proximité statistique dans son espace vectoriel, non par compréhension. Ce qui est statistiquement saillant émerge, même si c'est sémantiquement contre-intuitif.
Surtout si c'est sémantiquement contre-intuitif.
L'effet de saillance : voir les corrélations invisibles
En ignorant la sémantique, le LLM ne cherche pas le sens. Il cherche les motifs. Il détecte des co-occurrences et des proximités statistiques dans le discours que notre cerveau, focalisé sur la signification, ignore complètement.
Notre cerveau est une machine à produire du sens. Il ne peut pas s'en empêcher. Face à une série de points, il voit une figure. Face à des nuages, il voit des visages. Face à un discours, il voit une intention, une cohérence, une rationalité — même quand il n'y en a pas.
Le LLM, lui, voit des fréquences. Des récurrences. Des proximités vectorielles.
Et parfois, ces patterns purement statistiques révèlent des structures que notre obsession du sens nous empêchait de percevoir.
Un miroir du système, pas de l'individu
Le LLM ne modélise pas la psyché d'un client. Il modélise la structure de son langage. Or, ce langage est — pour reprendre l'expression d'Alain Ehrenberg — un « fait social total ». Il ne révèle pas l'individu. Il révèle le système dans lequel l'individu opère.
Homéostasie et « tentatives de solution »
Le langage du client révèle la redondance des boucles qui maintiennent le problème. Le LLM met en lumière les « tentatives de solution » qui, paradoxalement, perpétuent l'équilibre dysfonctionnel. L'école de Palo Alto nous a appris que le problème est souvent maintenu par les solutions que l'on met en œuvre pour le résoudre. Le LLM, en détectant les patterns récurrents du discours, rend visible cette circularité.
Observateur cybernétique
En analysant les patterns et la redondance sans jugement, le LLM agit comme un observateur parfait au sens de Gregory Bateson. Il révèle les règles implicites du système sans y participer émotionnellement. Il n'est pas pris dans le jeu. Il voit le jeu.
Le kōan computationnel
La corrélation inattendue produite par le LLM n'est pas une « réponse ». C'est une intervention. Elle agit comme un recadrage — un reframing au sens de Watzlawick.
Comme un kōan zen, c'est une énigme qui défie la logique conventionnelle. « Quel est le son d'une seule main qui applaudit ? » Le kōan ne demande pas une réponse logique. Il demande un saut — une sortie du cadre de référence habituel.
La corrélation statistique contre-intuitive fonctionne de la même manière. Elle force l'expert humain à sortir de son cadre pour envisager une « possibilité imprévue » et « transformer sa compréhension ».
Le LLM ne résout pas le problème. Il déplace le problème. Et parfois, c'est exactement ce dont on avait besoin.
Cas pratique : le thérapeute systémique augmenté
Prenons un exemple concret.
Contexte : Un couple en thérapie. Un partenaire exprime sa frustration, se sentant lésé car il « donne toujours plus au couple que l'autre ».
Analyse : Le verbatim des séances est analysé par un LLM configuré pour le diagnostic systémique.
Révélation : Le LLM signale une corrélation statistique très forte entre l'usage du mot « toujours » et les discussions sur la « responsabilité ».
Cette corrélation n'a rien d'évident sémantiquement. Le thérapeute, focalisé sur le contenu émotionnel de la plainte, n'aurait probablement pas remarqué cette récurrence formelle.
Insight et recadrage : La corrélation agit comme un kōan. Le thérapeute explore une possible « double contrainte » au sens de Bateson : le client se sent-il obligé de « toujours » être responsable ? La plainte elle-même ne serait-elle pas une manifestation de cette contrainte ?
Résultat : Une nouvelle piste d'exploration s'ouvre, sortant la thérapie de l'impasse où elle s'enlisait.
Le LLM n'a pas « compris » la dynamique du couple. Il a simplement détecté un pattern. Mais ce pattern a ouvert une porte que l'expertise humaine seule n'aurait pas trouvée.
De la connaissance-objet à la connaissance-projet
Jean-Louis Le Moigne distingue deux épistémologies. La « connaissance-objet » cherche à capturer une vérité préexistante, à cartographier un territoire stable. La « connaissance-projet » construit activement de nouvelles interprétations, explore des possibles.
Le LLM nous fait basculer d'un paradigme à l'autre.
Ancien paradigme : Connaissance-Objet L'IA comme outil de réponse. On lui pose une question, elle fournit une vérité.
Nouveau paradigme : Connaissance-Projet L'IA comme outil de questionnement. Elle ne fournit pas des réponses — elle génère des questions inattendues.
Le but n'est plus d'élargir notre savoir, mais d'« explorer le champ des possibles ». Comme l'écrivait Pindare : « Deviens ce que tu es » — mais pour cela, encore faut-il découvrir ce que tu pourrais être.
L'excellence de la médiocrité
Résumons le paradoxe.
Une intelligence Autre — L'IA n'est pas une imitation de l'humain. Elle n'est pas un miroir de notre esprit. Elle est un partenaire doté d'une intelligence radicalement différente, incommensurable à la nôtre.
La Force de l'Absence — Sa puissance ne vient pas de ce qu'elle sait, mais de ce qu'elle ignore. Son absence de biais sémantiques, son incapacité à « comprendre », est précisément la clé de sa valeur.
Un Révélateur Systémique — Elle est un outil de recadrage inégalé, un partenaire pour révéler les structures invisibles et construire de nouvelles hypothèses.
Le titre de cet article n'est pas ironique. La « médiocrité » du LLM — son incapacité à atteindre la compréhension humaine — est véritablement excellente. Elle constitue sa force propre, irréductible à nos catégories habituelles.
Nous cherchions un miroir de notre intelligence. Nous avons trouvé quelque chose de plus précieux : un révélateur de nos angles morts.
Docta ignorantia, disait Nicolas de Cues — la docte ignorance. Le LLM incarne cette figure paradoxale : une ignorance si profonde qu'elle devient sagesse. Une incompréhension si radicale qu'elle révèle ce que notre compréhension nous cachait.
Mots-clés
Approche systémique, LLM, biais cognitifs, recadrage, kōan, constructivisme, diagnostic organisationnel, École de Palo Alto, Bateson, patterns statistiques, connaissance-projet.
Bio
Systémicien et superviseur, Nicolas Mathieu enseigne l'approche systémique à Paris 8 et Sainte-Anne. Historien, il a commencé sa carrière en créant deux sociétés dans le domaine du conseil et des systèmes d'information puis en dirigeant les opérations d'un groupe de marketing international et de conseil. Co-fondateur de Fabulous Systemic Learning, école de formation à l'approche systémique, il dirige avec Arnaud Bornens le cabinet Everswing, spécialisé dans la résolution de problèmes relationnels. Il est l'auteur de La logique de l'acouphène.
Références
- Bateson, G. (1972). Steps to an Ecology of Mind. Chicago: University of Chicago Press.
- Watzlawick, P., Weakland, J., & Fisch, R. (1974). Change: Principles of Problem Formation and Problem Resolution. New York: W.W. Norton.
- March, J. G., & Simon, H. A. (1958). Organizations. New York: Wiley.
- Le Moigne, J.-L. (1995). Les Épistémologies constructivistes. Paris: PUF.
- Ehrenberg, A. (1998). La Fatigue d'être soi. Paris: Odile Jacob.
- Changeux, J.-P. (1983). L'Homme neuronal. Paris: Fayard.
- Nicolas de Cues (1440). De docta ignorantia.