Calculer / Penser

1. Calculer, est-ce penser ?

Vous avez dit calculer ?

La question du calcul est certainement une de celles qui ont fondé l'informatique, et continuent de préoccuper ceux qui réfléchissent à propos de cette science.

Dans le langage courant, le terme calculer signifie trois choses :

• soumettre à une opération mécanique ou un algorithme répétitif (par exemple, le calcul mental) ;
• soumettre à une mesure commune (calculer la valeur d'une marchandise) ;
• soumettre à une appréciation anticipatrice (calculer les avantages et les inconvénients).

En mathématiques règnent les procédures opératoires. La formalisation du raisonnement mathématique, réalisé de manière complète au début du XX^e siècle, permet de ramener le raisonnement mathématique à un calcul, avec des symboles et un ensemble de règles complètement spécifiées. C'est l'idée des systèmes formels en logique mathématique.

L'ordinateur implémente la mécanisation du raisonnement ainsi formalisé. Mais, lorsqu'une machine exécute un calcul comme une suite d'instructions, cela ne nécessite aucune pensée, aucune forme d'intelligence de sa part. En revanche, l'interprétation du résultat du calcul fait appel à la pensée.

En pratique, c'est toujours l'esprit humain et non quelque procédure mécanisée qui est ainsi producteur des résultats mathématiques publiés aujourd'hui. Il faut donc être très prudent quand on parle de « raisonnement » à propos d'une machine qui calcule sur des éléments symboliques : il y a beaucoup d'idées reçues sur ce sujet.

D'autres disciplines font un usage instrumental du calcul : le météorologue ou le géologue, l'expert financier ou le médecin… calculent. Ces domaines font moins appel à l'invention de procédures opératoires originales (premier sens du mot calcul) qu'à l'établissement de protocoles de mesure (deuxième sens) et d'interprétation et de décision (troisième sens). Sans avoir l'initiative d'une véritable démonstration au sens déductif du terme, ces sciences empiriques plutôt que théoriques s'appuient sur des mesures ou des calculs pour justifier une décision à prendre. On calcule, on interprète, on décide, le passage d'une étape à l'autre n'étant jamais mécanique mais dépendant de priorités, d'une hiérarchie des fins et des urgences.

En l'honneur de la « pensée calculante »

Il est facile de dénigrer le travail laborieux de l'esprit calculant, comme celui du comptable dont on imagine trop facilement qu'il est habité par le ressentiment et l'impuissance, car ce n'est jamais lui qui décide (lire par exemple Le souterrain de Dostoïevski).

Cependant, le calcul s'avère indispensable partout où il s'agit de compter des quantités discrètes et de représenter adéquatement la variation de grandeurs continues. Leibniz dit que la connaissance a besoin des critères, non seulement de clarté et de distinction, mais encore d'adéquation entre l'expression et son objet : les bonnes expressions sont celles qui sont adéquates. Il montre que le mathématicien van Ceulen, qui a exprimé 35 décimales de π, n'a pas donné le moyen de continuer : le passage d'une décimale à l'autre semble aléatoire. À l'inverse, Leibniz découvre l'expression de π/4 par une série infinie : π/4 = 1 - 1/3 + 1/5 - 1/7 + …, ce qu'il appelle la « quadrature arithmétique du cercle ». Un même objet mathématique est susceptible de plusieurs expressions, mais pas au sens où les unes seraient exactes et les autres approchées ; Leibniz découvre au contraire qu'une expression infinie peut exprimer exactement une quantité finie. Il sera dès lors à la recherche des nouveautés de notation qui, assorties de règles opératoires rigoureuses, permettent de pratiquer ce qu'il appelle un « calcul aveugle », ou encore une « pensée aveugle » ou « symbolique » : il s'agit de raisonner sur des signes sans avoir à l'esprit leur signification, ce qui amène à séparer la question du fondement du calcul de celle de la nature de ses objets (par exemple, la mise au point de la formule de différenciation du produit : d(xy) = x.dy + y.dx).

Leibniz parle de « ce miracle de l'Analyse, prodige du monde des idées, objet presque amphibie entre l'Être et le Non-Être ». Entre le monde réel des phénomènes et le monde imaginaire de nos illusions, il y a le monde amphibie des êtres idéaux et fictifs sur lesquels porte le nouveau calcul.

Critique de la « pensée calculante »

Heidegger, lui, dénie que le calcul soit une forme de pensée et réduit toute la science à n'être qu'une modalité du calcul. Sa thèse le conduit alors à dire que « la science ne pense pas ».
Pour Heidegger, le « savant » croit que la technique n'est qu'une application de la science et que celle-ci a pour fin le bonheur de l'Homme, cette double croyance s'appelant le progrès. C'est donc une conception instrumentale de la science (elle est utile), avec une perspective finaliste (elle vise au bonheur des Hommes).

Dans les deux cas, le savant, selon Heidegger, passe à côté de l'interrogation sur l'essence de la science, qui est de n'être ni un moyen ni une fin. Pour le comprendre, il faut remarquer que la science a beau avoir précédé la technique moderne, elle est embarquée dès l'origine dans le destin de l'essence de la technique, qui ne se manifeste en plein jour qu'à l'époque moderne. L'essence de la technique consiste à expliquer toute chose : trouver sa raison d'être, c'est-à-dire la soumettre à une explication causale. C'est alors le rôle de la science de lui faire rendre raison, organiser ces explications en théories, prédire de nouveaux résultats. Pour l'exploiter en retour d'un point de vue technique.

Dans cette optique, la science se comprend à partir de la technique et non l'inverse. Loin de la rabaisser, cela lui donne à la fois sa légitimité et son efficacité. Cet ancrage de la science dans la technique ne concerne pas que la nature, mais l'Homme lui-même, dont le destin moderne est ainsi scellé.

Commentant la phrase de Max Planck : « Est réel ce qu'on peut mesurer », Heidegger dit que la science moderne soumet le réel au calcul. « Nous ne devons pas entendre ce terme au sens rétréci d'opérations faites sur des nombres. Au sens large et essentiel, calculer veut dire : compter avec une chose, c'est-à-dire la prendre en considération, compter sur elle. De cette manière toute objectivation du réel est un calcul. »

Cette extension du calcul à toute l'activité scientifique ne signifie donc pas une promotion de la technique, mais au contraire, le basculement hors du concret et dans l'abstraction. Une telle abstraction peut être étrangère à la nature symbolique de l'Homme, et à son rapport au langage usuel. Ce basculement peut alors générer des sentiments de rejet : c'est pourquoi Heidegger voyait dans la cybernétique et l'informatique (science des machines et du traitement de l'information par le calcul) une menace suprême, un crime contre-langage !

Théoriser ou calculer ?

On a souvent souligné la différence qu'il y a entre les théories physiques, qui doivent être confirmées par des observations et des expériences — une théorie peut éventuellement être réfutée — et les mathématiques qui n'invalident jamais ce qui a déjà été démontré : « Une fois que la démonstration d'un théorème à partir d'un système d'axiomes a été reconnue correcte, le théorème n'est plus jamais remis en question » dit Jean Dieudonné, l'un des fondateurs de Bourbaki (Pour l'honneur de l'esprit humain. Les mathématiques aujourd'hui). Il y a cependant une évolution de la pensée mathématicienne, qui ne consiste pas en une simple accumulation de nouveaux théorèmes, mais opère une réorganisation continuelle en fonction de nouveaux problèmes.

La pensée ici à l'œuvre ne tient pas à l'inventivité incessante des problèmes, au contraire de ce qu'affirmait Hilbert : « Une branche de la science est vivante aussi longtemps qu'elle offre une foule de problèmes. Le manque de problèmes signifie sa mort ou la fin de son développement ». Elle tient plutôt à la capacité de réorganiser tout le champ du savoir constitué. Les mathématiques théorisent après coup des découvertes dont l'origine est parfois accidentelle. De ce point de vue, Paul Valéry a donc tort en affirmant : « Une difficulté des mathématiques est la manière « abrupte » dont les définitions s'introduisent. (…) On ne dit pas d'où l'on part réellement, ni où l'on va. » (Cahiers II) . Ce reproche s'applique peut-être hélas à quelque façon de l'enseigner, mais ne correspond pas à la réalité de la production scientifique.

Il faut donc bien distinguer deux gestes aussi légitimes l'un que l'autre, celui de la théorisation et celui du calcul.

Du calcul à la décision humaine

On appelle effectivité la capacité de réduire un problème à un calcul, un algorithme, un procédé mécanique. Ces termes sont synonymes pour Alan Turing, le mathématicien qui a imaginé une machine à calculer automatique et universelle, à l'origine des ordinateurs : « Un nombre est calculable lorsque son expression décimale est calculable avec des moyens finis » (Théorie des nombres calculables). Turing note qu'il s'agit bien de libérer la mémoire humaine « nécessairement limitée ». Dire que le nombre ? est calculable avec des moyens finis, c'est dire qu'il existe un programme qui affiche la suite de ses décimales, même si cette opération prend un temps infini. Le programme continuera de délivrer les décimales, là où la mémoire humaine faillirait par manque de systématisme, en plus de l'impossibilité de conserver une attention soutenue.

Mais il faut aussi distinguer cette effectivité du calcul, que l'on trouve aujourd'hui dans toutes les disciplines qui utilisent des outils mathématiques et la simulation, de la décision humaine qui intervient sur la base du calcul, et qui l'interprète en fonction d'autre chose que lui-même. On peut avoir des modèles mathématiques effectifs en économie, et être incapable de prévoir l'état de l'économie réelle car il est susceptible d'être bouleversé par une guerre, la psychologie des investisseurs, etc.

Êtes-vous calculateur ?

De même que mesurer (faire des mesures) ce n'est pas avoir l'esprit de mesure (éviter l'excès en tout), calculer (faire des opérations) ce n'est pas avoir l'esprit calculateur (user de tous les moyens pour atteindre ses fins). Dès que les termes de mesure, de calcul, sont appliqués à l'esprit humain, ils prennent un sens finaliste qui les éloigne de leur origine, même si en l'occurrence l'un prend un sens noble (le sens de la mesure), l'autre un sens péjoratif (l'esprit de calcul). L'esprit humain n'appartient pas au domaine de la nature, c'est-à-dire des choses mesurables et calculables, mais au domaine de l'action et de la décision. C'est sur un fond d'indétermination que la liberté de l'esprit se manifeste et que la forme qu'elle prendra n'est jamais prévisible. C'est aussi la raison pour laquelle on rapporte toujours les comportements et les décisions, non à la fatalité des chiffres ou des causes qui les détermineraient à leur insu, mais aux intentions qui leur ont donné naissance.