Qui dit démonstration dit très souvent raisonnement déductif, mais la démonstration ne s'arrête pas là. Qu'y a-t-il de commun, demande le pédagogue Rudolf Bkouche (IREM de Lille), entre la démonstration par Euclide du premier cas d'égalité des triangles et celle que Hilbert en fait dans ses Fondements de la géométrie en 1899 ? Le thème, certes, mais la méthode, les procédés, le vocabulaire ? Les objectifs demeurent, mais la forme change, les techniques aussi. C'est à cette évolution de la notion de démonstration au cours du temps que nous nous intéressons ici.
Et puis Euclide vint
Avant Euclide, sur les tablettes mésopotamiennes ou les papyrus égyptiens, l'activité mathématique existe indéniablement. Elle se manifeste sous diverses formes : des séries d'énigmes, des listes de problèmes résolus. Chez les Babyloniens, arrêtons-nous sur ces listes, comportant en particulier des équations du second degré : on n'y trouve, il est vrai, pas de texte purement démonstratif, mais on ne peut pas dire qu'on ait là affaire à de simples recettes et les démarches n'ont rien d'aléatoire (voir en encadré).
Chez les Égyptiens, par exemple dans le papyrus Rhind (environ 1650 avant notre ère), beaucoup de problèmes aussi, sous une forme concrète, ouvrent en réalité sur des problèmes théoriques.
Pour résoudre une équation comme
La méthode a une portée générale : c'est une méthode de « fausse position » (voir Tangente Éducation 25, 2013). Jusqu'à Euclide, donc, à partir de problèmes résolus, d'énoncés ancrés dans la pratique, on peut induire une certaine généralisation, mais pas de démonstration vraiment argumentée, aucun système d'énoncés structurés ni reliés entre eux par un arsenal logique.
Et puis vint Euclide, dont les Éléments (environ –300) tranchent sur les écrits de ses prédécesseurs. Pour convaincre celui qui est en face de vous, il faut d'abord le mettre en confiance en positionnant en avant-garde définitions et axiomes. Il faut ensuite le « faire adhérer » par une argumentation persuasive faite d'un raisonnement déductif dûment construit. Le parcours, il est vrai, avait déjà été bien balisé par Thalès de Milet (environ 625–547 avant notre ère), Pythagore et son école (environ 569–500 avant notre ère), puis Eudoxe de Cnide (environ 408–355 avant notre ère) ou Théétète d'Athènes (env. 415 – 369 avant notre ère) qui avaient initié déjà des méthodes générales et une certaine argumentation.
Cela ne doit rien enlever au mérite de systématisation et de coordination d'Euclide, qu'on ne peut qu'admirer.
Il démontre par exemple qu'il existe une infinité de nombres premiers. Suivant la logique d'Aristote, son argumentation est implacable. C'est un magnifique raisonnement par l'absurde : il suppose que A, B, C soient les trois seuls nombres premiers et considère le nouveau nombre
N = A × B × C + 1, l'entier A × B × C étant (proposition 37 du Livre VII) le plus petit nombre divisible à la fois par A, B et C (qui sont par définition premiers entre eux). Il procède alors par disjonction des cas : ou ce nombre N est premier et alors on a un nombre premier supplémentaire, ou il ne l'est pas et il sera « mesuré », c'est-à-dire divisé, par quelque nombre premier p (proposition 34, livre VII) qui ne saurait être ni A, ni B, ni C car sinon p diviserait A × B × C + 1 – A × B × C (proposition 12), ce que la conception même de nombre rend impossible. On a donc construit un nouveau nombre premier et « en cette façon, on en peut trouver une infinité d'autres ».
Le raisonnement est ici décortiqué, les propositions précédentes auquel il fait référence citées, les règles de la logique sont respectées : il s'agit effectivement d'une démonstration. On comprend maintenant pourquoi Euclide fut, pour les mathématiciens grecs qui lui succédèrent, un modèle quant aux justifications de leurs résultats. Toutefois, parallèlement à la tradition euclidienne, des personnages comme Diophante (entre 150 et 350 de notre ère) maintiennent une culture plus « algébriste » et publient seulement des suites de problèmes séparés, sans le squelette de propositions et de méthodes cher à Euclide.
Cinq siècles jusqu'à Descartes
Durant l'empire romain, les exigences démonstratives d'Euclide ont continué à s'estomper et au déclin de cet empire, les mathématiques n'avaient plus ni public ni lieu d'expression, donc de démonstration il n'était plus question.
Pendant ce temps se développaient en Chine des mathématiques, ouvertes à beaucoup de domaines, présentant des résultats parfois complexes. Si le raisonnement écrit était absent de ces « démonstrations », on suivait visuellement son chemin, et on voyait s'établir sous ses yeux des résultats cohérents et convaincants. Il en est ainsi de la « démonstration – puzzle » par Liu Hui, dans le classique lesNeuf Chapitres de l'art du calcul, du théorème de Pythagore, ou du calcul de la somme des carrés des n premiers entiers, qui repose sur l'assemblage astucieux de trois pyramides en un volume irrégulier que l'on peut, par découpage, transformer en pavé de côtés n, n + 1 et (n +
Alors, « monstration » ou « démonstration » ?
Les mathématiciens arabes, eux, ont parfaitement assimilé l'héritage des Grecs et ont certes perpétué la tradition grecque de la démonstration. Ils ont, au XIIe siècle, contribué à répandre la traduction en latin d'ouvrages mathématiques grecs, mais on eut malgré cela recours, à cette période, à des versions « allégées » des Éléments, sans démonstrations… S'il y eut en Europe au Moyen Âge de bons mathématiciens comme Fibonacci ou Nicolas Oresme, les universités ne faisaient pas la part belle aux techniques démonstratives et l'étude des mathématiques restait plutôt dans le cadre philosophique. Les mathématiques se répandaient sous forme de manuels d'arithmétique marchande, dont l'idée de démonstration était absente.
C'est à partir du XVe siècle que l'activité mathématique s'est mise à renaitre : théorisation de la notion de perspective en peinture, résolution d'équations de degré 3 ou 4 par les algébristes italiens, toutes ces découvertes ont fait naître un besoin de justification et de méthodologie. Un tournant s'amorce aussi : si l'on était jusqu'alors dans la synthèse, passage du « connu » (ce qui a déjà été démontré) à « l'inconnu » (ce que l'on va démontrer), avec des mathématiciens comme François Viète dans l'Introduction à l'art analytique et surtout René Descartes, on va revenir à l'analyse, où l'on analyse précisément ce qui est à établir pour aller vers des résultats déjà établis, que l'on utilisera pour effectuer la démonstration. Très critique sur les méthodes des Anciens, craignant « qu'ils réservent [l'analyse] pour eux seuls, comme un secret d'importance », il fait de son Discours de la méthode pour bien conduire sa raison et chercher la vérité dans les sciences, s'agissant de la démonstration, tout un programme. Il le décline en quatre points (voir en encadré), mettant en avant l'agencement clair des idées et l'application à la géométrie de la méthode analytique. L'influence sur la pratique des mathématiques est considérable et c'est grâce à la pensée de mathématiciens du XVIIe siècle, Descartes et les autres, comme Viète, Pascal ou Wallis, que va changer la conception de la démonstration. « La manière de démontrer est double : l'une se fait par l'analyse ou la résolution, et l'autre par la synthèse ou composition » affirmait Descartes, et sa conception de la démonstration va continuer à vivre dans les deux siècles suivants.
L'ère de la nouveauté
Aux XVIIe et XVIIIe siècles, le calcul différentiel et intégral était devenu un outil essentiel pour les mathématiciens et, malgré l'apparente limpidité des démonstrations « à la Descartes », des voix ont commencé à s'élever pour critiquer certains passages « douteux » des démonstrations calculatoires de Leibniz ou de Newton. D'après le mathématicien britannique George Berkeley (1685–1753), même si les calculs de Newton conduisaient à des résultats exacts, leur base n'était « pas plus sûre que celles de la religion ». Il raillait la « méthode des fluxions » (nos dérivées d'aujourd'hui) comme celle des « fantômes des quantités disparues » (voir notre dossier « Mathématiques en Grande-Bretagne » dans Tangente 138, 2010, ou le Calcul intégral, Bibliothèque Tangente 50, 2014).
Clarification et systématisation des concepts, en analyse surtout, ont donc été renforcées dès la fin du XVIIIe siècle, avec l'avènement des « enseignants-chercheurs » nés avec la nouvelle École polytechnique, fondée en 1794. On voit alors fleurir manuels de cours et traités, les professeurs rédigeaient leurs notes de cours avec l'aide de leurs étudiants, tout était fait pour que recherche et enseignement s'enrichissent mutuellement. La transformation ne s'arrêtera pas là : le XIXe siècle verra contenus et méthodes mathématiques changer profondément. En analyse, des notions comme la continuité, l'intégration, la construction des réels font l'objet d'extensions. En algèbre, les énoncés se généralisent facilement grâce à l'utilisation des lettres qu'avait déjà initiée Viète, et on privilégie la forme et les règles plutôt que les objets. On est déjà dans la science des structures, où les démonstrations deviennent des suites de symboles, au risque de n'être plus qu'un jeu formel. La géométrie elle-même n'échappe pas à l'évolution : l'obsession du « cinquième postulat » donne lieu aux géométries non euclidiennes, éliminant du même coup les certitudes liées à l'évidence. Malgré ces évolutions, on espère toujours, au début du XXe siècle, avec David Hilbert (1862–1943) et d'autres, construire un système d'axiomes « complet », c'est-à-dire dans lequel toutes les propositions « vraies » soient démontrables. Cet espoir est ruiné par Kurt Gödel (1906–1978) qui, avec son « théorème d'incomplétude », affirme en quelque sorte qu'il existe des énoncés vrais mais indémontrables :
ils sont indécidables. Le groupe Bourbaki, fondé en 1935, souhaite, lui, refonder les mathématiques et en faire une présentation cohérente, négligeant Gödel en disant simplement : « Il se peut qu'un jour nos successeurs désirent introduire en théorie des ensembles des modes de raisonnement que nous ne permettons pas. »
Bourbaki « permettrait-il » alors des démonstrations d'aujourd'hui faites à l'aide d'arguments purement probabilistes, par exemple pour démontrer la primalité d'un entier, ou des démonstrations par ordinateur, comme celle faite en 1976 du théorème des quatre couleurs ?
Lire la suite