Une caractéristique de l'homme consiste en sa faculté de raisonner, c'est-à-dire essentiellement de tirer d'une manière convaincante une conclusion en partant d'hypothèses. D'après George Pólya, on peut en somme distinguer deux types de raisonnements en fonction de la nature de leur conclusion :

• les raisonnements plausibles, qui fournissent une conclusion incertaine, mais plausible (« plus ou moins probable ») ;

• les raisonnements démonstratifs, qui livrent une conclusion certaine (dans un cadre bien fixé).

Lorsqu'elles sont achevées, les mathématiques n'utilisent que des raisonnements démonstratifs, ce qui explique pourquoi elles sont souvent présentées comme étant la science de référence en ce qui concerne la rigueur et la vérité. Mais, au cours de leur construction et de leur élaboration, elles sont semblables à toute autre connaissance humaine au même stade de développement : un énoncé mathématique doit être « deviné » avant d'être (si possible) démontré et n'est donc au départ qu'une conjecture et pas (encore) un théorème.

Ainsi, quand il travaille à une nouvelle théorie, un mathématicien se comporte comme n'importe quel scientifique : il procède de manière inductive et s'efforce de trouver un énoncé général en examinant attentivement quelques cas particuliers. Or, toute induction aboutit à une conclusion non pas certaine, mais seulement plausible. Le philosophe britannique David Hume fut d'ailleurs, au XVIII^e siècle, l'un des premiers à penser que l'induction n'est pas toujours fiable. Il estimait que ce type de raisonnement repose sur des considérations psychologiques, essentiellement sur un sentiment d'habitude, plutôt que sur des arguments de logique.

Quand les nombres induisent en erreur

Pierre de Fermat (1605-1665) s'est intéressé aux nombre F_n de la forme + 1. Il a observé que les plus petits d'entre eux sont premiers, puisque  F₀ = 3, F₁ = 5, F₂ = 17, F₃ = 257 et F₄ = 65 537. Au vu de ces exemples, il a émis la conjecture selon laquelle tous les nombres F_n sont premiers. Mais au siècle suivant Leonhard Euler constate que F₆ est divisible par 641. Comme toujours en mathématiques, un seul contre-exemple suffit pour affirmer qu'un énoncé est faux. Ainsi, le Toulousain s'était trompé en lançant cette conjecture. Que l'on se rassure, il a connu plus de réussite dans d'autres circonstances !

Un autre Français, Alphonse de Polignac (1817-1890), avait observé notamment que 3 = 2⁰ + 1, 5 = 2² + 1, 7 = 2² + 3, 9 = 2³ + 1, 11 = 2³ + 3, 13 = 2³ + 5, 15 = 2³ + 7, 17 = 2⁴ + 1… Dès lors, il avait conjecturé que tout nombre impair, à partir de 3, est la somme d'une puissance de 2 et d'un nombre égal à 1 ou à un nombre premier. Dans une publication de l'Académie des sciences, datée de 1849, cet énoncé était présenté comme étant un « théorème » qui avait été « vérifié jusqu'à trois millions ». En fait, ce résultat est faux, puisqu'il est mis en défaut par le nombre 127. En effet, 127 peut s'écrire indifféremment sous la forme 2⁰ + 2 × 63, 2¹ + 5 × 25, 2² + 3 × 41, 2³ + 7 × 17, 2⁴ + 3 × 37, 2⁵ + 5 × 19, 2⁶ + 3 × 21. D'où le résultat annoncé, vu que 2⁷ = 128 > 127. Le Hongrois Paul Erdös a même démontré qu'il existe une infinité d'entiers impairs (formant même une suite arithmétique) dont aucun n'est de la forme indiquée par Polignac !

Un nombre entier positif n peut être décomposé en un produit de facteurs premiers, on le sait tous. Notons alors r (n) le nombre de tels facteurs, comptés avec leur multiplicité, avec de plus r (1) = 0. Ainsi, r (2) = r (3) = r (5) = r (7) = 1, r (4) = r (6) = r (9) = 2, r (8) = 3… Pour un entier n au moins égal à 2, on désigne par I(n) et par P(n) le nombre d'entiers positifs k, inférieurs ou égaux à n, tels que r(k) est impair (respectivement pair). Par exemple, pour n = 12, on a r(12) = 3 car 12 = 2² × 3, tandis que I(12) = 7 et P(12) = 5 (en effet, 2, 3, 5, 7, 11, 8 et 12 admettent un nombre impair de facteurs premiers, alors que 1, 4, 6, 9 et 10 en ont un nombre pair). On a donc P(12) < I(12).

Pólya (toujours lui !) avait observé ceci : lorsqu'il choisissait un entier n, il pouvait affirmer que P (n) ≤ I (n). Cette inégalité peut encore s'écrire sous la forme équivalente L(n) ≤ 0, en notant L(n) = P(n) – I(n). La lettre L a été choisie en référence au mathématicien français Joseph Liouville (1809-1882). En effet, la fonction λ, qui porte désormais son nom, est définie par λ (k) = (–1) ^{r (k)} pour tout entier k, de sorte que L est la fonction sommatoire de Liouville (selon la terminologie de la théorie analytique des nombres). On peut trouver des entiers qui annulent la fonction L (voir la suite A028488 de l'On-Line Encyclopedia of Integer Sequences ou OEIS), mais il semble à première vue impossible de trouver un entier n en lequel la valeur de L est strictement positive. La conjecture de Pólya, énoncée en 1919, stipule précisément que, pour tout entier n au moins égal à 2, L (n) ≤ 0. Elle énonce donc que, parmi les entiers ne dépassant pas un entier fixé n, ceux qui comptent un nombre impair de facteurs premiers sont prépondérants. La conjecture est confirmée par tous les nombres naturels… jusque n = 906 150 256. Cependant, elle est infirmée par un résultat du Japonais Minoru Tanaka, qui a découvert, en 1980, que L(906 150 257) = 1. D'autres contre-exemples sont connus, mais celui-ci est le plus petit possible. 

Ainsi, la propriété mise en évidence par Pólya n'est plus une conjecture, mais est simplement une propriété mathématiquement fausse, même si elle est valable dans plus de neuf cent millions de cas !

L'informatique à la rescousse

Revenons à Fermat. Le magistrat toulousain avait indiqué dans la marge d'un ouvrage que, pour tout entier n supérieur à 2, la somme de deux puissances énièmes n'est pas une puissance n-ième. En 1772, Leonhard Euler pensait généraliser ce résultat, qui était alors une conjecture, lorsqu'il écrivait en substance : « De même qu'il n'existe pas deux cubes dont la somme soit un cube, il est certain qu'il est impossible de trouver trois puissances quatrièmes dont la somme soit une puissance quatrième. De la même façon, il semblerait impossible de trouver quatre puissances cinquièmes dont la somme soit une puissance cinquième, et de même pour les puissances supérieures. »

Ces diverses conjectures ont connu des sorts différents. Alors que celle de Fermat est devenue un théorème grâce à sa démonstration par le Britannique Sir Andrew Wiles, celle d'Euler a été partiellement infirmée. De fait, en 1966, les informaticiens américains Leon Lander et Thomas Parkin, de la société Aerospace, ont fourni le contre-exemple suivant relatif à des puissances cinquièmes : 27⁵ + 84⁵ + 1 10⁵ + 1 33⁵ = 1 44⁵. Vingt ans plus tard, le mathématicien israëlo-américain Noam Elkies a trouvé un contre-exemple pour des puissances quatrièmes, à savoir : 2 682 440⁴ + 15 365 639⁴ + 18 796 760⁴ = 20 615 673⁴. Depuis cette découverte, Roger Frye a construit un contre-exemple plus simple, qui est d'ailleurs le plus petit possible pour des puissances quatrièmes : 95 800⁴ + 217 519⁴ + 414 560⁴ = 422 481⁴. Le problème semble encore ouvert aujourd'hui dès que n > 5…