Comme le souligne l'astrophysicien Christian Magnan, même si l'observation des étoiles peut donner l'idée de l'infini, ce n'est pas une notion physique, mais une notion mathématique, créée pour simplifier les calculs. Le mathématicien et philosophe al-Kindi niait la notion d'infini car il lui semblait paradoxal qu'il ne soit pas unique :

« Le monde est fini car si nous supposons un monde infini et si nous en ôtons une partie finie alors le reste sera ou bien fini ou bien infini. Dans le premier cas si nous lui restituons la partie finie qu'on lui a ôtée alors il restera fini mais il devient égal à ce qu'il était au début, le fini est donc égal à l'infini. Si le reste est infini qu'en adviendra-t-il si nous lui restituons la partie ôtée ? Il ne peut devenir plus grand qu'il ne l'était au début, on aura alors un infini plus grand que l'infini ; il ne peut pas non plus rester inchangé puisqu'on lui a ajouté une partie. Supposer un monde infini entraîne des contradictions et donc ceci est impossible. »

Timbre syrien hommage à Abu Yusuf al-Kindi (801–873). 

Le raisonnement d'al-Kindi implique en fait que, si l'on admet la notion d'infini, elle est forcément multiple.

Infini potentiel et infini actuel

Si l'on reste sur ces considérations, une somme comme

\( \frac{1}{2}+\frac{1}{4}+\frac{1}{8}+...\)

(où les trois petits points recouvrent une infinité de termes, chacun étant la moitié du précédent) n'a aucun sens. Pourtant, on peut interpréter cette somme comme une question concrète, le résultat du partage d'une tarte selon la règle suivante : le premier prend la moitié, le suivant la moitié du reste, et ainsi de suite.

^{Partage d'une tarte en parts réduites de moitié à chaque étape.}

Si les convives sont en nombre infini, la tarte sera entièrement distribuée, ce qui donne l'égalité 

\( \frac{1}{2}+\frac{1}{4}+\frac{1}{8}+...=1.\)

Cette méthode est celle qu'utilisait Archimède dans l'Antiquité, en évitant l'introduction de l'infini : il montrait que plus on prenait de termes, plus on s'approchait de 1. Cette façon de faire correspond à une conception de l'infini appelée infini potentiel : tout nombre peut être dépassé. Au contraire, au XVIII^e siècle, Leonhard Euler envisageait la somme 

\( S=\frac{1}{2}+\frac{1}{4}+\frac{1}{8}+...\)

comme une quantité sur laquelle il pouvait effectuer des calculs, comme sur un nombre ordinaire. Voici à quoi cela correspond. En multipliant S par 2, on obtient

\( 2S=1+\frac{1}{2}+\frac{1}{4}+\frac{1}{8}+...=1+S.\)

L'équation 2S = 1 + S se simplifie en S = 1, d'où le résultat. La méthode est simple mais repose sur l'idée que S a un sens, autrement dit sur l'infini actuel, c'est-à-dire un infini qui existe vraiment, pas une simple potentialité. Ce résultat est correct mais sa justification manque de rigueur, à cause du passage par l'infini. Cependant, on voit à travers ce calcul en quoi l'infini est indispensable en mathématiques.

L'infini est donc nécessaire au calcul, et fournit des résultats importants. Les mathématiques sont une science pragmatique ; cela suffit pour accorder une existence à l'infini, au moins sous forme potentielle. Al-Kindi, qui l'a examinée de façon philosophique, a vu que la considération d'un infini actuel impliquait l'existence de plusieurs infinis… et en a conclu à l'impossibilité. Pour lui, l'infini était absolu ou n'était pas !

Dénombrable… et au-delà 

Il faudra attendre Georg Cantor et la fin du XIX^e siècle pour dépasser ce raisonnement. L'infini exige effectivement l'existence de plusieurs infinis, idée troublante si l'on considère l'infini comme absolu. L'approche la plus simple est celle des ensembles dont on peut imaginer de numéroter les éléments sans jamais les épuiser, comme celui des entiers naturels {1, 2, 3…}. Le corps des nombres rationnels est également dénombrable. Cantor a généralisé la notion de cardinal qui, pour les ensembles finis, est le nombre d'éléments, aux ensembles infinis : deux ensembles ont même cardinal s'ils peuvent être mis en correspondance (biunivoque).

Pour les ensembles infinis, cette notion produit quelques résultats surprenants. Ainsi, l'ensemble des nombres pairs a le même cardinal que celui de tous les nombres entiers (car on peut mettre les deux en correspondance en associant à tout nombre son double, soit 1  \( \leftrightarrow\)  2, 2 \( \leftrightarrow\) 4, 3 \( \leftrightarrow\) 6, etc.). Si un ensemble est infini, on peut toujours numéroter au moins une partie de ses éléments. Il contient donc un ensemble dénombrable. Ainsi, le plus petit cardinal infini est celui des ensembles dénombrables.

Cantor montra ainsi que l'ensemble des nombres rationnels a la même puissance que l'ensemble des entiers, ce qui semble contredire le neuvième axiome d'Euclide, selon lequel le tout est plus grand que la partie. L'égalité des puissances des nombres entiers est des nombres pairs le contredit de la même façon.

Pour aller plus loin, on peut s'intéresser à une question : l'ensemble des réels a-t-il même puissance que l'ensemble des entiers ? Pour montrer que la réponse est négative, Cantor introduit son célèbre procédé diagonal. Écrivons les nombres entre 0 et 1 dans l'ordre de leur numérotation supposée (dont l'existence correspond à l'hypothèse de dénombrabilité), l'un en dessous de l'autre, puis conservons-en la diagonale, ici 252… (voir la figure ci-dessous). Nous obtenons ainsi une suite de chiffres, que nous modifions chiffre à chiffre de sorte à obtenir un nouveau nombre. Où est-il rangé ? Nulle part ! Ce nouveau nombre, X, ne peut figurer dans notre liste : en effet, il peut pas se trouver en place numéro n de la liste (quel que soit n), car par construction le énième chiffre de ce nombres et le énième chiffre de X diffèrent. Ce raisonnement assure que R n'est pas dénombrable.

^{Le procédé diagonal de Cantor.}

 
Scandale mathématique ! 

Georg Cantor fit à nouveau scandale dans le monde mathématique avec une démonstration de l'existence de nombres transcendants : pour cela, il joua sur les différences d'infinis. Son idée de départ est de dire que les nombres réels se subdivisent en deux classes : les nombres algébriques (ceux qui, par définition, sont racines d'un polynôme à coefficients entiers) et les nombres transcendants (les autres). Il démontra alors en numérotant et en ordonnant les équations à coefficients entiers qu'il était possible également de numéroter les nombres algébriques, donc que leur ensemble est dénombrable (c'est-à-dire de cardinal  \( \aleph_0\) ).

En revanche, avec son procédé diagonal, l'hypothèse d'une numérotation des nombres réels aboutit à une contradiction. Le corps des nombres réels est donc de cardinal strictement plus grand que \( \aleph_0\) . En particulier, l'ensemble des nombres algébriques étant dénombrable, il existe des nombres transcendants (et même « beaucoup plus » que de nombres algébriques). Depuis Cantor, on dit que \( \mathbb{R}\) a la puissance du continu.

L'hypothèse du continu

De même qu'Euclide ne put prouver que par un point, il passe une et une seule parallèle à une droite donnée, Cantor échoua à démontrer qu'il n'existait aucun ensemble infini dont le cardinal était compris entre dénombrable et continu. À deux mille ans de distance, leurs démarches furent identiques : ils supposèrent leurs résultats vrais. Le premier est connu sous le nom de cinquième postulat d'Euclide, le second sous celui d'hypothèse du continu. Cela revient donc à dire que le deuxième cardinal infini, noté  \( \aleph_1\) , est le continu (il n'y a d'autre infini « coincé » entre \( \aleph_0\) et \( \aleph_1\) ).

Nier le postulat d'Euclide fait découvrir les géométries non euclidiennes. Autrement dit, ce postulat est un axiome indépendant des autres. Il en est de même de l'hypothèse du continu ! Kurt Gödel a montré en 1931 que l'on pouvait ajouter l'hypothèse du continu aux axiomes ZFC sans contradiction. Plus tard, en 1963, Paul Cohen montre que l'on peut ajouter la négation de l'hypothèse du continu aux axiomes ZFC sans aboutir à une contradiction. En conclusion, l'hypothèse du continu est indépendante des axiomes ZFC (on dit également indécidable dans la théorie ZFC). Dans le cas où l'hypothèse du continu est vraie, les deux premiers infinis, \( \aleph_0\) et \( \aleph_1\) , sont le dénombrable et le continu. On peut alors en construire d'autres en adaptant la diagonale de Cantor pour passer de  \( \aleph_1\) à \( \aleph_2\) .

Pour concevoir une théorie où l'hypothèse du continu est vraie, il suffit de l'ajouter comme axiome. Cette méthode est très artificielle car, contrairement au postulat d'Euclide, un tel axiome n'a rien de naturel, même si on peut l'admettre d'un point de vue purement logique. Un mathématicien platonicien s'y refusera car, pour lui, le monde des idées mathématiques existe et ne dépend pas de nos fantaisies. Les axiomes doivent être « raisonnables » si nous voulons que leurs conséquences le soient. De façon concrète, cela revient à identifier vérité et efficacité. Cette idée de lier la vérité à son utilité peut scandaliser… Dans cet esprit, un axiome est considéré comme « vrai » s'il conduit à une théorie utile. Bien entendu, une telle définition est proprement métamathématique.

Cela dit, cette idée a dirigé le choix des axiomes de la théorie des ensembles. Dans ce sens, un axiome arbitraire comme « l'hypothèse du continu est vraie » ou son contraire « l'hypothèse du continu est fausse » est à rejeter. À l'opposé, l'ajout d'axiomes plus naturels, comme ceux du logicien américain Hugh Woodin, font penser que l'hypothèse du continu est… « moralement fausse » ! Il existerait alors bel et bien des ensembles (non constructibles explicitement, car sinon l'hypothèse du continu serait décidable) « coincés » entre \( \aleph_0\) et \( \aleph_1\) .