Sa simplicité la rend très maniable, y compris par les plus jeunes. Son caractère inattendu surprend toujours : comment imaginer qu'il pût exister une relation globale aussi élémentaire entre les constituants d'un polyèdre ? Enfin, elle transforme des problèmes de géométrie en problèmes d'arithmétique, jetant un pont merveilleux entre deux mondes. Assurément, la formule d'Euler est belle !

En fait, elle est tellement simple que Euler lui-même s'est étonné qu'elle ne fût pas déjà connue. Johannes Kepler (1571–1630), grand amateur de polyèdres, intéressé par la numérologie, a-t-il pu ne pas la remarquer ? Peut-être, parce que deux de ses nouveaux polyèdres, les oursins de Kepler, ne vérifient pas la formule magique… Cependant, l'intuition d'Euler était la bonne : en France, Descartes l'avait, sinon découverte, au moins pressentie.

Descartes, le précurseur

Dans son texte Progymnasmata de Solidorum Elementis, Descartes énonce son théorème : la somme des déficits des sommets vaut huit angles droits. Par déficit d'un sommet, il faut comprendre le complément à 360° de la somme des angles des faces qui concourent en un sommet. Ainsi, pour un tétraèdre régulier, trois triangles équilatéraux se joignent en un sommet. Or, 3 × 60° = 180°, on a donc un déficit de 360° – 180° = 180° en chacun des quatre sommets. Pour un cube, trois carrés se rejoignent à chaque sommet ; 3 × 90° = 270°, on a donc un déficit de 90° en chacun des huit sommets. Comme le déficit au sommet mesure le côté « pointu » de celui-ci, le théorème de Descartes traduit un fait bien connu des constructeurs de polyèdres : moins il y a de faces, plus les sommets sont pointus !

Le théorème conduit à la formule d'Euler, mais rien dans les écrits de Descartes ne confirme ou n'infirme qu'il la connaissait sous la forme S + F = A + 2.

Descartes a vraisemblablement composé son texte durant l'hiver 1619–1620, mais il ne le publia pas. Il meurt le 11 février 1650, à Stockholm, le climat ayant eu raison de sa santé fragile. Ses effets personnels sont récupérés par son ami Pierre Chanut, ambassadeur de France à Stockholm. Le texte est inventorié (« environ seize feuillets in octavo sous le titre Progymnasmata de Solidorum Elementis »). En 1653, il expédie des textes à son beau-frère Claude Clerselier, également un ami de Descartes. La caisse contenant le manuscrit est transbordée à Rouen dans un navire pour Paris. Mais le navire fait naufrage en arrivant à Paris, la caisse reste trois jours dans l'eau ! Récupéré, le manuscrit sèche, feuillet par feuillet, sur des cordes à linge, dans différentes pièces d'une maison. Ce séchage disperse les feuillets. Clerselier commence à publier certains papiers à partir de 1657, il décédera en 1684. 

^{La première page de la copie de Leibniz.}

Leibniz était à Paris en 1675 et 1676 avant de rentrer au service de la maison de Hanovre. Il copia alors divers manuscrits non publiés de Descartes, dont le Progymnasmata de Solidorum Elementis en 1776. Le manuscrit original de Descartes disparaît sans avoir été publié… tout comme la copie de Leibniz. Elle ne le sera qu'en 1860, après avoir été découverte par le comte Foucher de Careil parmi des collections de papiers de Leibniz non catalogués à la bibliothèque royale de Hanovre. Eugène Prouhet comprend immédiatement l'intérêt mathématique des inédits de Descartes, qui sont alors diffusés. Quoi qu'il en soit, Euler n'a pas pu avoir connaissance des travaux de Descartes.

La découverte

En novembre 1750, dans une lettre à Christian Goldbach (1690–1764), Euler déclare qu'il a commencé à travailler sur les polyèdres. Dans un polygone, le nombre de sommets est égal au nombre de côtés. Il constate alors que dans un polygone à n côtés, la somme des angles est égale à 2 (n – 2) × 90°, soit 180° pour un triangle, 360° pour un quadrilatère… Il suppose qu'il doit aussi exister des théorèmes généraux pour les polyèdres. Rapidement, il trouve la formule des déficits de Descartes, puis le fameux F + S = A + 2. Il présente ces formules quelques semaines plus tard à l'Académie de Saint-Pétersbourg, le 25 novembre 1750, en admettant qu'elles sont correctes pour toutes les familles de polyèdres qu'il a essayées mais qu'il n'a pas de démonstration générale. En 1752, il propose une démonstration. En 1794, Adrien-Marie Legendre publie une démonstration plus rigoureuse dans ses Éléments de géométrie.

En 1810, Louis Poinsot remarque que la démonstration de Legendre ne s'applique qu'aux polyèdres convexes. Simon Antoine Jean l'Huilier découvre plusieurs polyèdres ne vérifiant pas la formule d'Euler. Il décrit trois familles : les polyèdres que l'on assemble (par exemple, en posant un petit cube sur un gros, on obtient 2 × 6 – 1 faces, 16 sommet et 24 arêtes), les polyèdres avec h « trous » (pour lesquels l'Huilier propose F + S – A = 2 – 2h), et les polyèdres avec des cavités. Ludwig Schläfli, qui généralisera la formule aux dimensions supérieures, estime que les polyèdres ne vérifiant pas la formule d'Euler ne sont pas des polyèdres…

La notion même de polyèdre semble mal maîtrisée ! Aussi, l'Académie des sciences lance un concours pour les grands prix mathématiques de 1861 et 1863 dont le sujet est : « Perfectionner, en quelque point important, la théorie géométrique des polyèdres. » Malheureusement, le seul mémoire recevant les éloges de l'Académie est celui d'Eugène Catalan, qui s'appuie sur la formule d'Euler pour établir la liste des polyèdres semi-réguliers et de leurs duaux. Le prix n'est pas attribué.

La formule d'Euler reste, au XIX^e siècle, la base des études sur les polyèdres. Il faut attendre Henri Poincaré (1854–1912) pour que la situation s'éclaircisse définitivement. Dans son article Analysis Situs (1895), il jette les bases de la topologie algébrique. En établissant une définition rigoureuse des polyèdres, il précise quand la formule d'Euler, qu'il démontre et généralise, s'applique. Elle s'applique lorsque le polyèdre est simplement connexe et orientable. Une surface fermée est simplement connexe si toute courbe fermée tracée dessus peut être continûment réduite à un point (une sphère est simplement connexe alors qu'un tore ne l'est pas) ; elle est orientable si on peut définir deux côtés, l'intérieur et l'extérieur (typiquement, le ruban de Möbius n'est pas orientable).

À ce stade, on peut inverser le processus : la somme alternée S – A + F est une constante (la constante d'Euler–Poincaré), qui caractérise la topologie de la surface considérée. C'est souvent 2. Cette perspective a débouché sur des développements extraordinaires en topologie.