L'hypothèse de Riemann est le saint Graal des mathématiques. Bernhard Riemann (1826–1866), l'un des plus grands mathématiciens du xix^e siècle, l'a formulée en 1859 dans son Über die Anzahl der Primzahlen unter einer gegebenen Größe. Cette conjecture jette un pont entre deux domaines des mathématiques qui n'ont a priori aucun rapport : les nombres premiers et une fonction analytique, la fonction z (« zêta »). Cela fait donc plus de cent cinquante ans que les mathématiciens tentent, en vain jusqu'à présent, de transformer cette conjecture en théorème.

La série harmonique diverge

Qu'est-ce que la fonction zêta ? La brique de base de la fonction zêta est la série de Dirichlet

\( \zeta(s)=\sum\limits_{n=1}^{+\infty}\frac{1}{n^s}=1+\frac{1}{2^s}+\frac{1}{3^s}+ \frac{1}{4^s}+ \frac{1}{5^s}+\dots\)

Pour s = 1, on retrouve la série harmonique, qui est divergente, c'est-à-dire que la somme 

\( 1+\frac{1}{2}+\frac{1}{3}+ \frac{1}{4}+ \frac{1}{5}+\dots \)

peut être rendue aussi grande que l'on souhaite. La divergence de la série harmonique avait été remarquée par Nicolas Oresme au xiv^e siècle, puis démontrée par Pietro Mengoli en 1650.

Euler reprend l'étude dans le cas où s est un entier positif. En 1735, il écrit : « Tant d'études ont été réalisées sur les séries z (s) que la découverte d'une quelconque nouveauté à leurs sujets semble presque impossible. » Cependant il persévère, et poursuit :

« Aujourd'hui cependant j'ai trouvé, de manière tout à fait inattendue, une élégante formule pour \( \zeta\) (2), fondée sur la quadrature du cercle. »

Il venait d'obtenir l'étonnante égalité 

\( \zeta(s)=1+\frac{1}{2^s}+\frac{1}{3^s}+ \frac{1}{4^s}+ \frac{1}{5^s}+\dots=\frac{\pi^2}{6}.\)

En fait, pour s un entier positif pair (s = 2n), nous avons la formule générale suivante :

\( \zeta(2n)=1+\frac{1}{2^{2n}}+\frac{1}{3^{2n}}+ \frac{1}{4^{2n}}+ \frac{1}{5^{2n}}+\dots=\frac{2^{2n-1}|B_{2n}|\pi^{2n}}{(2n)!}.\)

où B_n est un rationnel (c'est le n^ème nombre de Bernoulli).

Euler établit en 1737 la formule « non moins admirable » qui permet de transformer la série de Dirichlet (qui est une somme) en un produit sur tous les nombres premier. Elle établit une connexion directe entre la fonction zêta et les nombres premiers :

\( \zeta(s)=\sum\limits_{n=1}^{+\infty}\frac{1}{n^s}=\prod\limits_{p \textrm{ premier}} \left( 1-\frac{1}{p^s}\right)^{-1}\)

\( =\frac{1}{1-\frac{1}{2^{s}}}\times \frac{1}{1-\frac{1}{3^{s}}}\times \frac{1}{1-\frac{1}{5^{s}}} \times\frac{1}{1-\frac{1}{7^{s}}}\times \ldots\)

où les p sont tous les nombres premiers.

Les zéros tous alignés ? 

Riemann a l'idée, absolument géniale, de ne plus se limiter aux valeurs de s entières ou même réelles mais d'étendre la définition de zêta aux valeurs complexes de s :

« L'introduction des grandeurs complexes dans les mathématiques a son origine et son but immédiat dans la théorie de lois de dépendance simples entre des grandeurs variables… lois exprimées par des opérations sur les grandeurs. En effet si l'on applique ses lois de dépendance dans un champ plus étendu, en attribuant des variables complexes aux grandeurs variables auxquelles se rapportent ces lois, il se présente alors une harmonie et une régularité qui sans cela restent cachées. »

Cette présentation de Riemann dans son Inauguraldissertation pourrait servir à elle seule de justification au hors-série que vous tenez entre vos mains.

La série de Dirichlet est convergente quand la partie réelle de s est strictement supérieure à 1, et dans ce cas la somme de la série est différente de 0. La fonction zêta est définie pour tout nombre complexe s dont la partie réelle est supérieure à 1 par la formule 

\( \zeta(s)=\sum\limits_{n=1}^{+\infty}\frac{1}{n^s}.\)

L'étude de la fonction zêta ne pose aucun problème lorsque la partie réelle de s est strictement supérieure à 1. Riemann a prouvé, en 1859, que la fonction zêta pouvait être prolongée par continuité dans tout le plan complexe, sauf en 1. C'est cette fonction définie dans tout le plan complexe sauf en 1 que l'on appelle « la » fonction zêta de Riemann. On en connaît une expression analytique explicite, elle est cependant assez sophistiquée et fait intervenir d'autres fonctions (comme la fonction gamma ou la fonction thêta de Jacobi).

Une fois que l'on a une fonction, il est naturel de se demander pour quelles valeurs complexes de s = s + it elle s'annule. Dans le cas de zêta, il existe deux séries de valeurs pour lesquelles la fonction s'annule : les entiers strictement négatifs pairs (à savoir –2, –4, –6, –8… ; ces valeurs s'appellent les zéros triviaux car ils n'éclairent pas sur la structure de la fonction zêta), et les autres, dont Riemann constate qu'ils se situent tous dans la partie du plan complexe située entre la droite verticale {Re (s) = 0} et la droite verticale {Re (s) = 1}. Cette bande du plan s'appelle la bande critique.

Riemann conjecture alors que les zéros non triviaux ont tous une partie réelle exactement égale à 1/2. Ce qui signifie que ces nombres seraient tous situés sur la droite verticale {Re (s) = 1/2}. C'est cela, l'hypothèse de Riemann !

Le plus grand problème de toutes les mathématiques consiste donc à montrer que tous les zéros non triviaux d'une fonction à variable complexe se situent sur une droite. C'est certainement l'une des conjectures les plus difficiles et insaisissables qui soient.

Riemann essaie de démontrer sa conjecture ; il renonce vite :

« Il serait à désirer, sans doute, que l'on eût une démonstration rigoureuse de cette proposition – néanmoins j'ai laissé cette recherche de côté pour le moment après quelques rapides essais infructueux, car elle paraît superflue dans le but de notre étude. »

Il a lui-même calculé plusieurs zéros, pour trouver des contre-exemples, mais personne n'en a jamais trouvé, malgré l'ampleur des calculs réalisés : tous les zéros calculés ont une partie réelle exactement égale à 1/2, conformément à la prédiction de Riemann.

Un million de dollars à la Clay 

Si l'on connaissait les zéros non triviaux de la fonction zêta, nous connaîtrions très précisément le nombre de nombres premiers inférieurs à certaines valeurs, ce qui impliquerait une connaissance beaucoup plus fine de ces briques arithmétiques élémentaires qui restent bien mystérieuses alors que leur définition est on ne peut plus simple…

Preuve de son importance considérable, la conjecture fait partie des vingt-trois problèmes présentés en 1900 par Hilbert au Congrès international de mathématiques de Paris. Il aurait d'ailleurs déclaré que s'il s'endormait pour mille ans, au réveil sa première question serait : « La conjecture de Riemann a-t-elle été démontrée ? »

En 2000, l'Institut Clay (Cambridge, États-Unis) a mis l'hypothèse de Riemann à prix : c'est le premier des sept « problèmes du millénaire ». Un million de dollars sera offert à qui la démontrera ! Les mathématiciens ironisent en disant que c'est un scénario bien ardu pour devenir millionnaire…

L'hypothèse de Riemann fait aujourd'hui partie de la culture populaire. Elle est évoquée dans des romans, des films, des séries télévisées… et elle continue toujours d'inspirer nos lecteurs. On le voit, étendre l'étude d'une fonction aux valeurs complexes de son argument est si judicieux que cela va certainement occuper les chercheurs pendant encore de nombreuses années.