Trois types de fondement des mathématiques se distinguent. Le fondement logique consiste à montrer la non-contradiction du champ entier des mathématiques. On ne doit pas pouvoir, par deux démonstrations valides, démontrer qu'une proposition est à la fois vraie et fausse. Un fondement axiomatique se donne un nombre fini d'axiomes à partir desquels on doit pouvoir déduire toutes les mathématiques, à l'aide des règles de déduction d'une logique donnée. Cette option correspond au cadre de la théorie des ensembles.

Le fondement conceptuel des mathématiques, représenté par la théorie des catégories, détermine les concepts fondamentaux et leurs liens, constituant ainsi la grammaire et la syntaxe d'un langage universel qui permet de penser toutes les mathématiques. La démarche sous-jacente relève du plus pur esprit mathématique, s'intéresser au fond plutôt qu'à la forme : un groupe est ainsi plus une structure qu'un ensemble ! Ces deux dernières approches sont sœurs : la théorie des catégories peut servir de fondement axiomatique, et la théorie des ensembles de fondement conceptuel. C'est pourquoi la notion de relation, inhérente à la théorie des ensembles et en lien étroit avec la notion de structure, tient un rôle primordial en mathématique.

Relations de couples

La relation, souvent implicite dans les comparaisons ou les analogies, est un concept fondamental du discours rationnel. En analyse, on décompose les faits en éléments intelligibles avant d'en effectuer une synthèse, reconstituant ainsi le complexe à partir d'atomes conceptuels. On explicite alors inévitablement les relations entre parties : il n'existe pas de structures sans relations. Mais il est difficile d'établir une « théorie de la relation », car cette notion semble avoir un caractère irréductible.

En préface de ses Principles Of Mathematics (Cambridge University Press, 1903), Bertrand Russell, mathématicien logicien prix Nobel de… littérature, déclare que la théorie des relations s'inscrit dans le projet général du logicisme :

« Les mathématiques pures toutes entières traitent exclusivement de concepts définissables dans les termes d'un très petit nombre de concepts logiques fondamentaux et toutes leurs propositions sont déductibles d'un très petit nombre de principes logiques fondamentaux. »

La théorie des relations s'est, dans les faits, développée indépendamment des querelles entre formalistes et intuitionnistes, mais ses nombreuses versions, affaires de spécialistes, montrent que cette notion fondamentale n'est pas triviale. C'est d'ailleurs le lot de tout élément constitutif des fondements des mathématiques.

Au commencement était le couple ! Soient deux ensembles E et F. On introduit un nouvel objet mathématique, le couple (x, y), avec x  \( \in\)  E et y \( \in\) F et la convention que (x, y) = (x', y') si, et seulement si, x = x' et y = y'. On appelle alors produit cartésien de ces deux ensembles, noté E×F (« E croix F »), l'ensemble de ces couples ordonnés. Le nom de ce produit vient du fait que le plan euclidien, muni de deux axes de coordonnées, peut être considéré comme le produit \( \mathbb{R}^2 = \mathbb{R} \times \mathbb{R},\) ensemble des points de coordonnées (x, y), avec x et y des nombres réels. La notation a été introduite par René Descartes.

En notant |E| le nombre d'éléments de l'ensemble E (son cardinal), on a bien sûr |E×F| = |E|.|F| : le cardinal de l'ensemble produit est le produit des cardinaux. Par récurrence, on définit le n-uplet, généralisation du couple, par
(x₁, x₂, x₃… x_n–1, x_n) = ((x₁, x₂, x₃… x_n–1), x_n), élément du produit cartésien E₁×E₂×E₃×…×E_n–1×E_n, où, pour tout indice i, x_i \( \in\) E_i. Ces nouveaux objets permettent de définir la notion de relation : tout sous-ensemble R  \( \subseteq\)  E₁ × … × E_n est appelé une relation n-aire. L'ordre dans lequel on considère les ensembles fait partie intrinsèque de la définition.

Le cas particuliers des relations binaires R \( \subseteq\) E₁ × E₂ est particulièrement important. On écrit alors x₁Rx₂ ou, plus rarement, R (x₁, x₂). Cette correspondance entre les ensembles E₁ et E₂ peut être représentée par un graphe. Les relations d'égalité, d'ordre, les inclusions d'ensembles ou l'orthogonalité de droites dans le plan euclidien en sont des exemples.

Si la relation R \( \subseteq\) E × E est réflexive (quel que soit x dans E, x R x), symétrique (quels que soient x et y dans E, x R y implique y R x) et transitive (quels que soient x, y et z dans E, x R y et y R z impliquent x R z), elle est dite relation d'équivalence. L'ensemble E est alors partitionné en classes d'équivalence, sous-ensembles disjoints dont tous les éléments sont en relation. On utilise usuellement des relations d'équivalences dans un calendrier, quand on mesure des angles à un tour près, ou quand on lit l'heure sur une horloge normande.

Applications des fonctions

Une application est un cas particulier de relation binaire. Une relation binaire R d'un ensemble E vers un ensemble F est appelée relation fonctionnelle, ou fonction, si, pour tout élément x de E, l'image R (x) possède au plus un élément. On peut y voir la transcription d'un principe de causalité : une même cause, x, produit le même effet f(x), ce qui impose son unicité.

Le graphe cartésien d'une telle relation est donc tel que tout axe parallèle à F ne le coupe qu'en un point, au plus. La relation qui fait correspondre à un nombre son double est fonctionnelle, contrairement à celle qui lui fait correspondre tous ses multiples.

Une application f de E dans F est une fonction dont le domaine d'existence est l'ensemble de départ E en entier. C'est donc une relation telle que pour tout x de E il existe un unique y dans F tel que y = f(x). Cette différence est néanmoins très formelle et, dans la pratique, ces deux termes sont synonymes.

_{Une relation non fonctionnelle.}

Une application f : E  \( \mapsto\)  F est surjective si, pour tout élément y de F, il existe au moins un antécédent x de E tel que y = f(x). Une application f : E \( \mapsto\) F est injective si, pour tout élément y de F, il existe au plus un antécédent x de E tel que y = f(x). L'injection est souvent présentée comme faisant correspondre à deux éléments distincts de E deux éléments distincts de F. Par contraposée, on peut aussi dire que si deux images appartenant à F sont égales, f(x) = f(x'), alors les antécédents sont égaux, soit x = x'.

Enfin, une application injective et surjective est bijective. Dans ce cas, tout élément de y de F possède alors un unique antécédent x. Pour la relation f : E \( \mapsto\) F qui met en correspondance un nombre et son carré, soit f(x) = x², les propriétés de l'application dépendent des ensembles de départ et d'arrivée.

La correspondance entre éléments de E et de F par une application bijective f : E \( \mapsto\) F étant symétrique, il existe une bijection réciproque f ^–1 : F \( \mapsto\) E, et on a : y = f(x)  \( \iff\) x = f ^–1(y). Les bijections, mettant en correspondance les ensembles élément par élément, permettent en particulier d'en déduire leur cardinalité.

Les applications qui préservent les structures qu'elles relient sont d'une importance fondamentale, et sont appelées des morphismes. Les structures de groupes sont ainsi conservées par les homomorphismes de groupe, un ensemble ordonné l'est par les applications croissantes, la notion de convergence est préservée par les applications continues.