En mathématiques, le recours à un langage clair et précis, utilisant exclusivement des concepts préalablement définis, est indispensable à la transmission de résultats précis à la teneur univoquement définie. La rigueur de la pensée scientifique ne peut se passer d'une telle exigence. Mais lors de l'introduction et de la définition des concepts mathématiques, le choix lexical n'est pas neutre. Certains mathématiciens jouent sur l'ambiguïté des termes choisis, allant jusqu'à construire un système syntaxique complet prolongeant le langage usuel de manière troublante. Cette attitude n'est pas sans effet sur le niveau de compréhension des résultats par le grand public, introduisant sournoisement un niveau de méta-compréhension, voire de sous-compréhension. Pourtant, comme le propose Maurice Allais, « tout auteur qui utilise la mathématique devrait toujours s'astreindre à exprimer en langage courant la signification des hypothèses qu'il admet et la signification des résultats qu'il obtient. Plus sa théorie est abstraite et plus cette obligation est impérieuse ».

Jargon et langage courant 

Les transferts de champs lexicaux se font dans deux sens. On observe un passage du jargon scientifique vers le langage courant. Les notions matheuses les plus transparentes pour le profane sont celles que l'enseignement secondaire privilégie. Tous les termes de la géométrie euclidienne ont acquis droit de cité dans la langue usuelle : c'est le cas des notions (totalement abstraites) de point, de droite, de plan, de parallélisme, de perpendicularité. Sont également utilisés, mais moins souvent, les termes d'équations, de polynômes, de sinus, cosinus et tangente (ce dernier donnant naissance aux faux amis de « pente » : la pente de 100 % représente l'angle de 90° dans la langue usuelle et de 45° en trigonométrie). Il est donc impossible de procéder à la partition de l'ensemble des éléments du langage mathématique en deux sous-ensembles d'intersection vide comprenant pour l'un les mots et expressions du langage courant et pour l'autre les termes savants. Ces deux ensembles dépendent du contexte, du niveau socioculturel des locuteurs et illustrent magnifiquement la notion d'ensembles « flous », un terme dont les significations usuelle et mathématique ne coïncident évidemment pas.

Le transfert d'un terme courant dans le langage mathématique, pour désigner une notion nouvelle et généralement abstraite, est fréquent. Ce passage peut se faire par substantification d'adjectifs. Ainsi les différents ensembles de nombres sont devenus ensembles « des naturels », « des entiers », « des rationnels », « des réels » ou « des complexes », par omission du substantif qualifié « nombres ». En théorie des groupes, deux éléments privilégiés sont « le neutre » et « l'absorbant ». En analyse, les fonctions dérivées et primitives deviennent simplement « dérivées » et « primitives ».

Des substantifs peuvent également glisser de sens. C'est le cas des notions de « groupe », de « corps » ou de « champ » désignant dans le langage mathématique des ensembles structurés munis d'opérations (groupes) généralement constitués, pour les néophytes, de nombres au sens usuels (champ et corps) et jouissant de certaines propriétés. Bien entendu, le terme « ensemble » a ici son sens mathématique, différant du sens usuel. Dans ce cadre, certains énoncés sont clairs et n'autorisent qu'une lecture savante.

C'est le cas de la proposition suivante, énoncée par le mathématicien belge Georges Papy : Soit un groupe G d'élément neutre n.  On vérifie que G et {n} sont des sous-groupes de G. On les appelle sous-groupes triviaux de G.

Les mots « groupe » et « neutre » ont ici leur sens mathématique exclusif et dans ce texte, même le terme « trivial » prend un sens différent de son sens usuel. Aucune interprétation parasite ne peut être donnée de cette proposition. Le sens en est clair ou pas selon que l'on possède ou non la clé du langage utilisé.

Ce n'est pas systématiquement le cas. Reprenons un texte de Christian Oddou (dans sa thèse soutenue en 1978) interprétant un résultat et affirmant que « ce théorème exprime qu'une répartition de profit dans le cadre d'une structure syndicale sous monopole ne peut favoriser tous les syndicats qui la composent. Le surplus de paiement par rapport à un système de prix que peuvent obtenir certains syndicats ne peut se faire qu'au détriment des autres ». Comme le précise Didier Nordon, à l'origine de cet exemple, « il s'agit d'un énoncé mathématique à contenu scientifique précis. Tous les termes utilisés ont fait l'objet d'une définition préalable. Ainsi, par exemple, une structure syndicale est un ensemble particulier d'événements d'un espace de probabilité ». Mais, contrairement au cas précédent, le texte est susceptible d'une autre lecture. Le lecteur non mathématicien en retire une compréhension parasite dont le sens apparent est distinct du contenu scientifique. De même, quand Georges Papy demande de démontrer que « le treillis des sous-groupes normaux de tout groupe est modulaire », seule une lecture savante (encore que le résultat soit évident…) est envisageable. Néanmoins, tous les termes utilisés ont un sens usuel distinct de celui qui lui a été attribué en mathématique et peuvent être compris isolément. Ici, c'est l'ensemble de la proposition qui nous renseigne sur le sens à donner à chaque mot.

Tables, chaises et… immeubles

Pierre René vicomte Deligne.

Lorsque Pierre Deligne crée la « théorie des immeubles », donnant des groupes de Lie une interprétation géométrique, il écrit : « Soit M un mur d'une chambre B. Il existe une et une seule chambre B' mitoyenne à B ayant M pour mur. M est le seul mur qui sépare B de B'. » On peut donner deux lectures distinctes de sa proposition, et s'interroger : la lecture parasite contient-elle des éléments aidant à la compréhension du concept mathématique ou leurre-t-elle le lecteur néophyte ?

On attribue généralement à Hilbert le propos selon lequel on pourrait en géométrie remplacer « point, droite et plan » par « table, chaise et bock de bière ». Mais il ne l'a pas fait. Pour ces notions, des liens étroits unissent les concepts intuitifs, usuels aux définitions rigoureuses des mathématiciens. Qu'en est-il des notions abstraites de « murs », « cloisons », « appartements », « chambres » en théorie des immeubles ? Ces notions sont-elles totalement indépendantes de leur sens usuel ? Quelle aide le choix particulier des mots peut-il apporter à la compréhension des concepts, quels liens existe-t-il entre la lecture du mathématicien et celle, parasite, du non-spécialiste ? Quel est donc le but poursuivi par les créateurs de concepts nouveaux ?

 L'idée du choix arbitraire des mots et de la libre attribution de leur signification est discuté par Lewis Carroll dans Through the Looking Glass. Au chapitre 6, Alice et Humpty Dumpty s'interrogent et se confrontent sur le sens des mots.

« La question est, dit Alice, de savoir si vous pouvez obliger les mots à vouloir dire tant des choses différentes.

– La question est, dit Humpty Dumpty, de savoir qui sera le maître, un point c'est tout. »

Le propos de Carroll est clair. Le mathématicien est seul maître de la notion qu'il introduit et le choix du champ lexical lui appartient tout entier. Mais appréhende-t-il toujours suffisamment les conséquences de ses choix ?