Cette publication est accessible gratuitement
Lire

Définition de : ENSEMBLE, mathématique

De
5 pages
Article publié par Encyclopaedia Universalis ENSEMBLE, mathématique e Introduits par Georg Cantor à la fin du xix siècle, les ensembles (sets en anglais, Mengen en allemand, mnojestva en russe) tiennent une place spéciale car la plupart des objets mathématiques peuvent se représenter comme ensembles, et, de ce fait, la théorie des ensembles peut être utilisée comme fondement des mathématiques. LLee ttyyppee «« eennsseemmbbllee »»,, ddééffiinniittiioonn oouu aaxxiioommaattiissaattiioonn ?? Les mathématiques étudient de nombreux types d'objets : entiers, réels, droites, cercles, groupes, etc. À côté des types de base, il est utile d'introduire des types dérivés, par exemple « suite d'entiers » ou « ensemble de réels », l'idée étant de considérer des objets collectivement plutôt qu'individuellement, soit pour éviter des répétitions, soit parce que les objets sont eux-mêmes définis collectivement : par exemple, la famille des racines d'une équation est bien définie, alors qu'il n'y a souvent aucune raison de privilégier une racine particulière. Introduire un ensemble de nombres, de points, de fonctions permet alors de référer non pas à l'un ou l'autre de ces objets en particulier, mais à ceux-ci globalement, de façon indistincte. Par ailleurs, considérer comme objet en soi « l'ensemble des x qui... » permet d'aller plus loin que d'invoquer simplement « l'un quelconque des x qui...
Voir plus Voir moins
ENSEMBLE, mathématique

Introduits par Georg Cantor à la fin du xixe siècle, les ensembles (sets en anglais, Mengen en allemand, mnojestva en russe) tiennent une place spéciale car la plupart des objets mathématiques peuvent se représenter comme ensembles, et, de ce fait, la théorie des ensembles peut être utilisée comme fondement des mathématiques.

Le type « ensemble », définition ou axiomatisation ?

Les mathématiques étudient de nombreux types d'objets : entiers, réels, droites, cercles, groupes, etc. À côté des types de base, il est utile d'introduire des types dérivés, par exemple « suite d'entiers » ou « ensemble de réels », l'idée étant de considérer des objets collectivement plutôt qu'individuellement, soit pour éviter des répétitions, soit parce que les objets sont eux-mêmes définis collectivement : par exemple, la famille des racines d'une équation est bien définie, alors qu'il n'y a souvent aucune raison de privilégier une racine particulière. Introduire un ensemble de nombres, de points, de fonctions permet alors de référer non pas à l'un ou l'autre de ces objets en particulier, mais à ceux-ci globalement, de façon indistincte. Par ailleurs, considérer comme objet en soi « l'ensemble des x qui... » permet d'aller plus loin que d'invoquer simplement « l'un quelconque des x qui... », car l'ensemble a souvent des propriétés globales sans signification pour les éléments, par exemple une structure algébrique, géométrique ou topologique.

Ce qui précède ne constitue pas une définition précise. Pour élaborer une théorie des ensembles, deux approches sont possibles : soit définir formellement la notion d'ensemble, soit l'axiomatiser, c'est-à-dire, à défaut d'une définition, dégager une liste de propriétés de base objet d'un consensus.

Définir les ensembles à partir de notions antérieures est possible. Par exemple, dans un contexte référant à des types, on peut identifier un ensemble à sa fonction indicatrice et définir pour chaque type τ un nouveau type « ensemble de τ » comme celui des applications de τ vers le type booléen « vrai, faux » : par exemple, un ensemble d'entiers est vu comme l'application spécifiant pour chaque entier s'il appartient ou non à l'ensemble. Souvent utilisée dans les langages de programmation, une telle approche n'est bien adaptée que pour des ensembles finis. Ses limitations théoriques sont évidentes : en définissant les ensembles à partir des fonctions, on n'a fait que repousser le problème sans le résoudre.

Il est donc usuel d'utiliser une approche axiomatique dans laquelle on renonce à définir la notion d'ensemble mais où on dégage des propriétés de base des ensembles recommandées par l'intuition (« axiomes »), propriétés dont on étudie ensuite les conséquences sans plus s'interroger sur la nature des objets eux-mêmes. Deux difficultés spécifiques se présentent dans le cas des ensembles, à savoir la multiplicité des types d'ensembles, rien n'indiquant a priori que les ensembles d'entiers aient les mêmes propriétés que les ensembles de réels, par exemple, et la multiplicité des opérations et des relations ensemblistes, appartenance, inclusion, réunion, intersection : requérant de faire intervenir, outre les objets qu'on souhaite étudier, les diverses opérations ou relations qui leur sont attachées, l'axiomatisation semble malaisée lorsque ces opérations et relations sont trop nombreuses.

On peut éluder la première difficulté en considérant un type général « ensemble » et non plus « ensemble d'entiers » par exemple. Plus spécifiquement, on peut se restreindre aux ensembles « purs », définis comme ceux dont tous les éléments sont eux-mêmes des ensembles, et ainsi de suite. De la sorte, il n'y a plus à distinguer entre éléments et ensembles, et un seul type « ensemble pur » intervient. On verra plus loin qu'il existe suffisamment d'ensembles purs pour que la limitation ne soit pas gênante.

La seconde difficulté se résout en remarquant que toutes les opérations et relations ensemblistes peuvent se définir à partir de la seule relation d'appartenance. Par exemple, un ensemble A est inclus dans un ensemble B si tout élément de A est élément de B. De même, un ensemble C est la réunion de deux ensembles A et B si tout élément de C est élément de A ou de B et réciproquement. De la sorte, le problème n'est plus que d'énumérer les propriétés de base de la seule relation d'appartenance ∈ restreinte aux ensembles purs.

Une solution généralement acceptée est constituée par le système de Zermelo-Fraenkel, ou système ZF. Celui-ci comprend deux sortes d'axiomes. Le premier axiome, dit d'extensionnalité, traduit l'intuition qu'un ensemble est déterminé par ses éléments à l'exclusion de toute structure cachée, et il affirme que deux ensembles ayant les mêmes éléments doivent coïncider.

Le second type d'axiome affirme l'existence d'ensembles. Au départ, Cantor jugeait raisonnable que n'importe quelle propriété P(x) donne naissance à un ensemble, l'ensemble des x ayant la propriété P(x), noté {x ; P(x)}. Ce point de vue trop libéral n'est pas tenable. D'abord, pour échapper au paradoxe de Richard et Berry, il convient de se restreindre aux propriétés pouvant s'exprimer à l'aide d'une formule mathématique, et pas de n'importe quelle phrase de la langue. Ensuite, pour échapper au paradoxe de Russel montrant qu'il ne peut exister un ensemble de tous les ensembles, il convient de remplacer l'axiome de compréhension affirmant que, pour toute formule mathématique ϕ(x), il existe un ensemble de tous les x vérifiant ϕ(x) par l'axiome de séparation affirmant seulement que, pour tout ensemble A et pour toute formule mathématique ϕ(x), il existe un ensemble des x appartenant à A et vérifiant ϕ(x), qu'on note {x ∈ A ; ϕ(x)}.

Mais alors, faute d'axiome de compréhension permettant de créer des ensembles ex nihilo, il est nécessaire d'ajouter explicitement quelques axiomes permettant de construire des ensembles à partir de l'unique ensemble vide, par exemple un axiome affirmant que, pour tout ensemble A, il existe un ensemble dont les éléments sont les sous-ensembles de A, l'ensemble des parties de A, ou encore qu'étant donné deux ensembles A et B il existe un ensemble qui en est la réunion.

Représentation par des ensembles

Le système ZF fournit une base axiomatique pour l'étude des ensembles, et la théorie des ensembles s'élabore donc comme la recherche des conséquences des axiomes de ZF. Elle se développe autour des notions d'ordinal et de cardinal. Il est difficile d'en résumer les résultats en quelques phrases, mais il convient de mentionner le rôle spécifique de cette théorie comme possible théorie des fondements.

A priori, rien ne distingue le type « ensemble » d'autres types d'objets mathématiques. En particulier, rien n'indique que les ensembles (purs) soient plus fondamentaux ou primitifs que les nombres entiers ou les points du plan.

Cette situation a changé lorsqu'il est apparu dans les premières décennies du xxe siècle que tous les objets mathématiques usuels peuvent se représenter à l'aide d'ensembles purs. En présence des axiomes de ZF, on peut par exemple construire une famille particulière d'ensembles (purs) ℕ' qui est une copie de la collection ℕ des nombres entiers naturels, et, de même, on peut construire deux ensembles purs +' et ×' qui sont des opérations sur ℕ de sorte que la structure (ℕ', +', ×') satisfasse à tous les axiomes du système de Peano, autrement dit constitue une copie de l'arithmétique.

Ensuite, de proche en proche, on montre que les fonctions, les nombres réels, les nombres complexes, puis tous les objets de la géométrie, de la topologie, ou de l'analyse fonctionnelle, peuvent être représentés de même par des ensembles purs. Autrement dit, on construit, à l'intérieur du monde des ensembles purs et sur la seule base des axiomes de Zermelo-Fraenkel, une copie de l'intégralité du monde mathématique.

Du point de vue des fondements, c'est-à-dire lorsque est posée la question de la construction mathématique et de sa cohérence, la représentation par des ensembles est importante, car elle montre que, si le seul système ZF est cohérent, il en est de même de la totalité des mathématiques. Par exemple, la possibilité de construire une copie de l'arithmétique de Peano à partir du système ZF garantit que, si ZF est cohérent, alors l'arithmétique l'est également. Ce succès est néanmoins relativisé par le théorème d'incomplétude de Gödel interdisant que l'absence d'incohérence dans le système ZF soit démontrée dans ce même système.

Les ensembles jouent donc un rôle spécifique parmi les autres types d'objets mathématiques. Il ne faut néanmoins pas oublier que d'autres représentations sont possibles, et que d'autres types d'objets, notamment les nombres entiers ou les fonctions, peuvent être pris comme base de la construction mathématique. Surtout, il convient d'éviter une confusion pédagogiquement dangereuse entre représentabilité et essence : que les objets mathématiques puissent se représenter comme ensembles ne signifie pas qu'ils soient tous des ensembles. Il serait difficile de soutenir que les nombres entiers sont des ensembles, et il n'y a aucunement lieu de considérer que la construction d'une copie des nombres entiers à l'intérieur du monde des ensembles soit une révélation sur la nature des uns ou des autres.

Auteur: Patrick DEHORNOY