Catégorie des ensembles

En théorie des ensembles, un ensemble, désigne intuitivement une collection d’objets (que l'on appelle éléments de l'ensemble), « une multitude qui peut être comprise comme un tout », comme l'énonçait, le créateur de cette théorie, le mathématicien Georg Cantor : « Unter einer 'Menge' verstehen wir jede Zusammenfassung M von bestimmten wohlunterscheidbaren Objekten M unserer Anschauung oder unseres Denkens (welche die 'Elemente' von M genannt werden) zu einem Ganzen ». Ceci était particulièrement novateur, s'agissant d'ensembles éventuellement infinis (et ce sont ces derniers qui intéressent Cantor).

Ce qui est manifestement en jeu au premier chef dans la notion d'ensemble, c'est la relation d’appartenance : un élément appartient à un ensemble. Ce sont les propriétés de cette relation que l'on axiomatise en théorie des ensembles, et il est assez remarquable que l'on puisse s'en contenter pour une théorie qui peut potentiellement formaliser les mathématiques (ce qui n'était pas encore clair à l'époque de Cantor). Cependant l'objet de cet article est plutôt de donner une approche intuitive de la notion d'ensemble, telle qu'elle est décrite dans l'article théorie naïve des ensembles.

Sommaire 1 Ensembles, éléments et appartenance 2 Égalité de deux ensembles 3 Ensembles finis 4 Définition d’un ensemble en compréhension 5 Autres notations 6 Notes 7 Voir aussi

Ensembles, éléments et appartenance

Un ensemble peut être vu comme une sorte de sac virtuel entourant ses éléments, ce que modélisent bien les diagrammes de Venn. Souvent (ce n'est pas toujours possible), on essaye de le distinguer typographiquement de ses éléments, par exemple en utilisant une lettre latine majuscule, par exemple « E » ou « A », pour représenter l'ensemble, et des minuscules, telles que « x » ou « n », pour ses éléments.

Les éléments peuvent être de n’importe quelle nature : nombres, points géométriques, droites, fonctions, autres ensembles... On donne donc volontiers des exemples d'ensembles en dehors du monde mathématique. Par exemple : lundi est un élément de l’ensemble des jours de la semaine ; une bibliothèque est un ensemble de livres, etc.

Un même objet peut être élément de plusieurs ensembles : 4 est un élément de l'ensemble des nombres entiers, ainsi que de l’ensemble des nombres pairs (forcément entiers). Ces deux derniers ensembles sont infinis, ils ont une infinité d’éléments.

L'appartenance d'un élément, noté par exemple x, à un ensemble, noté par exemple A, s’écrit : .

Cet énoncé peut se lire :

• « x appartient à A »,
• « x est élément de A »,
• « x est dans A »,
• « A a pour élément x »,
• « A possède x »,
• ou parfois « A contient x » (il y a ambiguïté cependant dans ce dernier cas, A contient x peut signifier que x est un sous-ensemble de A, c’est-à-dire que x est un ensemble et que tous ses éléments appartiennent à A, ce qui est très différent de « x appartient à A »).

Le symbole « ∈ », dérive de la lettre grecque ε (epsilon) introduite par Giuseppe Peano dès 1889^[1]. Pour Peano « x ε A » se lit « x est un A », par exemple « x ε N » se lit « x est un entier ». Le ε renvoie à l'initiale du mot « est » (en latin, langue de l'article de Peano de 1889 !), en français, ou en italien (« è »). Bertrand Russell reprend les notations de Peano en 1903 dans les Principles of Mathematics^[2], ouvrage qui va participer à leur diffusion, et où est utilisée la forme arrondie vieillie^[3] du epsilon : « ϵ », en usage dans l'édition mathématique anglo-saxonne.

Comme souvent pour les relations, on barre ce symbole pour indiquer sa négation, la non-appartenance d’un objet à un ensemble :

«  » signifie « z n’appartient pas à A ».

Égalité de deux ensembles

En mathématiques – et pas seulement en mathématiques d'ailleurs –, on considère que deux objets sont égaux quand ils ont les mêmes propriétés, que l'on ne peut donc les distinguer l'un de l'autre – c'est la définition de l'égalité de Leibniz. Dire quand deux objets sont égaux, c'est-à-dire quand deux expressions désignent en fait le même objet, c'est donc donner une information sur ce que sont ces objets. En théorie des ensembles on décide qu'un ensemble est complètement caractérisé par ses éléments, son extension, alors qu'il peut avoir plusieurs définitions. Par exemple, il n'y a pas lieu de distinguer l'ensemble des entiers différents d'eux-mêmes et l'ensemble des entiers supérieurs à tous les nombres premiers : ces deux ensembles sont tous les deux vides, donc égaux – ils ont bien les mêmes éléments –, même s'ils ont des définitions différentes, et sont vides pour des raisons très différentes.

On dira donc que deux ensembles A et B sont égaux (on le notera comme d'habitude A = B) quand ils ont exactement les mêmes éléments. Cette propriété est connue sous le nom d'extensionnalité :

(Extensionnalité)     A = B   si et seulement si   ∀x( x ∈ A ⇔ x ∈ B )

où « ⇔ » désigne l'équivalence logique. Deux ensembles qui ont les mêmes éléments sont bien identiques : tout ce qui peut être dit de l'un peut être dit de l'autre. Si nous nous représentons les deux ensembles comme des sacs étiquetés chacun par leur nom, s’ils sont égaux, alors il s’agit en fait d’un seul et même sac avec deux étiquettes. Par contre, les propriétés d’un ensemble ne dépendent absolument pas de la nature ou de la forme du sac, seulement de son contenu.

Ainsi un ensemble est complètement déterminé par ses éléments. Quand un ensemble est fini, il est donc possible de le définir en donnant la liste de ses éléments, que l'on note traditionnellement entre accolades. Par exemple l'ensemble auxquels appartiennent les éléments 2, 3, et 5, et seulement ces éléments, est noté {2, 3, 5}. L'ensemble est défini en extension.

Mais on ne peut procéder ainsi en toute généralité, on ne pourrait définir ainsi un ensemble infini. Même si quelques artifices de notation qui ressemblent à la notation en extension sont possibles (voir ci-après), la façon la plus générale de définir un ensemble est de donner une propriété caractéristique des éléments de cet ensemble. Par exemple, on pourra définir l'ensemble des nombres premiers par une propriété caractéristique de ceux-ci : être différent de 1 et avoir pour seuls diviseurs 1 et lui-même. On parle de définition en compréhension^[4]. L’ensemble {2, 3, 5} peut être défini en compréhension comme l’ensemble de tous les nombres premiers inférieurs à 6. La définition en extension des ensembles finis peut être vue comme un cas particulier simple de définition en compréhension : par exemple l'ensemble {2, 3, 5} est caractérisé par la propriété, pour un nombre entier, d'être égal à 2 ou à 3 ou à 5.

Ensembles finis

Quand on parle d'ensembles finis, c'est en un sens intuitif, sans avoir vraiment défini cette notion. Un ensemble est fini quand on peut compter ses éléments à l'aide d'entiers tous plus petits qu'un entier donné.

Les ensembles finis peuvent être définis en extension, par la liste de leurs éléments, et décrits comme tels ; on place la liste des éléments d'un ensemble entre accolades, comme on l'a déjà vu pour l'ensemble {2, 3, 5}. Par exemple, l'ensemble des jours de la semaine peut être représenté par { lundi, mardi, mercredi, jeudi, vendredi, samedi, dimanche }.

La notation d'un ensemble en extension n'est pas unique : un même ensemble peut être noté en extension de façon différentes.

• L’ordre des éléments est sans importance, par exemple { 1, 2 } = { 2, 1 }.
• La répétition d’éléments entre les accolades ne modifie pas l’ensemble :

toujours avec le même exemple, { 1, 2, 2 } = { 1, 1, 1, 2 } = { 1, 2 }.

À cause de la propriété d'extensionnalité, il n'est pas question de distinguer des ensembles par le nombre de répétitions d'un même élément à ces ensembles : un élément appartient ou n'appartient pas à un ensemble, il ne peut appartenir à un ensemble une, deux, ou trois fois ... On pourrait imposer que la notation se fasse sans répétitions, ce serait assez malcommode dès qu'interviennent des variables : on ne pourrait noter un ensemble en extension sans devoir supposer que ses éléments sont distincts.

Il peut arriver que l'on ait besoin d'ensemble « avec répétition », dans le cas fini, il s'agit plus justement, de suites finies à l'ordre des éléments près, on définit alors la notion de multiensemble fini (qui peut se définir à partir de la notion de suite finie).

Les ensembles réduits à un seul élément sont appelés singletons. Par exemple l'ensemble qui contient pour seul élément 0 est appelé « singleton 0 » et noté {0}. Les ensembles qui ont exactement deux éléments sont appelées paires, la paire des éléments 1 et 2, notée {1,2}, ne doit pas être confondue avec le couple (1,2), qui a un ordre déterminé.

Quand on axiomatise la théorie des ensembles les paires (et singletons) jouent un rôle particulier, voir l'article Axiome de la paire.

Par extensionnalité, il n'y a qu'un seul ensemble sans éléments, l'ensemble vide, que l'on note ∅ ou { }.

Définition d’un ensemble en compréhension

Un ensemble peut être défini en compréhension, c’est-à-dire qu'on le définit par une propriété caractéristique parmi les éléments d'un ensemble donné. Ainsi l'ensemble des entiers naturels pairs est clairement défini par compréhension, par la propriété « être pair » parmi les entiers naturels. On peut utiliser la notation d'un ensemble en compréhension^[5], par exemple pour l'ensemble des entiers naturels pairs, on écrira ( désignant l'ensemble des entiers naturels) :

.

On définira de la même façon l'ensemble des entiers relatifs compris entre -7 et 23 ( désignant l'ensemble des entiers relatifs):

.

l'ensemble des carrés parfaits non nuls :

.

Pour ce dernier ensemble, on peut adopter une autre notation, plus immédiate :

.

On a donc deux formes de notation :

{x ∈ E | P(x) },

pour « l’ensemble des x de E tels que la condition P(x) est vraie,

{f(x) | x ∈ E et P(x)}

pour l'ensemble des images par f des éléments x de E satisfaisant P^[6].

Voici d'autres exemples :

• désigne l’ensemble des nombres réels .
• désigne l’ensemble des matrices symétriques.
• est l’ensemble de tous les entiers pairs
• est encore l’ensemble de tous les entiers pairs.

Pour chacune des deux notations, on doit restreindre la compréhension à un ensemble (l'ensemble sur lequel est défini la fonction pour la deuxième notation). Cela peut paraître superflu : pourquoi ne pas prendre n'importe quelle condition ? Mais si c'était le cas on pourrait définir l'ensemble {x | x ∉ x}, ce qui conduit à une contradiction (c'est le paradoxe de Russell). La restriction de la compréhension à un ensemble connu protège contre ce genre de paradoxes (la première notation correspond directement au schéma d'axiomes de compréhension de la théorie de Zermelo, la seconde s'en déduit, en utilisant la définition d'une fonction en théorie des ensembles, dont le graphe est un ensemble de couples). On n'a pas besoin de ce genre de restriction pour introduire (comme au paragraphe précédent) des ensembles finis par la liste de leurs éléments, ou pour introduire des ensembles par des opérations ensemblistes usuelles, comme la réunion, ou l'ensemble des parties d'un ensemble.

On n'a pas dit ce que l'on entendait par « propriété » ou « condition ». Malgré la restriction précédente, on ne peut tout autoriser, sous peine d'autres paradoxes comme le paradoxe de Richard ou le paradoxe de Berry, qui fait intervenir, par exemple, « l'ensemble des entiers naturels définissables en moins de quinze mots français ». Il est nécessaire de préciser le langage dans lequel on peut définir ces conditions. En particulier ce langage doit être défini a priori, et ne peut être étendu qu'à l'aide de définitions qui sont soit de simples abréviations, soit résultent de preuves d'existence et d'unicité.

Autres notations

Il existe d'autres notations commodes, en particulier pour les ensembles de nombres, et plus généralement pour les ensembles totalement ordonnés.

On peut utiliser des points de suspension, pour des notations inspirées de la notation en extension pour des ensembles de cardinalité infinie, ou finie mais non déterminée. Par exemple, l’ensemble des entiers naturels peut se noter par : = { 0, 1, 2, 3, ...}. S'il est clair par ailleurs que n désigne un entier naturel, {1, 2, ... , n}, voire {1, ..., n} désigne en général l'ensemble des entiers supérieurs ou égaux à 1 et inférieurs ou égaux à n. De même on peut écrire = { ..., -3, -2, -1, 0, 1, 2, 3, ...}, ou encore {-n, -n+1, ...., n-1, n}. Quand il y a un procédé itératif simple pour engendrer les éléments de l'ensemble, on peut se risquer à des notations comme {0, 2, 4, 6, ...} pour l'ensemble des entiers naturels pairs etc. On peut bien sûr utiliser ces notations pour des ensembles ayant « beaucoup » d'éléments, {1, 2, ..., 1000} plutôt que d'écrire les mille premiers nombres entiers non nuls, ou encore { 3, 5, ..., 21 } plutôt que { 3, 5, 7, 9, 11, 13, 15, 17, 19, 21 }.

Toutes ces notations ne sont pas systématiques, ni universelles, et pour les dernières au moins, pas très rigoureuses. On peut encore signaler, la notation, rigoureuse celle-ci, de certains sous-ensembles de la droite réelle, les intervalles.

Par abus de notation, parfois on ne note pas la variable dans la définition en compréhension, mais seulement la propriété. Ainsi on note un ensemble en plaçant entre accolades la nature, ou une propriété caractéristique, des objets qui lui appartiennent. Par exemple la notation {chiens} désigne l’ensemble de tous les chiens ; pour prendre un exemple plus mathématique, on pourrait écrire parfois {pairs} pour l'ensemble des nombres pairs.

Notes

Voir aussi

• Correspondances et Relations
• Ensemble flou
• Opérations sur les ensembles
• Produit cartésien
• Sous-ensembles
• Théorie des ensembles
• Théorie naïve des ensembles

• Portail des mathématiques