par Jean-Pierre Belna

Ellipses août 2009
128 pages en 14,5 × 19, prix : 7,5 €, ISBN 978-2-7298-5166-8

La collection « L’esprit des sciences » dont c’est le no 47 se propose de répondre à un désir de culture permettant à un large public de découvrir, comprendre et apprécier les sciences ; l’auteur y a déjà publié en 2005 une Histoire de la logique (n° 33).

Dans l’introduction, l’auteur précise son objectif : montrer que la notion d’ensemble est liée à celles d’infini et de nombre qu’elle a peu à peu remplacées comme notion fondamentale et dégager que l’abstraction en mathématiques est le résultat d’une démarche intellectuelle et non d’une lubie d’une communauté qui se plairait dans l’ésotérisme ; les huit chapitres suivent ensuite l’ordre chronologique et dégagent les apports successifs en particulier du XX^e siècle :

• I. Les prémices de l’idée d’ensemble : Un problème pour les grecs
  Zénon, Aristote, Euclide ; paradoxe du tout et de la partie : Duns Scot, Galilée ; un infini actuel : Pascal, Leibniz.
• II. La « doctrine des ensembles » de Bolzano : différents concepts
  ensemble, somme, pluralité, suite ; les ensembles infinis existent mais pas de nombres infinis ; une doctrine mais pas une théorie.
• III. Problèmes de topologie et d’analyse
  la théorie des multiplicités de Riemann, intégration et séries trigonométriques, Riemann et la théorie des ensembles.
• IV. Dedekind et les ensembles de nombres
  l’approche algébriste (groupes et corps), l’ensemble des réels (coupures), l’ensemble des entiers naturels, sousensemble, ensemble infini, quelques difficultés non repérées, son influence sur Cantor, Peano, Hilbert, Zermelo, …
• V. Cantor et la théorie des ensembles et nombres transfinis
  théorie cantorienne des nombres réels, le dénombrable et le continu, de la topologie à l’arithmétique, nombres transfinis, théorie cantorienne des ensembles, les lacunes de la théorie très inégalement accueillie.
• VI. Logique et théorie des ensembles
  diagrammes logiques (Leibniz, Euler, Venn), l’algèbre de la logique (Boole, Peirce, De Morgan, Schröder), Frege et les extensions du concept.
• VII. Les paradoxes de la théorie des ensembles
  l’ensemble de tous les nombres ordinaux (Burali-Forti), l’ensemble de tous les cardinaux (Cantor), l’ensemble de tous les ensembles (Bolzano), le paradoxe du barbier et la théorie des types (Russel).
• VIII. La théorie axiomatique des ensembles : premiers débats
  le continu, bon ordre et axiome du choix (König, Zermelo, Hilbert), crise des fondements et théorie de la mesure (Baire, Borel, Lebesgue, Hadamard), axiomatisation de Zermelo-Fraenkel, deux autres théories : axiomatique NBG (Von Neumann, Bernays, Gödel), théorie NF (Quine), problèmes métathéoriques : complétude, non-contradiction, indépendance ; la reconstruction de Bourbaki.

Dans sa conclusion, l’auteur pose la question : les ensembles nous sont-ils donnés ou résultent-ils d’un processus de rassemblement de leurs éléments par la pensée ? Et repasse en revue les réponses de Bolzano, Frege, Dedekind, Cantor, Zermelo, Gödel ; pour ce dernier dans la théorie axiomatique des ensembles « les concepts et théorèmes décrivent quelque réalité bien déterminée mais les axiomes ne contiennent pas une description complète de cette réalité ».

Une bibliographie sommaire renvoie à quelques textes fondamentaux et un bref index aux notions essentielles.

De l’antiquité à la seconde moitié du XX^e siècle, la théorie des ensembles a donc une longue histoire étroitement liée à celle des mathématiques et de la logique et par conséquent impliquant tout autant le philosophe que le mathématicien.

Cet ouvrage, très clair, bien structuré et agréable à lire permet de la connaître et de la dominer ; il rendra donc de grands services tant aux professeurs qu’aux élèves de Terminale, mais aussi aux candidats au CAPES et à l’agrégation.