« L’essence des mathématiques réside dans la liberté »
Cantor compte l’indénombrable
La théorie des ensembles et la différence de l’infini
L’absolu et l’infini ne fascinent pas seulement les philosophes et les théologiens, mais aussi les mathématiciens. Ainsi Georg Cantor, né en 1845 à Saint-Pétersbourg et vivant avec ses parents depuis 1856 en Allemagne, a passé toute sa vie, ou presque, à étudier mathématiquement l’infini. Sa mère, virtuose du violon, et son père, un riche homme d’affaire, très pieux et passionné d’art et de culture, faisaient baigner le jeune Cantor dans une culture artistique qui le persuadait que le travail mathématique était lui-aussi intimement lié à la créativité. « L’essence des mathématiques réside dans la liberté » écrit-il, une phrase reprise sur le cube placé devant l’université de Halle pour faire mémoire des quatre grands mathématiciens de cette université. Au lieu de dire mathématique pure Cantor préférait parler de mathématique libre.
Les mathématiques, Cantor les étudia à l’Université de Berlin avec les grands de cette discipline : Karl Weierstrass, Ernst Eduard Kummer et Leopold Kronecker, ce dernier étant un des plus virulents opposants à la théorie de l’infini que développait son élève.
Cette théorie en effet semble paradoxale en ce double sens qu’elle est surprenante et souvent contraire à l’intuition, mais aussi en ce sens que les efforts d’enfermer l’infini dans des théories mathématiques engendrent en celles-ci des contradictions dont il faut se débarrasser pour ne pas les rendre inutilisables.
Et puis, cet infini dont avaient déjà parler les grecs, a-t-il vraiment une consistance logique? Ne contredit-il pas l’axiome à première vue évident que le tout est plus grand qu’une de ces parties ?
Reconnaissant pour ce qu’il a pu découvrir, Cantor écrit en 1882 à son ami Richard Dedekind, autre grand mathématicien du tournant des 19e et 20e siècles que Dieu tout puissant a voulu qu’il parvienne « aux ouvertures les plus extraordinaires, les plus inattendues en théorie des multiplicités et en théorie des nombres ».
Georg Ferdinand Ludwig Philipp Cantor (1845-1918)
Un livre accessible sur l’infini mathématique de Cantor
L’excellent ouvrage de Gustavo Ernesto Pineiro, paru dans la collection « Grandes idées de la science » sous le titre « Cantor et l’infini mathématique » présente de façon accessible même au lecteur non mathématicien ces théories qui ont révolutionné les sciences mathématiques et développé ce qui est devenu la théorie des ensembles, fondement des mathématiques modernes.
Pour mieux étudier l’infini qui l’intriguait, Cantor se tourne vers ces ensembles qui sont supposés avoir une infinité d’éléments, comme l’ensemble des nombres naturels 1, 2, 3… Pour compter les éléments de deux ensembles infinis, il les compare entre eux, en prenant de chacun un élément pour former un couple. S’il arrive à former des couples sans jamais manquer d’éléments dans un des ensembles, les deux ensembles ont le même degré d’infini, la même puissance, le même cardinal, comme disent les mathématiciens.
Ainsi l’ensemble des nombres naturels a le même cardinal que l’ensemble des nombres carrés 1, 4, 9… car entre les éléments des deux ensembles on peut en effet établir une correspondance terme à terme, une bijection, prenant de chacun des deux ensembles un élément pour former des couples (1,1) (2,4) ; (3,9)… Rien ne s’oppose à continuer à l’infini, et par conséquent les deux ensembles ont le même cardinal, le même degré d’infini. Cantor le notera plus tard ℵ0 (aleph zéro).
A remarquer : l’ensemble des nombres carrés, tout en étant une partie de l’ensemble des nombres naturels, a pourtant le même cardinal ℵ0. Autrement dit : pour les ensembles infinis, le tout n’est pas plus grand que ses parties. Ce qui donne une nouvelle définition d’un ensemble infini : est infini un ensemble qui est en bijection avec une de ses parties.
Ceci étant constaté la question se pose si tous les ensembles infinis ont le même cardinal ou s’il y a d’autres cardinaux que ℵ0 .
Prenons par exemple l’ensemble infini des nombres réels compris entre 0 et 1. Contrairement à l’ensemble des nombres naturels cet ensemble n’est pas dénombrable : la correspondance entre les nombres naturels et les nombres réels n’est pas une bijection et le cardinal de l’ensemble des nombres réels compris entre 0 et 1 est supérieur ℵ0. Cantor l’appelle ℵ1. Reste à savoir s’il y a un cardinal entre celui des nombres naturels dénombrables et celui des nombres réels ? Autrement dit l’égalité : ℵ1 = 2ℵ0 est-elle correcte ?
Malgré ses efforts, Cantor n’a pas pu démontrer la validité de cette égalité. Plus tard, en 1940, Kurt Gödel démontrera que dans n’importe quel système axiomatique, il est impossible de démontrer que l’égalité en question soit fausse. D’un autre côté, Paul Cohen démontra en 1963 qu’on ne peut pas démontrer dans les systèmes axiomatiques existants la vérité de cette égalité.
Le paradoxe de la théorie des ensembles
Pour étudier ces ensembles transfinis d’une infinité d’éléments, Cantor se sert de la théorie des ensembles qu’il développe et qui deviendra le fondement de ce qui fut appelé « les mathématiques modernes ».
Mais le travail n’était pas facile, surtout que l’on découvrit des contradictions si l’on accepte l’axiome de compréhension qui selon Frege établit qu’à toute propriété correspond un ensemble avec les éléments qui satisfont cette propriété. Par exemple « être un nombre pair » correspond à l’ensemble de la totalité des nombres pairs.
Suivant cet axiome, Bertrand Russell propose de former l’ensemble de tous les ensembles qui ne se sont pas élément d’eux-mêmes. Soit M l’ensemble de tous les ensembles qui ne se sont pas éléments d’eux-mêmes. Si M n’est pas un élément de l’ensemble M, il doit être élément de M, mais s’il est élément de M, il ne devrait pas être élément de M, selon la propriété de M qui ne doit contenir que des ensembles qui ne sont pas élément d’eux-mêmes. On a donc bien une contradiction que les mathématiciens ont essayé d’éliminer pour ne pas rendre inopérante la théorie des ensembles.
Ainsi Zermelo et Fraenkel ajoutent dans la liste de leurs axiomes qu’aucun ensemble ne peut être élément de lui-même et évitent ainsi que M soit élément de M. Bertrand Russell lui-même élabore sa théorie des types pour résoudre le problème.
Cantor qui avait vu la contradiction propose que le cardinal le plus grand devrait être celui de l’ensemble de tous les ensembles.
Or cette exigence est une entorse à la règle, car de tout ensemble E on peut toujours former l’ensemble de ses parties P(E), et le cardinal de P(E) est supérieur au cardinal de E.
Cantor fait alors la distinction entre transfini et absolu. Le domaine du transfini englobe tous les ensembles infinis accessibles à l’esprit humain. Le domaine de l’absolu regroupe ce qui est inaccessible à l’entendement humain, comme justement l’ensemble de tous les ensembles. L’absolu suit des règles différentes de celles du transfini, et selon Cantor les paradoxes naissent parce qu’on applique les règles du transfini au domaine de l’absolu.
Shakespeare ou Bacon ?
L’infini mathématique tel que Cantor l’a étudié a beaucoup été critiqué. Ce qui n’a pas encouragé Cantor dans ses recherches solitaires. A cela s’ajoute qu’il n’a jamais été nommé professeur à Berlin ou Göttingen, mais a dû se contenter de l’université de Halle. A ces déceptions s’ajoute que le 16 décembre 1899 meurt Rudolf, son fils cadet, à l’âge de treize ans. Profondément atteint, Cantor doit faire soigner ses troubles mentaux à l’hôpital psychiatrique et se détourne pour un certain temps des mathématiques de l’infini. Il s’intéresse davantage à la littérature et à la philosophie. Invité en 1911 à donner une conférence pour le 500e anniversaire de la fondation de l’Université de Saint-Andrews en Ecosse, Cantor ne traite pas comme prévu un sujet de mathématiques, mais parle de l’œuvre de Shakespeare qui serait en réalité celle de Francis Bacon, une thèse que Cantor avait tenu dès son jeune âge et pour laquelle il avait rassemblé de nombreux arguments.
En 1913, Cantor prend sa retraite. Ses collègues voulaient fêter grandement son 70e anniversaire pour reconnaître ses mérites en mathématique, mais la Grande Guerre ne le permettait plus. En juin 1917, Cantor est à nouveau hospitalisé à la clinique psychiatrique de Halle où il meurt d’une crise cardiaque, le 6 janvier 1918.
Avec ses recherches sur les multiples infinis, Georg Cantor a contribué à reformuler entièrement les fondements des mathématiques. Aujourd’hui ces mérites sont unanimement reconnus et les mathématiciens et logiciens utilisent le nouveau monde des transfinis qu’Henri Poincaré a comparé « à un paradis ».
Jean-Jacques FLAMMANG scj