cantor et le transfini

De
Publié par

Les nombres transfinis indexent des séries infinies de termes: faut-il admettre l'existence d'une pluralité d'infinis? Plusieurs infinis, cela est-il vraiment possible ? Avant Cantor l'infini est unique, après lui...on ne sait plus! Car avec le transfini surgissent des paradoxes plus qu'embarrassants et ce que D. Hilbert a nommé le "paradis cantorien", créé pour les mathématiciens, est bel et bien devenu un "enfer métaphysique"! Si H. Poincaré et d'autres n'ont pas hésité à refuser l'usage de la notion, d'autres sont sûrs de l'utilité des transfinis.
Publié le : dimanche 1 février 2004
Lecture(s) : 142
Tags :
EAN13 : 9782296349087
Nombre de pages : 260
Voir plus Voir moins
Cette publication est uniquement disponible à l'achat

Cantor

et le transfini

Mathématique et ontologie

Ouverture Philosophique Collection dirigée par Bruno Péquignot et Dominique Chateau
Une collection d'ouvrages qui se propose d'accueillir des travaux originaux sans exclusive d'écoles ou de thématiques. Il s'agit de favoriser la confrontation de recherches et des réflexions qu'elles soient le fait de philosophes "professionnels" ou non. On n'y confondra donc pas la philosophie avec une discipline acadélnique ; elle est réputée être le fait de tous ceux qu'habite la passion de penser, qu'ils soient professeurs de philosophie, spécialistes des sciences humaines, sociales ou naturelles, ou... polisseurs de verres de lunettes astronomiques. Déjà parus

Caroline GUIBET LAFAYE, Kant. Logique du jugement esthétique, 2003. Manola ANTONIO LI, Géophilosophie de Deleuze et Guattari, 2003 Régis LECU, L'idée de perfection chez Giordano Bruno, 2003 Guillaume ZORGBIBE, Les paradoxes de la loi, Saint Augustin etKierkegaard,2003 Ulrich STEINVORTH, Ethique classique et éthique moderne, 2003. Mohan1ed Kan1el Eddine HAOUET, Camus et l'hospitalité, 2003. Patricio RODRIGUEZ-PLAZA, La peinture baladeuse. Manufacture esthétique et provocation théorique latinoaméricaine,2003. UCClANl Louis, La peinture des concepts, 2003 Renaud DENUlT, Articulation entre ontologie et centralisme politique de Héraclite à Aristote: L'aube de l'Un (vol.I) et Le cercle accompli (vol.II), 2003 Paul DUBODCHET, Commons et Hayek, défenseurs de la théorie normative du droit, 2003. Bernard HONORE, Pour une philosophie de la formation et du soin, 2003.
Mario COSTA, Internet et globalisation esthétique, et de la philosophie à l'époque des réseaux, 2003. l'avenir de l'art

Philippe LAURIA

Cantor et le transfini
Mathématique et ontologie

L'Harmattan 5-7, rue de l'École-Polytechnique 75005 Paris FRANCE

L'Harmattan Hongrie Hargita u. 3 1026 Budapest HONGRIE

L'Harmattan Italia Via Bava, 37 10214 Torino ITALlE

(Ç)L'Harmattan,

2004

ISBN: 2-7475-5848-7 EAN : 9782747558488

PRÉFACE Si, comme le dit Pascal, «la dernière chose qu'on trouve en faisant un ouvrage, est de savoir celle qu'il faut mettre la première» (et non sans risque), il est facile de comprendre la malice qui porte un auteur à faire préfacer son texte par autrui! Pourtant, c'est avec plaisir que je réponds ici à la demande de Philippe Lauria, et afin de pouvoir saluer un type de travail dont il y a encore trop peu d'exemples. Quelles difficultés, pourtant, attendent le préfacier qui est soucieux de rester à sa place! Une préface ne doit pas être une postface: elle ne doit

donc pas commenter, après l'avoir dévoilé, ce que l'auteur va dire - et
donc en le trahissant - que ce soit pour l'approuver ou pour le discuter. Elle ne peut pas être non plus, en quelques pages, un discours autonome et de poids comparable sur le même sujet. Le préfacier peut prendre appui, néanmoins, sur ce qui lui donne certains avantages, par rapport aux futurs lecteurs d'une part, et à l'auteur d'autre part. Ayant lu l'ouvrage, il peut éviter à ceux qui ne l'ont pas

encore lu d'y chercher autre chose que ce qu'il entend leur offrir - ce qui sera fait pour commencer - et n'ayant pas écrit l'ouvrage, il lui est loisible de formuler à sa manière certaines questions - ce qui sera fait ensuite - et
entraîner par là le lecteur, dans sa foulée, à expliciter les siennes. Sa conviction première (quand il comprend ainsi son rôle) est en effet de croire qu'une lecture est d'autant plus bénéfique qu'on a plus de questions en tête avant de l'entreprendre, même si ces questions se trouvent sérieusement malmenées ou transformées par l'auteur. Le risque est de ne rien apprendre si aucune interrogation, même peu judicieuse, ne précède la lecture. Sa deuxième conviction est que s'il se trompe (autrement dit s'il est préférable qu'un lecteur ait l'esprit neuf), il est toujours possible d'ignorer la préface! Avouons qu'il ne peut pas en rester à une liste de questions, qu'il lui faut un peu les argumenter et qu'il ne peut pas faire litière de ce qu'il a lu chez l'auteur préfacé, mais le contenu auquel il se réfère, pour ne pas déflorer l'ouvrage, ne doit pas excéder celui qu'on perçoit en le feuilletant, comme quiconque le fait avant lecture. Les questions seront celles que ce regard superficiel peut induire ou raviver dans un esprit. Ce qui déçoit souvent un lecteur c'est que le livre, au fond, n'ait pas porté sur un autre sujet! Il est donc souhaitable de lui éviter une déconvenue. Certes, tous les angles d'attaque ne se valent pas et la problématique choisie pour composer un sujet reste à bon droit discutable, mais il arrive aussi que plusieurs cheminements soient admissibles et que celui de l'auteur soit préjugé à tort. La méprise la plus grossière, ici, serait de croire qu'il s'agit d'une introduction aux techniques mathématiques de

la théorie des ensembles; la seconde serait de crOIre qu'il s'agit d'un travail d'érudition historique. Or, le propos n'est pas de reprendre, des Anciens à nos jours, les nombreux jalons d'une histoire de l'infini. Il est d'autant plus utile de le dire que beaucoup d'intervenants se verront consultés, comme il y a par ailleurs des calculs, mais aucun ne doit donner le change sur l'objectif. Bien sûr, et comme toujours dans ce cas, le lecteur peut estimer que les analyses vont trop loin ou pas assez loin ici ou là. Il pourra regretter la part modeste accordée à tel ou tel (à Bolzano, par exemple), ou la part trop belle qui est faite à tel autre (à Kant, peut-être), mais cela tient à des points doctrinaux. Il est bon, en effet, de savoir distinguer les idées, grandes ou petites, qui ont marqué une personnalité, de celles qui ont régi, par dessus sa tête, le cours de 1'histoire. Si le lecteur discute des choix faits par P. Lauria, qu' il le fasse à partir de 1'histoire cantorienne des idées. Il est bien connu, déjà, que dans la formation intellectuelle d'un individu ce qui peut compter n'est pas nécessairement un grand auteur, ou une grande idée, c'est fréquemment telle idée plus subalterne, voire communiquée par un maître obscur, mais qui a donné à penser. C'est ainsi que les allégeances de Cantor se trouvent dans les courants «spiritualistes». Ne faudrait-il pas, cependant, lui opposer, au moins par méthode, son ostracisme à l'égard des autres? Son essai d'application des transfinis à la physique où la tradition matérialiste, pour une fois, est mise à contribution (avec Jo atomes corporels et C atomes d'éther, où C est la puissance du continu) pourrait donner lieu à débat, bien que la physique sous-jacente soit devenue obsolète 1. Si ce n'est pas une histoire des idées mathématiques et philosophiques, ce n'est pas non plus une monographie sur Cantor; ne sera pas analysée, notamment, toute la genèse des idées chez cet auteur. Bref, les qualités de l'ouvrage sont ailleurs: il s'agit d'une libre réflexion sur le cantorisme. Ce n'est pas un faible mérite d'avoir su unir des investigations mathématiques, des analyses philosophiques et des positions théologiques, et sur les deux plans à la fois de I'histoire (même très sélective) et de la théorie. Le lecteur s'attend sans doute à voir tous ces aspects coordonnés avec la psychopathologie de Cantor, puisqu'on est souvent frappé par les troubles mentaux qui l'ont atteint. Les rapports du génie et de la folie (comme on disait naguère) n'ont pas cessé d'intriguer, et plus encore quand il s'agit d'un mathématicien, puisqu'on en exige la plus haute forme de rationalité. Comme il n'est pas interdit de penser que la psychose explique, sinon le génie d'un écrivain psychotique, au moins la manière dont le génie a su tirer parti de son destin (des tendances autistiques, par exemple, mises à profit pour exprimer la déréliction humaine), pourquoi en irait-il autrement
1 Lettre de Cantor à Mittag-Leffler du 16 novembre 1884, citée dans N. Charraud. (Quand elles sont incomplètes, nos références renvoient à la bibliographie de l'ouvrage de P. Lauria).

II

pour un mathématicien? Certes, Cantor donne le sentiment qu'il purge sa morbidité dans ses écrits non mathématiques (les travaux très étranges sur Shakespeare ou la généalogie du Christ), mais aucune dissociation de la personnalité ne saurait être parfaite. On lira ce que P. Lauria pense de certaines tentatives d'explication psychiatrique. Pourrait-il retenir davantage d'un éclairage médical? Si quelqu'un lui fait grief de sa prudence, que ce soit sans oublier les pièges d'une telle entreprise: devenir soi-même mythomane. Cantor emprunte des idées à des philosophies très différentes, voire antagonistes. Y a-t-il une pensée «aristotélico-platonicienne» ? Reste-t-il au plan conceptuel réellement cohérent? Le problème du syncrétisme philosophique de Cantor sera-t-il suffisamment soulevé? Plus généralement, lier entre eux les différents registres (mais c'est redoutable) ne sera-t-il pas sous-estimé intra-mathématique, métaphysique, psychopathologique, religieux «non confessionnel», comme dit Cantor 2 (chrétien, mais sans l'admission du Christ-Dieu, peut-être juif plus secrètement, d'une famille protestante mais lui-même en amabilité avec la hiérarchie catholique), voire tactique (quand il défend son thomisme auprès de celle-ci) ? Mais le mouvement inverse, aussi, peut être attendu (notamment par les lecteurs mathématiciens) : pourquoi ne pas séparer chez Cantor une mathématique incontestable, «pure», ou comme préfère le dire Cantor, une mathématique «libre» 3, d'une philosophie (qui, par nature, doit rester controversable) et qui fournirait éventuellement des pistes heuristiques, mais en aucune manière des justifications? S'il est difficile de répondre à cette question c'est surtout qu'il n'y a pas à vrai dire de mathématiques cantoriennes pointues réalisant l'accord de tous les esprits, et qu'on ne peut pas dire non plus que les désaccords eux-mêmes soient strictement intramathématiques (à supposer qu'ils puissent y en avoir qui soient tels). Les doutes ne portent pas sur la valeur d'usage d'une technique qui serait, pour tous les protagonistes, saine en elle-même. Ils portent sur la valeur de la question posée, et on défigure les positions prises en masquant leur caractère d'objection préjudicielle sous des termes trop sobrement mathématiques (par exemple, si on s'interdit par hypothèse d'employer la loi de double négation dans une preuve, comme on s'interdit d'employer une certaine lettre dans un lipogramme, en voulant ignorer dans le premier cas les raisons ultimes de l'interdit). Autrement dit, si le praticien se contente de parler d'une validité proprement mathématique (tout est conforme à ce que la théorie autorise)et il faut parfois le faire, par exemple le temps d'une vérification - il est bien contraint ensuite de se demander, en tenant la théorie à distance, ce que valent ces autorisations, et l'assertion sur le caractère valide des résultats est donc gelée. Bref, aucun repli techniciste ne permettra
2 Lettre de Cantor à Mme Pott du 7 mars 1896..citée dans N. Charraud. 3 Cantor, Fondements d'une théorie générale des ensembles, p. 48. III

d'échapper aux mises en question les plus radicales. C'est un des mérites de P. Lauria d'en avoir pris toute la mesure. Comme il est bien connu que Cantor alimente philosophiquement ses mathématiques, personne ne manquera pas de se demander si (ou dans quelle mesure) la métaphysique de l'infini a préparé les mathématiques de l'infini, ou si elle les a handicapées, ou si les mathématiques de l'infini ont ignoré la métaphysique de l'infini malgré quelques rapprochements possibles, mais qui seraient seulement chez Cantor des cautions postérieures à ses contributions mathématiques (ou au moins aux premières d'entre elles). Il faut alors distinguer les auteurs qu'il a pu connaître, puis transposer ou inverser dans sa mathématique de l'infini (comme Spinoza, peut-être) et ceux qui sont invoqués après coup, ou qui le renforcent dans une orientation déjà prise (sans doute des auteurs comme Nicolas de Cuse, par exemple, dont il dit justement «je découvre de même dans la philosophie de Nicolas de Cuse des points communs avec mes conceptions») 4. Il est en effet important de savoir si telle ou telle philosophie a eu un réel pouvoir générateur sur un traitement positif. La question se pose notamment pour la métaphysique leibnizienne et le calcul infinitésimal, le philosophème leibnizien de «monde possible» et la sémantique formelle de la logique modale, l'indéterminisme philosophique et la logique trivalente (puis n-valente) chez Lukasiewicz, la métaphysique de Brouwer et ses premiers travaux déviants en mathématiques, mêlés étroitement dans ses publications de jeunesse. Ce rôle de la philosophie serait alors bien distinct de celui qu'on lui prête en général, d'une activité apte à ne remplacer un discours que par un autre. Au demeurant, il y a eu beaucoup d'arguments discursifs (de Cantor ou de ses commentateurs) qui s'efforcent de donner ou de refuser un sens aux transfinis à partir de jugements sur l'infini divin? P. Lauria en présente soigneusement plusieurs, et il a raison de le faire puisqu'ils ont été échangés. Faut-il les discuter gravement? (Dieu est-il soumis au théorème de Godel ? Connaît-il toutes les décimales de 1t ? Perçoit-il N comme un tout? Le peut-il pour Z, pour Q, pour R, etc. ? ). Une réponse affirmative, notamment, à certaines questions de ce registre ne doit pas donner une pertinence à une exploration mathématique qui n'en aurait pas. Elle expliquerait l'obscur par le plus obscur. En réalité, les mathématiques ont un aspect anthropologique qu'il faut leur reconnaître (comme Wittgenstein l'a bien vu), elles sont relatives à la condition humaine - comment lui échapperaient-elles? -. Nous n'avons aucune idée de ce que seraient les mathématiques d'un autre être. Nous ignorons s'il yale moindre sens à invoquer des mathématiques «en soi». Au lecteur de voir s'il partage donc l'aversion du préfacier quand on le sollicite d'adopter un point de vue divin sur nos connaissances (et alors qu'il convient accorder des sources libres d'inspiration; l'arithmétique a bénéficié de l'arithmologie
4ibid., p. 41, note.

IV

fantastique et du commerce). Prendre modèle sur quelque chose, avec efficacité, c'est en même temps reconnaître la possibilité de se passer en droit du modèle. Une fois constituée, l'arithmétique est indépendante des superstitions et du troc. Pour être fidèle au cantorisme, cependant, il faut aussi juger des apports de ses mathématiques à la philosophie, et P. Lauria présente sur cette rétroaction des contributions hardies très personnelles qui ne devraient pas laisser le lecteur indifférent. Dans les derniers paragraphes, à vrai dire, le préfacier a déjà coiffé sa deuxième casquette, celle du questionneur. En allant plus loin dans cette voie, on sera amené à se demander ce qui définit le platonisme de Cantor (par rapport à celui de Frege ou à celui de Godel, par exemple), et ce qu'il vaut. Supposons que le lecteur, en feuilletant l'ouvrage, soit tombé sur le passage où est cité le texte de Cantor exprimant le «principe ontologique» : «Ce qui peut être connu est [. . .] et c'est dans l'exacte mesure où elle est qu'une chose est connaissable» 5. Il détient alors une des clés de la version cantorienne du platonisme (compris ici comme la thèse soutenant que les objets mathématiques constituent un monde réel, hors de l'espace et du temps, mais sans qu'on embrigade toute la pensée de Platon derrière elle). C'est ce principe qui permet à Cantor une fuite en avant permanente: plus on parvient à développer un discours cohérent sur un objet de pensée, plus il est clair qu'on atteint un existant. Pour parvenir à parler si savamment du transfini il faut que le transfini existe. Si la théorie se développe, quelque chose est connu, et donc il existe une chose connaissable qu'on peut estimer découvrir. Le mathématicien ne crée pas ses objets; ceux-ci lui préexistent mais il ne peut découvrir un objet déjà là qu'en mettant librement en oeuvre des actions mathématiques qui vont le faire apparaître (associer bijectivement, effectuer une coupure, appliquer le procédé zigzag (celui prouve Q dénombrable), prélever dans une infinité d'ensembles, et simultanément, un élément de chacun, enclencher une récurrence, etc.). Il ne découvre pas en contemplant (si quelque platoniste a pu le croire), il découvre en agissant, comme s'il créait. Non pas, certes, qu'il s'agisse d'un simple rituel, à la manière dont chez Proust les violonistes ont à accomplir certains actes pour que la «petite phrase de la sonate de Vinteuil» apparaisse. Cantor (qui, rappelons-le en passant, avait des dons et des goûts pour le violon) ne pourrait s'en contenter: les actions du mathématicien doivent retrouver celles qui forment l'objet mathématique, mais en somme, quoiqu'il fasse, il ne peut pas échapper à ces dernières. Ce platonisme in fine, après ce qu'on peut nommer un activisme libertaire, est-il assez regardant sur ce qu'il faut dire «connu» ? Il y a des platonistes qui le nient. Hermite, par exemple, voyait au fond des coups de
5 ibid., p. 48, note.

v

force dans beaucoup des mesures prises par Cantor qui violentait pour lui le monde en soi des êtres mathématiques 6. Dans un sens comparable, Frege a incriminé l'usage désinvolte de l'abstraction, pour construire des nombres censés dotés d'existence, comme nous le verrons plus bas. Quelle raison inciterait-elle à penser que tout ce qu'on fait ne réussit que parce qu'on retrouve les choses telles qu'elles sont? Et que voudra dire (en mathématiques, comme dans une vie) qu'on a «réussi» ? Frege lui-même remarquait que l'objectivité n'est pas nécessairement l'atteinte d'une réalité, même s'il n'a peut-être pas tiré de cette remarque les bons enseignements: «L'axe de la terre, le centre de gravité du système solaire sont objectifs; je ne peux pas pour autant les appeler réels comme la terre elle-même» 7. Qu'en est-il, d'ailleurs, des cas où la preuve se fait par une action mathématique qu'il faudrait mettre en oeuvre mais qui ne peut être conduite à son terme (comme dans la descente infinie de Fermat) ? Comment pouvoir dire qu'on explore encore la manière dont un objet est constitué, en comprenant donc une preuve de non P sur le modèle platoniste d'une preuve de P ? Il nous semble rationnel d'admettre, dans le sens contraire, qu'une telle preuve de non P montre qu'une preuve de P n'a pas à retrouver la constitution d'un objet 8. Assurément, ceux qu'on dit être des grands créateurs éprouvent souvent comme vrai ce que soutient le platonisme. Pourtant, aucun vécu ne suffit à accréditer une idée. Un personnage qui semble échapper à l'écrivain, en cours de rédaction, ne doit échapper qu'à la portion la plus consciente du travail de celui-ci. Le sentiment d'avoir triomphé d'une difficulté présentée par un objet mathématique qui offrait une résistance (même sans la comprendre de manière animiste) ne suffit pas à établir, non plus, qu'il me préexistait. Dire, d'ailleurs, que ce qui est fait par un homme, si ingénieusement et librement que ce soit, doit retrouver ce qui était déjà fait dans un «troisième domaine», comme dit Frege 9 (ou monde, disons ID3), à savoir ni physique, ni psychique - voire ce qui adviendra dans ID3 s'il est supposé en devenir - n'est-ce pas commettre un paralogisme? L'idée sur laquelle repose le platonisme, en effet, c'est que toute objectivité suppose une réalité, car il n'y aurait rien, sinon, dont ce serait le traitement objectif. Comme les réalités de IDI (le monde physique) sont insuffisantes à rendre compte des objets mathématiques dès qu'on voit
6 cf Poincaré, Dernières pensées, Paris, 1913, p. 160-161. 7 Frege, Les fondements de l'arithmétique, trade froC. Imbert, Paris, Seuil, 1970, p. 153. 8 Qu'en est-il aussi des productions techniques? (du moteur à quatre temps, du téléphone, du phonographe, etc. contemporains des travaux de Cantor. Se trouvaient-ils dans quelque arrière-monde? ). 9 Frege, Écrits logiques et philosophiques, trade fro C. Imbert, Paris, Éditions du Seuil, 1971, p. 144.

VI

qu'on ne plus lier tout objet mathématique à un objet de ml, comme le cercle à la roue idéalisée, un autre monde est postulé. «Le quarantecinquième parallèle passe au sud de Lyon», pourtant, est un énoncé objectif (retrouvé par quiconque, après information) sans qu'il y ait une «réalité» du parallèle, et pas même dans le cas où un muret le matérialiserait. La possibilité de parler du quarante-cinquième parallèle supposerait-elle qu'il ait existence dans m3 ? On se défend mal contre l'idée que cette reprise applique au fond la thèse à son contre-exemple. Un platoniste peut toujours considérer, justement, que si un intuitionniste a donné une preuve constructive d'un certain nombre n, c'est que n existait dans m3 et se prêtait à cette approche. Toutes les mathématiques non constructives, y compris celles de l'avenir, seraientelles rendues constructives par quelque procédé, lui-même constructif, le même argument pourrait servir encore au platoniste. Mais que vaut une thèse quand elle prive un adversaire éventuel de toute possibilité de la réfuter? Certes, «(f'/p :J p) :J p» est une loi logique (consequentia mirabilis, ou loi de Clavius) et donne le principe dit «de rétorsion» pour un argumentaire valable. Si de ce que le platonisme est faux il est vrai, on peut en effet conclure pleinement à sa vérité. Mais le problème est de valider le passage de non p à p, de l'énoncé «le platonisme est faux (l'objet est dans m2, le monde psychique)>>à l'énoncé «le platonisme est vrai (tout objet qui est dans m2 est dans n13)>>. défaut, on n'a rien rétorqué à non p. À Ce qui semble être une des raisons majeures de défendre un platonisme (Jt est fait de telle sorte qu'il est (de façon intemporelle) transcendant, et Lindemann l'a découvert en 1882), c'est que pour son principal rival, l'intuitionnisme: un énoncé est rendu vrai par une construction, et donc dans le temps, ce qui paraît impliquer que Jt en 1881 n'était pas transcendant. Dummett remarque, cependant, qu'il est faux de dire «en 1881, Jt était transcendant» puisqu'en 1881 l'énoncé «Jt est transcendant» était encore dénué de valeur logique, et donc l'énoncé (1) «Non (en 1881, Jt était transcendant)>> est vrai, selon le traitement intuitionniste de la négation en mathématiques, alors qu'admettre en mathématiques comme vrai l'énoncé (2) «en 1881, Jt n'était pas transcendant» supposerait qu'en 1881 «Jt est algébrique» soit vrai, alors que cet énoncé était encore dénué de valeur logique. Avec (2), on admettrait donc en mathématiques une forme non intuitionniste de négation. Le passage de (1) à (2) est donc
bloqué 10.

Cantor, mutatis mutandis, ne fait-il pas aussi le déplacement indu d'une négation quand ayant montré par le procédé diagonal que Rn' est pas dans
10 Dummett M., Elements of intuitionism, Oxford, Clarendon Press, 1978, p. 336 sq. L'intuitionnisme est le principal rival du platonisme en tant que c'est la forme sans doute la plus connue (mais non la seule) du constructivisme. VII

les choses dénombrables, il en conclut que R est dans les choses non dénombrables (de ce que la justice n'est pas de ce monde, s'ensuit-il qu'elle est d'un autre monde ?). L'engagement ontologique sur les choses non dénombrables risque bien de se faire par une négation trop librement déplacée. Le «naturalisme» de Cantor peut soulever aussi maintes questions. Il semble bien que les entiers naturels soient jugés de vrais nombres parce qu'ils sont aussi proches que possibles des «nombres concrets», comme on disait jadis, c'est-à-dire compris de telle sorte que la grandeur numérique fasse corps avec les propriétés d'un objet concret précis, comme un stère, contrairement à un m3, n'est pas une unité de volume, mais une unité de volume de bois. Les rationnels (quotients d'entiers) seront admissibles, les irrationnels comme 3t (qui ne s'expriment pas sous forme de fraction) le seront (après un temps de flottement chez Cantor), et au titre de limite d'une suite de rationnels. En définitive, tous les nombres réels (appartenant à R) seront réels (au sens d'appartenir à fi3). En revanche, les nombres infiniment petits (notamment) se trouvent disqualifiés pour ne pas avoir d'assise dans de telles données naturelles. Il ne peut s'agir que de fictions, si utiles qu'elles puissent être dans un calcul. Pour le dire autrement, à partir des nombres «concrets», supposés ordonnés, on forme un tout (étape déjà risquée puisqu'il n'est pas compris de manière distributive) Il. Des nombres «abstraits» vont en résulter: des ordinaux qui font abstraction de la nature mais non de l'ordre des

éléments, des cardinaux qui font abstraction en outre de cet ordre.

.Jo et (ù

s'obtiennent aussi par des abstractions qui sont en somme pour Cantor conservatrices du concret (bien que ce soit d'un concret quelconque). C'est ici que Frege dénonce un recours informel et permanent à l'opération psychologique d'abstraction, là où est exigible un engendrement mathématique 12, à savoir la technique de formation de l'ensemble quotient. Comment faut-il comprendre, d'ailleurs, les anomalies qui semblent bien frapper l'arithmétique des transfinis? Prenons le cas le plus simple de la soustraction des cardinaux transfinis. Selon les ensembles, .Jo - Jo devra faire 0, pour N - N, 1 pourN - N10ù NI = {2, 3,4, ...}, 2 pourN - N2 où N2 = {3, 4, 5, ...}, etc., et même Jo pour N - M où M = {2, 4, 6, ...},

puisqu'il vient {l, 3, 5, ...} qui est dénombrable. Bien sûr, les opérations doivent se modifier selon les types de nombre; il Y a des soustractions

Il Quand elle n'est pas seulement la possibilité biologique pour les petits cardinaux (puis théorique pour les autres) d'être survolé du regard, l'existence d'un ensemble fini fait déjà problème. De ce qu'il y a 3 objets, s'ensuit-il qu'il y a un ensemble E des 3 objets, un ensemble peE), un ensemble pepeE)), etc. ? 12Frege, Écrits posthumes, P. de Rouilhan, C. Tiercelin éd., Nîmes, Jacqueline Chambon, 1999, p. 86-87.

VIII

possibles dans Z et impossibles dans N. Mais, Jo - Jo s'effectue et sans
donner de résultats univoques, ce qui est très différent. Ceci ne conduit-il pas suspecter le transfini 13 ? Est-il bien une extension «naturelle» de l'arithmétique finie? Que penser, enfin, de l'infini en acte dont l'idée met le comble sans doute à un platonisme mathématique et se coordonne difficilement avec un «naturalisme» ? Il faut un infini en acte pour supporter l'infini en puissance, dit Cantor, comme il faut un terrain ferme pour qu'on puisse faire un nouveau pas 14.Certes, l'usage de l'itération «+ 1», est en effet trop faible pour définir l'infini de N, car il faut établir en outre qu'on peut toujours effectuer «+ 1» sans que les résultats précédents entravent la nième effectuation. La preuve, néanmoins, établirait-elle que N existe? N'établirait-elle pas seulement que sur la partie de N déjà disponible le «+1» n'est jamais rendu impossible par ce qu'il vient d'obtenir? Cantor ajoute que pour qu'une variable puisse parcourir un certain domaine, qu'il dit «de variabilité», disons D, il faut que ce domaine ne varie pas lui-même, ne soit pas en cours de constitution, mais qu'il forme, quand le domaine est infini, un infini en acte, et non un infini potentiel. II estime imparable un tel argument. Nous répliquerons qu'aucune variable (malgré une expression commode) ne parcourt de domaine. Si l'occurrence considérée de cette variable est libre, elle désigne anonymement un objet supposé unique de D. Certes, le mathématicien peut parcourir le domaine à la recherche d'une valeur de la variable qui convienne à une preuve, mais la variable n'effectue aucun parcours. Si l'occurrence considérée de cette variable est liée, elle désigne n'importe quel objet unique de D. On ne peut s'arrêter sur aucun, mais non pas parce qu'il faudrait faire défiler tous les objets du domaine, seulement parce que l'objet doit rester indifférent. Un symbole de variable ne s'adresse pas à un objet qui varierait au sens où le temps peut varier (Frege a attiré l'attention sur ce point). D n'a donc nul besoin de préexister en acte. Serait-il admissible, cependant, qu'un ensemble infini ait un cardinal, s'il n'est pas en acte? Est-ce à dire que l'infini est une fiction? Que Cantor nous parle de ce qu'il y a au-delà du fini comme un écrivain nous parle de ce qu'il y a audelà de la vingt-quatrième heure, ou le huitième jour de la semaine? (ce qui n'a rien d'inacceptable, mais ce qui correspond à un certain style). Rappelons d'ailleurs que le «huitième jour» de la semaine est une figure utilisée dans le courant judéo-chrétien qui a les faveurs de Cantor (bien qu'il y soit très hérétique), depuis les Pères de l'Église, pour évoquer la Vie Éternelle, et ce n'est pas le hasard, sans doute, si l'infini des classiques
13 Même au sens large, donc, pour lequel t ~ Jo, et des résultats comparables affectent le transfini au sens plus étroit pour lequel t > Jo- Cantor ne considère pas 0 comme un nombre; cf. J.-P. Belna, p. 122, note. 14 Cantor, Z (édition Zermelo), p. 392 sq, 410 sq.

IX

est un «8» couché. Même si l'infini est une fiction, au moins Cantor pourra-t-il encore interpréter ses alephs comme langage chiffré du divin! Or les mathématiques connaissent déjà - sans déchoir - des objets fictifs ou des êtres de raison. Un exemple donné par Hilbert nous suffira: les nombres 2 et 1 + 1-5n'ont pas de diviseur commun, mais un diviseur commun idéal leur est attribué pour sauvegarder certaines lois, ce qui impose seulement que l'élément idéal n'introduise pas de contradiction dans l'ancien domaine 15.Ceci n'autorise pas, évidemment, à traiter tous les objets mathématiques comme idéaux, car on perdrait la distinction entre 2, 3, 4, 6, 12, diviseurs communs calculés de 60 et de 72, et le diviseur commun attribué à 2 et 1 + -V-5. Il est donc difficile d'admettre le fictionnalisme (les mathématiques, comme les contes, parlent de fictions), puisqu'on ne doit pas perdre de vue la différence entre ce qu'on peut encore trouver à dire, après 1697, sur Cendrillon et sur le nombre 1697 comme tel! Le plan de la fiction (des éléments donnés pour idéaux) est bien admis en mathématiques, mais c'est par contraste avec un autre plan, plus immédiat. Traiter indistinctement de fictions, malgré tout, les objets dont parlent les mathématiques, contraint à dire ce qui rend spécifiques ces fictions, et c'est la partie la plus difficile du programme 16.Rien ne semble interdire que des normes constructivistes s'y retrouvent: une ontologie vide se nourrit d'une praxéologie. Pour établir que l'infini est une fiction, il faudrait montrer que tout ce qui est atteint via l'infini peut l'être par des moyens finis. Un exemple de Henkin montrera de quoi il s'agirait: au lieu de sommer x5 pour x = 1,
40

2,. .., 40, en posant l'addition, posons fI :x? dx . Le résultat sera obtenu sur un ensemble fini qui a fait intervenir fictivement des ensembles infinis 17. Pourtant, on est loin encore de savoir éliminer, en toutes circonstances, l'infini de cette manière, assez nominaliste d'inspiration et que les partisans de l'infini en acte trouveraient encore trop faible: l'infini se révélant seulement susceptible aussi d'un usage finitiste. Mais, à vrai dire, un ensemble fini est-il actuel? Il pourrait bien être une fiction (cf note Il) et entraîner dans sa chute, de cela seul, l'infini actuel. Peut-on dire, au moins, que le foisonnement en cours des logiques et des mathèmes ruine à lui seul le platonisme mathématique? Ce n'est pas certain: fi3 peut être simplement beaucoup plus vaste qu'on ne pouvait le croire à l'époque de l'unicité de la logique et d'un développement moins
15 Hilbert, «Sur l'infini», p. 231 (et référence à Kummer dont Cantor loue les nombres idéaux. Z, p. 183). 16 Le grand représentant aujourd'hui du fictionnalisme, H. Field, en donne cependant une formulation très élaborée que nous ne pouvons pas discuter ici. Il y a en outre une bibliographie étendue sur le fictionnalisme mathématique. 17 Henkin, cité par J. Largeault, Enquête sur le nominalisme, Paris-Louvain, Nauwelaerts, 1971, p. 418.

x

ramifié des mathématiques. En laissant même entendre que m3 pourrait être riche à l'infini, il pourrait rendre plus acceptable l'existence de l'infini en acte. Il peut toutefois, et aussi bien, donner des doutes ou les renforcer sur l'existence de ce monde; on deviendra plus méfiant quand il faut attribuer si souvent l'existence à ce qui est en cause. Un logicien se demandera encore si l'auteur va tirer parti des questions qui se posent sur les champs infinis, et particulièrement à propos du théorème de Lowenheim-Skolem (tout système du premier ordre qui admet un modèle admet un modèle dénombrable), puisque certains analystes, mais certains seulement, estiment qu'il conduit à se passer du non dénombrable 18.Autant savoir que cela appartient à des investigations qui ne sont pas vraiment menées dans cet ouvrage. Il y a là, néanmoins, un point crucial, et d'autant plus qu'il renvoie Cantor aux investigations

logiques - qui lui sont très étrangères - en recourant donc à la
méthodologie toujours indispensable d'une critique externe (même si P. Lauria, par ailleurs, consulte bien la logique) 19. Il semble difficile de conclure d'une manière assurée sur la valeur du cantorisme, mais le préfacier jouit du privilège de devoir s'arrêter, pour rendre la parole à l'auteur, au moment précis où il a compliqué suffisamment les problèmes! Au demeurant, la question la plus lancinante que se posera le lecteur, sans doute, tout au long de sa lecture, portera sur l'incertitude en mathématiques, le caractère controversable de certaines méthodes et de leurs résultats. Le cantorisme se prête tout à fait à une réflexion sur ce thème puisqu'il continue de susciter beaucoup d'objections ou de réticences. N'en déplaise à un certain romantisme des théorèmes dits «de limitation», l'incertitude sur la preuve d'un théorème est beaucoup plus nocive, pour la théorie et pour ses applications, que l'indécidabilité démontrée de sa formulation, qui, après tout, en tant que telle, est un résultat strict comme un autre (même celui de Cohen, donc), et qui reste toujours relative, en outre, à un certain système. Or, cette incertitude sur la preuve d'un théorème (auquel le cantorisme paie un lourd tribut) n'est rare que dans une vision hagiographique des mathématiques. L'indécidabilité fonctionne alors comme un écran de fumée de la véritable faiblesse. Celle-ci se manifeste, d'ailleurs, de façon plus commune: dans une preuve (sauf si elle est reprise en étant complètement formalisée et mécanisée, ce qui est très rarement obtenu) ce n'est pas l'erreur elle-même qui arrête le cours de la preuve, comme le mur arrête un cheminement. Si je traite tous les nombres premiers comme impairs, ma preuve peut se
18 Skolem lui-même concluait que l'infini non dénombrable «n'est qu'une fiction», un «non-objet», mais une exploration plus approfondie (et d'autres théorèmes) permettent de discuter cette ontologie. 19 Le lecteur intéressé pourra se faire une première idée du débat ouvert, en consultant l'ouvrage de Roger Martin, Logique contemporaine et formalisation, Paris, Presses Universitaires de France, 1964, p. 160-164, 190 (et ses références). XI

poursuivre (en tout cas, elle peut se poursuivre sans que rien n'attire inévitablement l'esprit sur l'erreur). Pour voir qu'elle est fausse, il faut que je me souvienne, ou qu'un critique se souvienne, qu'il y a un nombre premier qui est pair, comme dans la vie courante il faut se souvenir qu'il y a un convive de plus! Une preuve peut tomber, faute qu'on ait pensé à toutes les circonstances. C'est pourquoi, il n'est pas étonnant que l'on connaisse beaucoup de preuves (y compris chez Cantor) qui ont longtemps échappé à la sagacité des critiques. Il est donc capital que les mathématiques (tout en constituant la partie la plus solide des connaissances humaines) ne soient pas perçues comme «indiscutables», selon une idéologie qui leur coûte plus cher qu'elle ne leur rapporte. L'incertitude dont il vient de s'agir a au moins le grand intérêt de réinsérer les mathématiques dans l'ensemble de la culture, ce qui importe beaucoup à une description exacte de leur statut, et ce que Philippe Lauria, à partir d'un mathématicien auquel rien n'était étranger, a exploré d'une manière riche et engagée. Nous dirions donc au lecteur intimidé qui hésiterait au seuil de ce livre, et en prenant le contre-pied d'une formule célèbre: Que chacun entre ici, même s'il n'est pas «géomètre», car c'est en entrant qu'on le devient. Jean-Pierre GINISTI
Professeur de logique à l'Université Lyon 3

XII

Table des matières Introduction: Cantor crée les nombres transfinis avec l'idée d'une vaste application aux sciences et à la philosophie. p.9
1.- Idée et nombres

1.- L'Idée platonicienne permet de définir les nombres transfinis, ordinaux et cardinaux, par reconsidération du concept de l'égalité; p.15 2.- Le développement mathématique qui a conduit à la notion prototype d'ensemble dérivé; leur mode de génération est dit « dialectique» par Cantor; p.38 3.- Encore la formation des nornbres transfinis, mais au point de vue épistémologique d'après la conception platonicienne de Cantor; p.49 4.- L'inspiration platonicienne montre que les transfinis sont investis d'un projet ontologique, c'est-à-dire scientifique et dialectique. p.58 II.- Paradoxes (1) : mathématique et dialectique

1.- L'efficacité paradoxale des infinitésimaux; Cantor rejette catégoriquementles infiniment petits au nom du principe de contradiction; p.66
2.- Mais le procédé diagonal n'est pas plus un procédi constructif et la théorie doit faire face à plusieurs difficultés: les paradoxes de Burali-Forti, Russell, l'usage de l'axiome du choix, l'antinomie de Richard; p.l8
3.- Premières analyses et premiers traitements vue de Brouwer, Russell, Zer111£lo,Hilbert; des antinomies - points de p.98

4.- Retour à la métaphysique de l'infini: l'indécidable et l'ontologie de Cantor. p.120
111.- Paradoxes (2) : substance et connaissance

1.- L'innéisme cartésien, que partage Cantor partiellement, ouvre l'aporie de la métaphysique moderne: comment physique et nlétaphysique sont possibles

sans solipsisme?

p.140

2.- Cantor croit trouver dans l'idée adéquate de Spinoza une garantie rnétaphysique de la portée des nouveaux nonlbres l'naissa doctrine incline au panthéisme,qu'il récuse; p.152
3.- Sa doctrine semble plus proche de celle de Leibniz qui résout le dilemme cartésien par réintroduction de la multiplicité transfinie des monades, ou forces métaphysiques; p.165

4.- Il veut ainsi dépasser le criticisme kantien et revenir à l'ontologie; pourtant, avec la dyade du «Je pense », Kant donne les prémisses d'une ontologie; pour dipasser l'obstacleà l'ontologie il faudrait y adjoindrevraiment la causalitémétaphysique,ouforce. p.176
IV.- Possibilité(s) d'une arithmétique transfinie

1.- Dépasser le criticisme signifiait aussi atteindre le rnécanlclsrne newtonien, soutien du matérialisme,d'où l'insistance sur les notions d'organisme et de synthèse; p200.
2.- Le thème de l'organisme n'est pas une extravagance psychologique, des

physiciens montrent que le « modèleplatonicien»a un intérêt scientifique; p.206 3.Cependant l'arithmétique transfinie reste tributaire d'ambiguïtéssémantiques: les nombres sont-ils des indices de rangs ou des types d'ordre? Indicent-t-ils desfonctions ou dessuites de valeurs? p.213 Conclusion: Cantor a voulu initier une sorte de contre-révolution cartésienne par dipassement du scepticisme métaphysique lmntien; il veut en donner la preuve par les applications transdisciplinairesd'une théorie des types d'ordre. p.237
Œuvres principales de G.Cantor Bibliographie sur Cantor et le transfini p.245 p.247

8

Introduction L'antique scandale des incommensurables, la découverte des irrationnels, fut sans doute la première renco11tre avec les paradoxes de l'infini. Mais c'est seulement au XIXième siècle que les mathématiciens jugent être parvenus à une définition rigoureuse des irrationnels grâce, notamment, à l'élaboration des concepts de la théorie des ensembles. Ces catégories vont permettre une définition plus précise de la notion de nombre, réintroduisant cependant des antinomies à la base des mathématiques. Les tentatives pour les résoudre redoubleront les contradictions (Burali-Forti, Russell, Richard), alors que dans le même temps les notions ensemblistes s'imposeront progressiveme11t aux mathématiciens. André Lichnerovicz pouvait ainsi affirmer en 1967 :
«

La mathématique

nous apparaît

désorrnais

COrnn'le toute entière fondée

sur

la théorie des ensembles, avec deux piliers essentiels, l'algèbre au sens moderne et

la topologie »1. Cette situation un peu paradoxale était déjà manifeste à la fin du XIXième siècle. H.Poincaré, qui parmi les premiers traduisit les premiers travaux de Cantor, déclarait pourtant qu'il fallait bannir des mathématiques la théorie des transfiIus, c'est-à-dire l'idée de nombre infini, voyant dans les paradoxes que la théorie engendre les signes de sa défectuosité. De nos jours, alors qu'à l'école sont enseignés les axiomes et les théorèmes de Cantor, qui font partie des fondements de l'analyse, les nombres transfinis, qui pour beaucoup reposent sur ces mêmes axiomes, sont aux yeux de certains auteurs «une construction baroque », suiVaI1t le qualificatif utilisé par R.Thom. Cette double attitude de reconnaissance de la théorie des ensembles et de suspicion à l'égard de certaines de ces constructions apparaît très tôt. De fait, dès qu'ils en ont eu connaissance les mathématiciens se sont servis des ordinaux traI1sfinis, quoique beaucoup aient refusé d'accorder à ces nombres une réalité analogue à celle des entiers, des réels ou même à celle des irrationnels. Cette situation devait finalement provoquer ce que l'on a appelé la crise du f011dement des mathématiques. Depuis lors, il semble que l'utilisation des nombres transfinis n'ait guère dépassé l'usage assez restreint qu'en ont fait ces premiers auteurs, et ceux des mathématiciens qui sont séduits aujourd'hui par la théorie
1 «Remarques sur les mathématiques et la réalité », in J.Piaget, Logique et

connaissance scientifique, Gallimard, La Pléiade, 1967, p.475.

justifient très timidement la valeur df application de ces nombres, ou bien affirment simplement leur ignorance au sujet de l'existence d'une quelconque application. Par exemple, A.Bouvier, qui a contribué au Dictionnaire des mathématiques sous la direction de F.Le Lionnais, marque un pomt d'mterrogation au tableau qu'il dresse des développements appliqués de la théorie des transfinis1. Que penser de cette curieuse situation dans laquelle coexistent, à partir d'un même tronc commun de concepts, des branches développées de la théorie des ensembles et des branches embryonnaires ou informes dont on pourrait peut-être attendre des progrès? Cette ambiguïté peut être plus particulièrement illustrée par la situation un peu bizarre du fameux procédé de la diagonale, par lequel Georg Cantor démontrait l'existence des transfinis: alors qu'il est tout naturellement enseigt1é depuis des générations comme une méthode certame pour établir la nOl1-dénombrabilité des réels, non seulement des mathématiciens de premier rang ont contesté l'existence de la pluralité des infinis, mais de plus, il va de soi que si le procédé est constructif, il ne peut l'être que dans un sens logique, où l'infini s'exprime dans un raisonnement qui comprend un nombre fini de termes. Nous verrons que cette expression est une antithèse «articulée» ou une conjonction de contraires. Quoiqu'il en soit de cette démonstration, les transfinis ne semblent pas avoir trouvé d'applications concrètes un siècle après leur création. Pour leur auteur, pourtant, l'existence des nombres transfinis ne faisait aucun doute:
«

C'est qu'il s'agit d'étendre ou de continuer par-delà l'infini la série des

nombres entiers réels; pour hardie que cette tentative puisse être, je puis néanmoins exprimer non seulement l'espoir, mais bien la ferme conviction qu'avec le temps, cette extension ne pourra plus être regardée que comme
parfaitement naturelle et appropriée
»2.

cf est-à-dire D'ailleurs, les nombres transfinis, des cardmalité infinie, restent ou tombent avec les irratiolli1els :

nombres

de

«Les nombres transfinis sont dans un certain sens de nouvelles irrationalités et en fait, la meilleure méthode à mes yeux pour définir les nombres irrationnels finis est dans le principe le même que fna nléthode pour l'introduction

1 La théoriedesensembles,Que

sais-je?, Puf, 3ièmed. 1982, p.119. é

2Cf. « Fondements nOlO, hiver 1969.

d'une théorie générale des ensembles », Cahiers pour l'analyse, 10

des nombres transfinis. On peut dire absolument les nombres transfinis restent ou tombent avec les irrationnels finis »1. Si la plupart des mathématiciens pensent avoir une conception claire des irrationnels et de la continuitéf on peut se demander pourquoi les transfÎ11Ïs ont pu être tenus pour caducs et dOill1éU1t lieu à U11e arithmétique stérile. Où est la difficulté? L'opinion de Cantor est-elle inexacte, et faut-il nettement distinguer les irrationnels des nombres transfinis? Ce serait à prouver car Cantor et Dedekind ont donné les concepts servant à définir les irrationnels et la continuité, dont la structure logique paraît bien commander la construction des nombres transfinis. Le jugement de Cantor est-il exact..., comment alors expliquer les antinomies qui surgissent et le peu d'application de ces nombres, en particulier en dehors du domaine mathématique, dans lequel d'ailleurs ils semblent occuper une place très limitéef lorsqu'ils ne sont pas simplement considérés comme « des créaturesfantomiques »2. Une telle situation n'était sans doute pas perceptible à l'origine de la théorie et G.Cantor pouvait affirmer que son arithmétique trouverait un vaste champ d'application dans les sciences naturelles:
« Ce nfest que l'idée dfune application possible à la théorie des organismes vivants. .. qui m'a fait entreprendre ce travail fatigant et ingrat sur les ensembles

de points »3.
De surcroît, la philosophie pourrait trouver un intérêt aux propriétés des nouveaux nombres. Cantor cite le problème spinoziste du rapport des nlodes finis avec l'infini, que Spinoza n'aurait pu véritablenlent résoudre. Le symbolisme de l'arithmétique transfinie est:
« fH.J la voie par ail Iton peut se rapprocher peut-être dtune solution de cette question. Soit OJle premier nombre de la deuxièrne classe, on a 1 + OJ== au OJ; contraire (J) + 1 ==(OJ+ 1) où OJ+ 1 est un nombre parfaitement distinct dt OJ.Tout dépend donc, comme on l'aperçoit clairement ici, de la position du fini par rapport à l'infini; si le fini précède, il passe dons l'infini et y disparaît; s'il cède le pas cependant et prend place après l'infini, il subsiste et se combine avec celui-ci en
un infini nouveau, parce que lnodifié »4.

1 Lettre à Laswitz, du 15 février 1884 in G.Métrios, Cantar a tart, Sival Presse, 1968. 2 Expression citée par J.Largeault, L'intuitionnisme, Puf, p.76. 3 Lettre à Schonflies, in J.Cavaillès, Philosophie lnathématique, Hermann, 1937, p.181. 4 « Fondements... », op.cit., p.45.
Il

Ainsi, ce n'est pas seulement en tant que concept limité au cadre des mathématiques que la notion de nombre transfi11Ï est développée par Cantor, les nombres transfinis auraient également vocation à servir d'instrument d'élucidation philosophique. Le projet est plus qu'une hypothèse, il apparaît dans divers textes où des citations philosophiques vieIU1ent conforter certaines démonstrations mathématiques; c'est particulièrement le cas dans Fondements d'une théorie générale des ensembles, traduit par la revue Acta Mathematica dès 1883. Cantor y mentionne clairement: ont une existence aussi certaine que

1) que les nombres transfinis celle des nombres entiers naturels;

2) que sa théorie a pour but une extension qui permettra d'élargir le champ d'application des mathématiques, non seulement aux sciences naturelles mais aussi à la philosophie; 3) que le criticisme kantien a empêché les progrès de la métaphysique comme ontologiel rationnelle, et que la science est en réalité métaphysique dans son fondement et ses résultats. Nous pouvons alors penser que, peut-être, une certaine confusion d'éléme11ts métaphysiques au des genres, en l' occurre11ce l'introduction
1 Donnons d'emblée une première idée de l'ontologie, avant d'y revenir plus longuement. Aristote fut le premier à définir la métaphysique comme science dont l'objet n'est pas un secteur de l'être - ex. : la nature pour la physique - mais «l'être en tant qu'être », cf. Métaphysique, [20], [1025 b], Vrin 1981. C'est la métaphysique qui reçoit le nom d'ontologie du cartésien Clauberg au XVIIième siècle: «pour signifier l'insuffisance de la métaphysique à épuiser la déterrnination d'universalité qu'implique la question de l'être ». Le terme ontologie restera à la suite de Wolff, au XVlllième siècle, et jusqu'à la Critique de E.Kant, synonyme de métaphysique générale, laquelle a pour objet le monde, l'âme, Dieu, cf. Encyclopédie philosophie universelle, Puf, 1990. D'après E.Gilson, (L'Etre et l'Essence, J.Vrin, 1948, chap.V: «Aux origines de l'ontologie », p.168) au moment où le terme ontologie se diffuse par l'emploi qu'en fait Ch.W olff, celle-ci tend à tourner

le dos à « la science de l'être en tant qu'être», science qui avec Aristote et Thomas
d'Aquin explorait les rapports entre l'essence et l'existence, l'acte et la puissance, la substance et les accidents, la matière et la forme, les formes de la causalité. Dans une acception plus générale, « l'ontologie d'une discipline répond à la question:
à quoi celle-ci attribue-t-elle l'existence et en quel sens?
» (J-P.Ginisti).

12

sein des notions de la théorie des ensembles, permettrait d'expliquer l'ambiguïté décrite plus haut, et qu'il conviendrait de faire la part de ce qui revient rigoureusement aux mathématiques en la dissociant des spéculations philosophiques. Mais cela est-il possible dans le cas de la théorie cantorienne? En effet, répétons-le, plusieurs incertitudes paraissent affecter cette théorie: d'un côté des concepts fondateurs qui semblent avoir une cohérence formelle et une reconnaissance assez large chez les mathématiciens, de l'autre côté, des doutes sur certains développements, de la part des mêmes mathématiciens, voire, pour d'autres, un rejet pur et simple de la théorie. Or, si la théorie des ensembles est bien le tronc commun mathématique, il faut supposer que certains termes font défaut ou bien que d'autres sont erronés, afin de pouvoir expliquer les difficultés. Parmi ces COl1Stats qui portel1t aux interrogations, nous pouvons relever que K.Gôdel, qui est parti des paradoxes ensemblistes pour démontrer son théorème d'incomplétude, affirmait que les nombres transfinis avaient une cohérence logique interne et qu'il n'était pas exclu qu'ils puissent un jour trouver une correspondance dans la réalité physique. Cependant, malgré le traitement formel des antinomies initiales, il n' a pas été donné, du moins à notre connaissance, de réponse définitive quant à la réelle fécondité de la théorie des transfinis dans les applications concrètes, applications pourtant envisagées sérieusement par Cantor. L'objectif que nous nous proposons ressort donc assez clairement des précédentes remarques: nous voulons rappeler le mode de formation des nombres transfinis (partie I), pour examiner ensuite l'origine des difficultés que la théorie des ensembles, dont les tréll1sfinis sont issus, génère (partie II). L'appréciation des difficultés logiques ou mathématiques nous permettra d'approfondir la signification de ces nombres et par suite nous serons davantage en mesure d'expliquer le sens qu'il convient d'accorder au projet d' une ontologie qui s' appuierait sur la théorie des transfinis (partie III). Enfin, ayant traité de la possibilité de principe qui autorise la philosophie à recourir à de telles notions, il faudra finalement examiner les raisons qui font obstacle ou favorisent ce projet d'une mathématique qui aurait, d'après son auteur, quelque chose à apporter en philosophie (partie IV). Il semble d' autre part, particulier, le désigner aussi que l'inspiration, d'une part, l'ambition philosophique, aient orienté le mathématicien vers un concept très transfini, qui par ses définitions paraît en mesure de bien des structures mathématiques que des concepts 13

descriptifs de certains contenus philosophiques, et tout spécialement la notion de réflexivité. Selon nous, Cantor a estimé avoir en sa possession un concept clé, celui dont pouvaient rêver les philosophes qui espéraient introduire de la rigueur formelle en métaphysique. Mais ce faisant devaitil introduire jusque dans le formalisme les difficultés liées à la réflexivité, ainsi que des questions qui se rapportent aux fondements de l'ontologie. C'est donc le concept de transfini qui est l'objet principal de cet essai, plus que l'histoire de la pensée cantorienne en la matière. Notre réflexion s'organise ainsi de manière à faire apparaître l'intention philosophique de Cantor, que nous discutons à chaque étape par des développements extérieurs à sa pensée et susceptibles d'invalider ou de confirmer les signilications que l'auteur lui-même attribue aux transfinis quand il les rapporte à l' o11tologie. Parmi ces significations, l'Ul1e d'entre elles s'avère particulièrement importante. Son interprétation constitue une partie de notre argumentation en faveur du projet cantorien. Plusieurs raisons amènent à utiliser, au sujet des transfinis, la notion de «synthèse
organ.iqu,e ». Or, on a vu dans ces termes une analogie excessive, sinon une

comparaison délirante, car la formule est utilisée par Cantor à l'époque où s'est déclarée la crise. que N.Charraud a qualifiée de «psychose »1. En réalité, les connaissances philosophiques de Cantor le conduisaient à concevoir la «synthèse organique» comme une expression de l'idée platonicienne, correspondance concrète de ce que pouvait être au plan formelle concept général de transfini. Or" l'examen montre que l'analogie est loin d'être excessive et qu'elle COl1Stitue l'axe de la problématique ontologique de cette théorie. En explicitant cette intuition, et en développant son sens métaphysique dans le prolongement du réalisme cantorien, nous voulons contribuer à la réflexion sur la nature du transfini.

N.Charraud, Infini et inconscient, essai sur G.Cantor, Anthropos-Economica, p.2, p.5 et ch.XV « La maladie ».
1

1994,

14

Soyez le premier à déposer un commentaire !

17/1000 caractères maximum.