Groupesd et invariants dans l’oeuvre de Hermann Weyl

Résumé des travaux en cours

La présente thèse s’inscrit dans le projet de recherche intitulé « la mathématisation comme problème. » Notre but consiste à résoudre trois difficultés d’ordre épistémologique, à partir de l’étude partielle des ouvrages mathématiques, physico-mathématiques et philosophiques de H. Weyl. (i) Que faut-il entendre par axiomatisation et formalisation en mathématiques ? Nous avons analysé ces processus tels qu’ils sont à l’œuvre dans les écrits Weyl consacrés aux surfaces de Riemann (1913) ou aux représentations de groupes (1925). Par exemple, en 1913, il définit sous forme axiomatisée les concepts de variété bidimensionnelle et de surface de Riemann. En outre, dans certains écrits à caractère épistémologique, Weyl a pu distinguer deux types d’axiomatiques en mathématiques : le premier aurait pour objectif de fonder cette science, le second consisterait en définitions implicites de concepts, indépendants de la nature des objets auxquels ils se rapportent. Cela posé, il faut savoir que Weyl a également émis de nombreuses réserves quant à l’usage systématique de concepts hautement formalisés en mathématiques. On le voit notamment à son adhésion partielle à l’intuitionnisme de Brouwer au cours des années 20. Nous essaierons donc de comprendre comment se positionne Weyl par rapport à Hilbert et, surtout, par rapport à l’école algébrique allemande, dont les représentants les plus éminents sont E. Noether à Göttingen et E. Artin à Hambourg. (ii) Quel parallèle peut-on faire, dans l’œuvre de Weyl, entre ses travaux respectifs en mathématiques et en physique mathématique ? Il faut savoir qu’à partir de 1916, il participe à la mathématisation de la relativité générale. Dans le même temps, il porte toute son attention sur la leçon d’habilitation de Riemann (1854) consacrée à la notion de variété et, par extension, il s’intéresse au développement de la géométrie différentielle qui, précisément, constitue le cadre mathématique par excellence en relativité générale. Au milieu des années 20 s’opère un double basculement dans l’œuvre de Weyl : du côté de la théorie des représentations de groupes en mathématiques et, corrélativement, du côté de la mécanique quantique en physique mathématique. Nous avons commencé par décrire empiriquement les raisons de ce renversement de perspective ; nous souhaiterions l’analyser à la lumière des principes qui régissent respectivement la relativité générale et la mécanique quantique. Nous avons là affaire à deux processus de mathématisation appliqués à deux théories physiques qui ne sont pas réductibles l’une à l’autre. (iii) Quel rapport y a-t-il plus généralement entre le développement d’une théorie physique et sa mathématisation ? L’étude de l’œuvre de Weyl nous permet de rejeter simultanément deux réponses insatisfaisantes à cette question. (a) L’hypothèse d’une harmonie préétablie entre ces deux sciences relève d’une pétition de principe qui empêche de décrire empiriquement et d’expliquer épistémologiquement leurs relations. (b) L’hypothèse d’une déduction régulière et univoque de certains principes de physique à partir de concepts mathématiques n’est pas non plus défendable : il se trouve qu’un même concept mathématique – par exemple le groupe spécial des transformations de Lorentz en relativité restreinte – peut être attaché à des interprétations physiquement distinctes – celle de Poincaré, qui reste suspendue à l’hypothèse de l’éther, celle d’Einstein, qui la nie. L’étude de l’œuvre de Weyl nous montre en réalité qu’il existe des concepts transversaux : on les retrouve aussi bien en mathématiques qu’en physique, de plus ils sont le fruit de problématiques communes : détermination des invariants par certaines transformations, mise au jour des principes de symétrie qui sont au fondement de ces mêmes invariants et qui, surtout, entrent en jeu dans l’explication et la prédiction de certains phénomènes physiques. Qu’il nous suffise de nous référer à la prédiction de l’existence de certaines particules élémentaires grâce à l’étude des représentations du groupe SU(3).