Première partie

La physique quantique divise les particules en deux familles, les bosons et les fermions, en fonction de leurs propriétés collectives. En 1925, A. Einstein démontra que les bosons subissaient à basse température une transition de phase, appelée depuis condensation de Bose-Einstein, dans laquelle un nombre macroscopique de particules s'accumulent dans l'état fondamental du système. Le système obtenu est un fluide quantique régi à l'échelle macroscopique par les lois de la physique quantique. Une des conséquences les plus spectaculaires de la condensation de Bose-Einstein est son caractère superfluide se caractérisant par une disparition de la viscosité. Une autre preuve de condensation est l'existence de tourbillons quantiques apparaissant lorsque l'on tente de mettre en rotation le fluide.
Après une brève revue des techniques expérimentales utilisées pour atteindre la condensation de Bose-Einstein, je présenterai certaines expériences ayant permis l'observation et la caractérisation de tourbillons quantiques dans ces systèmes.

Deuxième partie

La modélisation mathématique du condensat de Bose-Einstein est basée sur l'équation de Gross-Pitaevskii, qui est une équation de Schrödinger non-linéaire avec un terme de piégeage. Je présenterai plusieurs méthodes numériques (propagation en temps imaginaire, minimisation de l'énergie par gradients de Sobolev) développées pour le calcul numérique de solutions stationnaires. Une nouvelle méthode pour le traitement de la contrainte de norme unitaire sera aussi analysée. Je montrerai ensuite comment ces méthodes ont été implémentées dans des codes 2D et 3D basés sur différents types de discrétisations (différences finies d'ordre six, éléments finis adaptatifs).
Les résultats numériques seront illustrés par des simulations 2D et 3D qui permettent d'analyser la structure des tourbillons quantiques observés dans les expériences de l'ENS et de suggérer de nouvelles configurations. Quelques exemples de simulations se trouvent sur la page Web http://www.ann.jussieu.fr/~danaila.