Les phénomènes complexes et instationnaires au sein des cavités rotor/stator des turbopompes spatiales sont renommées en raison de leur capacité à engendrer des problèmes de vibrations ayant un impact dangereux sur le fonctionnement des moteurs. Ces dynamiques, couramment désignées sous le terme de "bandes de pression", résultent d’un mouvement oscillatoire du fluide, induisant un couplage avec la structure environnante, posant ainsi un risque significatif sur le fonctionnement de la turbopompe. L’objectif principal de cette thèse est de comprendre et de prédire numériquement l’origine de ces "bandes de pression" dans un contexte multiphysique. Dans cette optique, cette étude initie une investigation numérique et théorique des problèmes de vibrations forcées au sein d’une cavité académique, ainsi que des problèmes d’interaction fluide-structure, en mettant l’accent sur les instabilités hydrodynamiques et aéroélastiques. Ces écoulements se caractérisent intrinsèquement par leur tridimensionalité, principalement en raison de la présence de couches limites sur le rotor, le stator et le carénage de la cavité. En conséquence, l’instabilité se manifeste sous forme de structures cohérentes, à la fois axisymétriques et/ou sous formes de spirales, qui peuvent être influencées par des forces dynamiques générées soit par la fusée elle-même soit par la turbopompe. Des expériences ont démontré que les écoulements dans les cavités axiales des turbopompes présentent un autre type d’instabilité provoquant un phénomène de flottement du rotor. Ces deux problèmes sont abordés dans cette étude en utilisant une simulation des grandes échelles (SGE), une approche dynamique des fluides numériques instationnaire. Cet outil a en effet révélé que la dynamique sous-jacente de l’écoulement peut être retrouvée, contrairement aux approches stationnaires telles que les simulations de type Navier-Stokes moyennées de Reynolds (RANS). Grâce à cette prédiction, il est démontré que l’instabilité de l’écoulement à l’intérieur d’une turbopompe à hydrogène à échelle réduite est liée à des tourbillons qui présentent le potentiel de se coupler avec le rotor ainsi qu’avec l’acoustique de la cavité. Ce couplage tripartite entre le fluide, le rotor et la cavité est spécifiquement traité en développant un code de mécanique des structures permettant des analyses modales ainsi que des calculs élastodynamiques. Grâce à l’ensemble de ces outils numériques, des problèmes de vibrations forcées sont d’abord étudiés en utilisant une configuration simple comprenant une géométrie cylindrique. Ce premier volet de l’étude est ensuite étendu aux écoulements de cavité en rotation fermée, où la vibration du rotor provoque un décalage des modes hydrodynamiques et, dans certains cas, une suppression totale de ces modes. En réaction à ces réponses de l’écoulement seul, et pour aborder le context multiphysique, le solveur de mécanique des structures est couplé au code LES grâce à une chaîne de couplage numérique. Cette approche permet de résoudre des problèmes instationnaires et couplés fluide-structure. La stratégie de couplage adoptée est d’abord validée avec succès à l’aide de deux cas test: une poutre vibrante immergée dans un fluide immobile et un cas de vibration induite par les tourbillons (VIV). Le solveur couplé est ensuite utilisé pour simuler l’interaction fluide-structure entre le rotor et l’écoulement interne de la turbopompe. Les résultats confirment le couplage vibroacoustique entre le fluide, le disque du rotor et la cavité, tel qu’observé lors des expériences. Cette simulation multiphysique a également permis de calculer la quantité nécessaire d’amortissement pour stabiliser un tel système, démontrant ainsi l’efficacité du couplage développé. Enfin, un cadre d’analyse de stabilité linéaire globale (GLSA) est détaillé et mis en oeuvre pour fournir un aperçu des modes propres dominants et de leurs taux de croissance correspondants à l’intérieur de ces systèmes.