L’étude de la stabilité des écoulements laminaires satisfaisant un système d’équations hyperboliques a beaucoup attiré l’attention des physiciens et des mathématiciens en raison de son apparition dans de nombreux modèles en mécanique des fluides, par ex. Rayleigh-Taylor, Kelvin-Hemholtz, détonation de Zeldovitch-von Neumann-D ̈oring. En particulier, l’existence de modes normaux pour les problèmes linéarisés autour de ces écoulements stationnaires a conduit à de nombreux résultats théoriques et numériques. Pendant ce temps, l’utilisation des résultats d’instabilité linéaire pour obtenir des résultats d’instabilité non linéaire est un défi mathématique en raison du manque d’informations sur le spectre complet du problème linéarisé. Différents cadres abstraits sont développés pour prouver l’instabilité non linéaire avec des applications à divers systèmes non linéaires en mécanique des fluides. Dans cette thèse, nous nousintéressons à un modèle particulier, l’instabilité visqueuse de Rayleigh–Taylor pour un profil lisse de densité croissante. Le premier objectif est de décrire et d’utiliser une nouvelle méthode, basée sur la théorie des opérateurs, pour prouver l’existence de multiples modes normaux au problème linéarisé. Ces multiples modes normaux, ainsi que les estimations d’énergie non linéaires, nous aident à prouver une instabilité non linéaire générale, étendant un cadre célèbre de Guo et Strauss et de Grenier. Il semble pertinent d’appliquer cette méthode à d’autres systèmes non linéaires, notamment le model de bi-fluid ou les équations de détonation de Zeldovitch-von Neumann-D ̈oring (généralisant les résultats semi-classiques du problème linéarisé déjà connus).