Cette thèse porte sur l'analyse de stabilité de couplage entre deux systèmes, l'un de dimension finie et l'autre infinie. Ce type de systèmes apparait en physique car il est intimement lié aux modèles de structures. L'analyse générique de tels systèmes est complexe à cause des natures très différentes de chacun des sous-systèmes. Ici, l'analyse est conduite en utilisant deux méthodologies. Tout d'abord, la séparation quadratique est utilisée pour traiter le côté fréquentiel de ce système couplé. L'autre méthode est basée sur la théorie de Lyapunov pour prouver la stabilité asymptotique de l'interconnexion. Tous ces résultats sont obtenus en utilisant la méthode de projection de l'état de dimension infinie sur une base polynomiale. Il est alors possible de prendre en compte le couplage entre les deux systèmes et ainsi d'obtenir des tests numériques fiables, rapides et peu conservatifs. De plus, une hiérarchie de conditions est établie dans le cas de Lyapunov. L'application au cas concret du forage pétrolier est proposée pour illustrer l'efficacité de la méthode et les nouvelles perspectives qu'elle offre. Par exemple, en utilisant la notion de stabilité pratique, nous avons montré qu'une tige de forage controlée à l'aide d'un PI est sujette à un cycle limite et qu'il est possible d'estimer son amplitude.