Depuis Ruelle, puis Rugh, Baladi, Tsujii, Liverani et d'autres, on sait que la fuite vers l'équilibre statistique dans de nombreux systèmes dynamiques chaotiques est gouvernée par le spectre de résonances de Ruelle de l'opérateur de transfert. A la suite de récents travaux de Faure, Sjöstrand et Roy, cette thèse propose une approche semiclassique de systèmes dynamiques chaotiques de type partiellement expansifs. Une partie du mémoire est consacrée aux extensions d'applications expansives vers des groupes de Lie compacts, en se reistreignant essentiellement aux extensions vers le groupe spécial unitaire SU(2). On se sert de la théorie des états cohérents pour les groupes de Lie, développée dans les années 70 par Perelomov et Gilmore, pour mettre en oeuvre les outils semiclassiques et la théorie des résonances de Helfer et Sjöstrand. On en déduira une estimation de Weyl et un gap spectral pour les résonances de Ruelle prouvant que la fuite vers l'équilibre statistique dans ces modèles est gouvernée par un opérateur de rang fini (en accord avec les résultats obtenus par Tsujii pour les semi-flots partiellement expansifs). On étend ensuite cette approche aux modèles "ouverts" pour lesquels la dynamique présente un ensemble captif de Cantor. On montrera l'existence d'un spectre discret de résonances de Ruelle et on prouve une loi de Weyl fractale, analogue classique du théorème de Lin-Guillopé-Zworski pour les résonances du laplacien hyperbolique sur les surfaces à courbure négative constante. On montre aussi un gap spectral asymptotique. On expliquera pourquoi ces modèles semblent être des objets d'étude adaptés pour approcher des questions importantes et difficiles du chaos classique ou quantique. On pense en particulier au problème de la minoration du nombre de résonances, étudié dans le contexte des applications quantiques par Nonnenmacher et Zworski.