Ces dernières décennies, des preuves observationnelles ont montré que les systèmes stellaires sphéroïdaux présentent une importante diversité cinématique. Des plus grandes galaxies aux plus petits amas stellaires, la distribution de vitesse des étoiles présente de l’anisotropie dans différentes directions (une préférence pour les orbites plutôt allongées ou plutôt circulaires), ainsi que de la rotation globale (une direction préférentielle de la vitesse azimutale). Il a aussi été montré que cette diversité varie au cours de l’histoire de l’Univers, par des changements brutaux ou des perturbations régulières. Ces observations ont ainsi récemment renouvelé l’intérêt de la modélisation de systèmes stellaires sphériques présentant des profils d’anisotropie et de rotation divers. Cependant, la stabilité et l’évolution des systèmes sphéroïdaux anisotropes en rotation a été peu étudiée. À quel degré d’anisotropie et de rotation s’attend-on après la formation de ces structures, et à différentes époques de leur évolution ? Comment évoluent-elles lorsqu’elles sont isolées? Comment leur environnement influe-t-il sur leur cinématique? La réponse linéaire de ces objets joue un rôle central dans leur destin. D’une part, la compréhension de leur stabilité est nécessaire à une modélisation cohérente. En effet, on peut alors identifier l’ensemble des états autorisés dans lesquels les amas stellaires peuvent être lorsqu’on les observe. D’autre part, l’identification des attracteurs parmi l’ensemble des équilibres stables est critique pour analyser la manière dont ils évoluent et interagissent avec leur environnement, ce qui permet de contraindre leurs scénarios de formation et d’évolution. Dans cette thèse, j’utilise la méthode de la matrice de réponse, complémentée par des simulations à N corps, pour évaluer la stabilité linéaire d’équilibres sphériques. J’étends cette méthode des matrices aux amas en rotation, ce qui lui donne un degré de liberté supplémentaire, et je développe des méthodes numériques qui optimisent son évaluation. Ces nouvelles méthodes me permettent d’effectuer de nombreuses analyses de stabilité, sur de nombreux amas présentant de l’anisotropie à des degrés et saveurs divers, ainsi qu’une variété dans l’amplitude et la distribution du moment angulaire net. Comme les amas stellaires sont des systèmes intrinsèquement résonants, j’interprète la stabilité des amas stellaires anisotropes en rotation par le biais de trois processus résonnants de déstabilisation connus : l’instabilité d’orbite radiale (ROI) dans les systèmes radialement anisotropes, l’instabilité d’orbite circulaire (COI) dans les systèmes tangentiellement anisotropes, et l’instabilité d’alignement (TI) dans les systèmes tournants. Je montre que les systèmes sans rotation présentant un haut degré d’anisotropie sont instables, autant dans le régime radial (ROI) que dans le régime tangentiel (COI). La rotation entraîne la déstabilisation des systèmes anisotropes (via la TI), ce qui réduit d’autant le domaine de stabilité autour des systèmes isotropes. Cela signifie que les amas sphériques stables ne peuvent pas avoir une anisotropie ou une rotation importantes, et à l’inverse que des systèmes fortement anisotropes ou en rotation rapide ne peuvent pas être sphériques. À partir d’une étude détaillée des processus de déstabilisation, d’une part en termes de résonances avec la méthode des matrices, d’autre part en termes de position dans l’amas grâce à des simulations à N corps, je présente un critère de stabilité pour les sphères tangentiellement anisotropes en rotation et avec fort cisaillement, en accord avec la limite de stabilité d’un large échantillon de simulations. Ces résultats montrent que les processus résonnants et les modes auto-maintenus peuvent être des sources importantes de l’évolution séculaire des amas stellaires sphéroïdaux à haute complexité cinématique. Ces résultats ont une importance particulière à une époque où les simulations cosmologiques atteignent une résolution suffisante pour analyser leur dynamique, afin de mieux comprendre comment ils évoluent au cours de l’histoire de l’Univers.